Материалы по теме: Этика ИИ

Математики, оказавшиеся в центре недавних скандалов, рассказали изданию The Verge, как «детская» конкуренция между гигантами ИИ меняет правила работы в науке. OpenAI заявила о решении легендарной задачи тысячелетия — проблемы Навье-Стокса, описывающей течение жидкостей. Однако вместо празднования исторического достижения многие ученые выразили растущее беспокойство. Решение задачи тысячелетия По данным OpenAI, для поиска решения потребовалось около 10 000 агентов, десятки миллионов долларов вычислительных мощностей и всего 88 часов. Компания узнала, что некоторые исследователи делают прогресс в этой области, и решила проверить, сможет ли её нерелизная модель справиться с задачей. Задача Навье-Стокса входит в список семи проблем тысячелетия, объявленных Институтом математики Клэя в 2000 году. За решение каждой из них положен миллион долларов. За четверть века с момента объявления список сократился только на одну задачу — гипотезу Пуанкаре. Конфликт с Tristan Buckmaster OpenAI узнала, что над проблемой работают профессор Нью-Йоркского университета Tristan Buckmaster и исследователь Anthropic Levent Alpöge. Хотя пара еще не завершила доказательство, их прогресс стал известен компании. Траектория событий вызвала споры, но обе стороны согласны с основной последовательностью действий. Buckmaster сообщил, что после получения предложений от исследователя OpenAI Sébastien Bubeck он столкнулся с давлением. Ему предложили «практически неограниченные вычислительные мощности» для завершения собственной работы и права на единственный авторский отчет OpenAI об открытии. При этом из проекта необходимо было исключить Alpöge, так как его работа в конкурирующей Anthropic была неприемлема для внутренней политики OpenAI. Buckmaster назвал это предложение «взяткой» и отказался. Он также усомнился в том, не использовались ли данные из его промптов в инструменте Codex для улучшения моделей OpenAI. Представитель компании Laurance Fauconnet категорически отрицал это, заявив, что данные за последние два месяца не могли повлиять на систему. Buckmaster остался несговорчивым, отметив, что словам компании нельзя доверять из-за её поведения. Этика и мотивация Buckmaster публично озвучил свою версию событий, превратив свой офис в «комнату управления» для проверки математики и связи с юристами. Bubeck опроверг characterization разговоров как угрожающих, но подтвердил, что предложение ресурсов было сделано и другим математикам. Другой профессор, Andreas Thom из Технического университета Дрездена, также столкнулся с проблемами. OpenAI анонсировала результат, основанный на работе Thoma и Gábor Kun, но изначально не указала их вклад. Позже компания тихо исправила анонс, но не сделала публичного объявления об этом изменении. Thom выразил сомнения в том, что OpenAI действительно контролирует, какие данные используются для обучения моделей. «Я подозреваю, что они даже не знают», — сказал он. По его мнению, это демонстрирует безразличие к академическим нормам. Математики подчеркивают, что их мотивация отличается от целей Big Tech. Для ученых важна красота науки и процесс открытия, а не только престиж. Bubeck, по словам Buckmaster, был шокирован отказом от участия в решении задачи тысячелетия ради чистоты научного процесса. Читайте такжеAnthropic заблокировал учёных, использовавших Claude для исследований биологического оружияOpenAI объявила о решении задачи Навье-Стокса на фоне спора о приоритетеСпециалисты заставили телевизоры LG записывать звук через уязвимости webOS

Математики обвинили OpenAI в игнорировании норм ради победы