Материалы по теме: AGMAI

OpenAI объявила о создании независимой консультативной группы по математике и искусственному интеллекту (AGMAI). Совет из девяти человек призван помогать компании и другим разработчикам ИИ в вопросах взаимодействия с математическим сообществом, включая порядок представления и публикации новых результатов.Совет базируется в Институте передовых исследований (IAS) в Принстоне. В его состав вошли видные учёные из Стэнфорда, Гарварда, Оксфорда и Кембриджа, среди которых есть лауреаты Филдсовской премии и стипендий MacArthur. OpenAI заявила, что группа будет действовать независимо: члены совета не получают от компании оплату, могут публиковать свои рекомендации и имеют ранний доступ к исследованиям OpenAI. По словам компании, ценность совета заключается в том, что его участники способны проявлять собственное суждение и оспаривать позиции OpenAI.Реакция научного сообществаУчёные отнеслись к инициативе с осторожностью. Исследователи отметили, что создание совета — хороший первый шаг, но остались вопросы о его реальном влиянии и о том, насколько OpenAI готова прислушиваться к рекомендациям. Мартин Хайер, профессор математики в Imperial College London и EPFL, в своём блоге подчеркнул, что группа по-настоящему независима от OpenAI и других компаний-разработчиков «фронтальных» моделей ИИ. Он отметил, что участники не подписывали ограничительные соглашения о публичных высказываниях и полагаются на техническую поддержку IAS.Некоторые математики выразили сомнения в репрезентативности совета. Симон Машадо из ETH Zurich назвал ситуацию «обёрнутой в тайну» и усомнился в том, что девять членов совета могут адекватно представлять интересы всего сообщества. Франсуа Фурнье-Фасио из Heriot-Watt University описал своё отношение как «амбивалентное», назвав совет «слоновой башней». Он и другие эксперты указали, что реальность, с которой сталкиваются элитные математики, сильно отличается от проблем большинства специалистов, чья работа и условия труда меняются из-за быстрого развития ИИ.Задачи советаОсновная причина создания AGMAI — недавние споры вокруг публикации математических результатов, полученных с помощью ИИ. OpenAI ранее столкнулась с критикой за то, что не давала должных кредитов человеческому труду, на котором основаны её модели, и за некорректную коммуникацию с академическим сообществом. Хайер отметил, что ИИ уже оказал глубокое влияние на математические исследования, подняв вопросы атрибуции идей и приоритета.Самой актуальной задачей совета стала координация выпуска множества значимых результатов в математике, которые, по данным OpenAI, были получены её внутренней моделью. Компания случайно раскрыла, что её новая неанонсированная модель, ранее решившая одну из задач Тысячелетнего приза, теперь «решила более 100 давно открытых проблем в большинстве областей математики». OpenAI также упоминала, что приближается к решению ещё одной задачи Тысячелетнего приза. Совет пока собирает мнения коллег через обсуждения, публичные формы обратной связи и блог Proofs and Prompts, ставший ключевой площадкой для диалога математиков об ИИ.

OpenAI создала независимый совет математиков