Математик из Нью-Йоркского университета утверждает, что одна из моделей OpenAI за сутки вышла на неизданные результаты его работы после того, как узнала его имя. Теперь он принципиально не использует ИИ-инструменты компании для проработки оригинальных идей. В OpenAI утверждают, что его запросы никак не могли повлиять на обучение модели.
Тристан Бакмастер поделился предупреждением через несколько дней после того, как OpenAI опубликовала 722 научных статьи, написанных ИИ. Он отметил, что в одном из его аккаунтов обучение модели по умолчанию до сих пор включено.
Спонсорский материал
Спонсорский материал
Что, по словам Бакмастера, случилось с его неизданной работой
Бакмастер и Левент Альпеге, математик из Anthropic — конкурента OpenAI, потратили почти год на решение одной из задач, близких к уравнениям Навье–Стокса — известной математической головоломке о движении жидкостей, за которую назначен приз $1 млн.
Бакмастер использовал Codex — помощник для программирования от OpenAI — в платном личном аккаунте. Черновики загрузились на серверы OpenAI.
В беседе с CNBC он сказал, что до того, как его имя стало известно OpenAI, прогресса не было. После этого, по его словам, агенты OpenAI буквально за сутки вышли «ровно на тот же этап», где были он и Альпеге.
Сначала Бакмастер не выдвигал обвинений. Сейчас он говорит, что совпадение по времени выглядит подозрительно.
«Пока они не знали моего имени, у них не было результатов. Как только узнали — сразу двинулись дальше ровно с той точки, где мы остановились… Это кажется мне странным», — отметил он.
Бакмастер утверждает, что непосредственно перед официальным объявлением OpenAI о доказательстве по Навье–Стоксу 8 сентября компания предложила сделать его единственным автором статьи, если он откажется от Альпеге. Он не согласился.
Спонсорский материал
Спонсорский материал
OpenAI отрицает какую-либо связь с его данными.
«Мы можем однозначно заявить: невозможно, чтобы запросы доктора Бакмастера к Codex за последние два месяца каким-либо образом, включая обучение, повлияли на систему», — такие слова представителя OpenAI приводит ABC.
Почему Бакмастер советует ученым держать идеи подальше от ИИ
Бакмастер продолжает использовать Codex, но больше не загружает туда оригинальные идеи, которые собирается публиковать.
Он отметил: рецензенты грантовых заявок часто вставляют исследовательские проекты в ИИ-инструменты для создания кратких обзоров, фактически передавая неизданные материалы компаниям-разработчикам.
Октябрьский релиз OpenAI включал задачи из 4000 нерешенных математических проблем. Бакмастер рассказал, что из-за этого пострадали исследовательские проекты молодых математиков.
Ведущий исследователь OpenAI Себастьен Бюбек заявил The New York Times, что пытался помочь Бакмастеру.
Представитель компании отметил, что OpenAI «значительно продвинулась» в решении еще одной задачи с призовым фондом $1 млн.