Президент США Дональд Трамп и руководители технологических компаний подписали добровольное соглашение, призванное обеспечить, чтобы их модели ИИ «работали так, как задумано».
Соглашение заключено на фоне растущей обеспокоенности безопасностью все более мощных передовых систем ИИ. Трамп выступает против замедления темпов развития, ссылаясь на конкуренцию с Китаем. Соглашение возлагает на компании, разрабатывающие эти системы, значительную часть ответственности за управление рисками, связанными с ИИ.
Соглашение Белого дома под названием «Совместное обязательство в отношении передовых систем» предусматривает внутренние меры контроля, независимые внешние аудиты и надзор на уровне совета директоров, «чтобы гарантировать, что его модели не будут взламывать технические системы или получать к ним доступ непредусмотренными способами». Соглашение также допускает возможность со временем закрепить эти обязательства в законе или нормативных актах, отмечая, что это может иметь смысл.
Источник: Rapid Response 47
«Думаю, я наблюдаю масштабное саморегулирование. Они понимают, что должны регулировать себя сами», — заявил Трамп журналистам в Белом доме.
Соглашение в Белом доме подписали генеральный директор Google Сундар Пичаи, генеральный директор Anthropic Дарио Амодеи, генеральный директор Meta Марк Цукерберг, президент OpenAI Грег Брокман, генеральный директор Nvidia Дженсен Хуанг и генеральный директор xAI Илон Маск.
На встрече обсуждались безопасность ИИ, рост отрасли и развитие центров обработки данных. Трамп исключил возможность совместного американо-китайского предприятия по разработке ИИ.
В тот же день Трамп подписал указ, предписывающий исполнительной ветви власти использовать термин «сверхинтеллект» вместо «искусственного интеллекта». По его словам, этот термин «более точно отражает обещания, потенциал и быстро развивающиеся возможности этих технологий».