Правила Европейского союза по использованию ИИ вполне способны справиться с неконтролируемыми агентами, заявила технический руководитель ЕС Хенна Вирккунен.
После инцидентов в OpenAI и Anthropic во всем мире возникли опасения, что неконтролируемые агенты ИИ могут выйти из-под контроля человека.
«Мы видим, что безопасность и защищенность очень мощных моделей являются крайне актуальной темой на международном уровне, и в Европе мы хорошо к этому подготовлены», — заявила Вирккунен в интервью Reuters в пятницу.
Закон ЕС об ИИ, регулирующий технологии в зависимости от уровня риска, относится к числу самых строгих в мире нормативных актов в сфере ИИ. Он был принят два года назад.
Вирккунен отвергла критику со стороны тех, кто утверждает, что правила ЕС в сфере ИИ устарели.
«У нас действует Закон об ИИ, и он охватывает весь жизненный цикл этих моделей», — сказала она, добавив, что регуляторы предоставляют компаниям рекомендации по оценке их моделей с учетом рекомендаций 60 экспертов по ИИ.
В конце августа Европейская комиссия запросила у более чем 30 неуказанных компаний, занимающихся ИИ, информацию, попросив предоставить сведения об их мерах безопасности и защищенности.
Вирккунен заявила, что сейчас оценивает полученные ответы.
13 сентября Cointelegraph сообщил, что генеральный директор Anthropic Дарио Амодеи в сообщении в блоге заявил: темпы разработки ИИ слишком высоки и, если их не контролировать, они могут «опередить нашу способность понимать эти системы и управлять ими».
Он сказал, что стремительное развитие ИИ обусловлено его растущей способностью самостоятельно создавать следующее поколение ИИ, то есть рекурсивным самоулучшением.