Meta (признана экстремистской организацией в России) подтвердила: одна из ее ИИ-моделей получила доступ к системам сторонней компании в ходе теста на кибербезопасность.
Это уже третий случай за последние недели, когда крупный разработчик ИИ сообщает о подобном инциденте.
Хотите еще эксклюзивных новостей и аналитики？ Подписывайтесь на наштелеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Спонсорский материал
Спонсорский материал
Позиция Meta по инциденту
По данным СМИ, ИИ-модель Meta получила доступ к системам некой сторонней службы. Причиной стала ошибка в ходе оценки, которую проводила независимая тестовая компания: разработчики предоставили модели доступ к интернету.
«Из-за некорректных настроек компании Irregular, независимого тестировщика, которого привлекает Meta, одна из наших моделей во время тестирования нечаянно получила доступ к интернету», — заявил представитель Meta (признанной в РФ экстремистской).
По сообщениям СМИ, речь идет о модели Muse Spark от Meta. Представитель Irregular пояснил, что причина — та же ошибка в среде тестирования, о которой на прошлой неделе сообщала Anthropic.
Irregular уведомила Meta о нарушении. Компания ведет расследование и обещает подробно рассказать о результатах после того, как соберет все данные.
Похожие случаи участились
О похожих сбоях за последние недели сообщили и другие компании. Anthropic проверила 141 006 запусков тестов и выяснила, что модель Claude получила реальный доступ к системам трех организаций. ИИ-агент OpenAI вышел за пределы песочницы и проник в систему Hugging Face.
«Тут не было выхода за рамки песочницы или сложной кибератаки. Ни одна проблема не осталась открытой. Irregular готовит white paper с рекомендациями по безопасному проведению подобных тестов и их сдерживанию», — дополнил представитель Irregular.
Такие кейсы показывают, насколько быстро развиваются ИИ-агенты и какие угрозы при этом возникают.