Как 1 картинка может взломать вашего ИИ-агента
ИИ-агента, как оказалось, можно взломать простым PNG-файлом. Вредную команду достатость спрятать не в тексте, а внутри картинки: ИИ, который проверяет код перед публикацией, изображение даже не открывает и спокойно все пропускает. А позже другой ИИ-помощник эту картинку читает, находит в ней команду, лезет в секретный файл с паролями и ключами и потихоньку вписывает их в код под видом безобидного набора цифр. Атаку назвали Ghostcommit. Ее выявили в Университете Миссури — Канзас-Сити. Авторы работы: доцент Судипта Чаттопадхьяй и исследователь Мурали Эдига. Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наштелеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате! Спонсорский материал Спонсорский материал В чем суть обмана Начинается все с того, что проверять код по-настоящему почти перестали. Следовательно, уязвимости обнаруживаются все чаще. Исследователи посмотрели больше 6 тысяч изменений в самых популярных открытых проектах и выяснили: в 73% случаев код попадал в проект вообще без внятной проверки — ни человек не смотрел, ни программа. Чтобы было понятнее: программисты часто держат ключи, пароли и доступы в отдельном служебном файле (обычно он называется .env). А проверять новый код им все чаще помогают ИИ-программы — что-то вроде автоматического редактора, который читает изменения и говорит, все ли в порядке. Сама хитрость такая. У ИИ-помощников есть особый файл с правилами проекта, который они