Google Threat Intelligence Group (GTIG) заявила, что впервые выявила злоумышленников, использующих фреймворки на базе больших языковых моделей (LLM) для автоматизации поиска и эксплуатации уязвимостей в программном обеспечении без пошаговых указаний человека.
В отчете, опубликованном в понедельник, исследователи описали инструмент, обнаруженный на открытом staging-сервере, который сравнивал версии программного обеспечения, выявлял потенциальные уязвимости, а также создавал и выполнял код эксплойтов.
«В прошлом квартале GTIG впервые выявила субъектов угроз, использующих фреймворки LLM для полной автоматизации поиска и эксплуатации уязвимостей без участия человека», — заявили исследователи.
GTIG обнаружила открытый staging-сервер, на котором размещался многоагентный фреймворк для исследования уязвимостей и создания инструментов их эксплуатации. Он был настроен на непрерывный дифференциальный анализ, сравнивающий код до и после публикации исправлений в популярных веб-приложениях. Модель автономно обнаруживала и эксплуатировала уязвимости в программном обеспечении.
Google предупредила, что такие автоматизированные рабочие процессы оставляют организациям меньше времени на установку исправлений безопасности до того, как злоумышленники разработают способы эксплуатации уязвимых систем.
В своем отчете за сентябрь GTIG заявила, что «еще не наблюдала, чтобы субъекты угроз развертывали полностью автономные конвейеры против целей в реальных условиях».

Эволюция злоумышленников, использующих большие языковые модели для эксплойтов. Источник: Google
ИИ-агенты сокращают сроки установки исправлений
Злоумышленники используют фреймворки ИИ-агентов, чтобы автоматизировать обратную разработку патчей с помощью дифференциального анализа и превращать уязвимости N-day — публично известные недостатки безопасности — в оружие.
В отчёте предупреждается, что большие языковые модели позволяют злоумышленникам масштабировать «цепочки эксплуатации интернет-серверов без участия человека».
По данным Google, с января по август число раскрытий уязвимостей увеличилось более чем вдвое. В 2025 году в среднем эксплуатировались восемь уязвимостей нулевого дня в месяц, а с января по август 2026 года — 11 в месяц; в августе их число достигло 22.

Количество уязвимостей, эксплуатировавшихся с использованием n-day и уязвимостей нулевого дня, с января 2025 года по август 2026 года. Источник: Google
Эти автоматизированные рабочие процессы также ускоряют переход злоумышленников от первоначального доступа к получению прав администратора домена. В отчете упоминается кампания PaperCut в августе 2026 года, в ходе которой злоумышленники достигли такого уровня контроля за считанные минуты, по данным компании GreyNoise, занимающейся кибербезопасностью.
По теме: Уязвимость PHP показывает, что «апокалипсис уязвимостей» ИИ идет по плану: гендиректор Immunefi
Cloudflare также сообщила о попытках эксплуатировать уязвимости PHP против своих клиентов в октябре. По данным GTIG, две уязвимости PHP, связанные с этими попытками эксплуатации, были обнаружены с помощью анализа LLM: техническая информация, опубликованная до исправления 21 октября, позволила исследователям и злоумышленникам изучить уязвимости и попытаться провести эксплуатацию, говорится в отчете.
Компания Anthropic, занимающаяся разработкой ИИ, также предупредила в сентябрьском отчете, что атаки с использованием ИИ развились в многоагентные операции, автоматизирующие большую часть цикла кибератаки — от обнаружения до эксплуатации и кражи данных.
Anthropic описала злоумышленников, проводящих «кампании против нескольких жертв с использованием агентного ИИ, для которых ранее потребовались бы команды операторов».
Журнал: Как сообщение «не туда» превратилось в криптомошенничество на $3,4 млн

