Google заявляет, что хакеры используют ИИ-агентов для поиска и эксплуатации уязвимостей в ПО

Абстракт:По словам Google, злоумышленники используют ИИ для анализа исправлений безопасности и разработки эксплойтов, оставляя организациям меньше времени на обновление уязвимых систем.

Google Threat Intelligence Group (GTIG) заявила, что впервые выявила злоумышленников, использующих фреймворки на базе больших языковых моделей (LLM) для автоматизации поиска и эксплуатации уязвимостей в программном обеспечении без пошаговых указаний человека.

В отчете, опубликованном в понедельник, исследователи описали инструмент, обнаруженный на открытом staging-сервере, который сравнивал версии программного обеспечения, выявлял потенциальные уязвимости, а также создавал и выполнял код эксплойтов.

«В прошлом квартале GTIG впервые выявила субъектов угроз, использующих фреймворки LLM для полной автоматизации поиска и эксплуатации уязвимостей без участия человека», — заявили исследователи.

GTIG обнаружила открытый staging-сервер, на котором размещался многоагентный фреймворк для исследования уязвимостей и создания инструментов их эксплуатации. Он был настроен на непрерывный дифференциальный анализ, сравнивающий код до и после публикации исправлений в популярных веб-приложениях. Модель автономно обнаруживала и эксплуатировала уязвимости в программном обеспечении.

Google предупредила, что такие автоматизированные рабочие процессы оставляют организациям меньше времени на установку исправлений безопасности до того, как злоумышленники разработают способы эксплуатации уязвимых систем.

В своем отчете за сентябрь GTIG заявила, что «еще не наблюдала, чтобы субъекты угроз развертывали полностью автономные конвейеры против целей в реальных условиях».

Эволюция злоумышленников, использующих большие языковые модели для эксплойтов. Источник: Google

ИИ-агенты сокращают сроки установки исправлений

Злоумышленники используют фреймворки ИИ-агентов, чтобы автоматизировать обратную разработку патчей с помощью дифференциального анализа и превращать уязвимости N-day — публично известные недостатки безопасности — в оружие.

В отчёте предупреждается, что большие языковые модели позволяют злоумышленникам масштабировать «цепочки эксплуатации интернет-серверов без участия человека».

По данным Google, с января по август число раскрытий уязвимостей увеличилось более чем вдвое. В 2025 году в среднем эксплуатировались восемь уязвимостей нулевого дня в месяц, а с января по август 2026 года — 11 в месяц; в августе их число достигло 22.

Количество уязвимостей, эксплуатировавшихся с использованием n-day и уязвимостей нулевого дня, с января 2025 года по август 2026 года. Источник: Google

Эти автоматизированные рабочие процессы также ускоряют переход злоумышленников от первоначального доступа к получению прав администратора домена. В отчете упоминается кампания PaperCut в августе 2026 года, в ходе которой злоумышленники достигли такого уровня контроля за считанные минуты, по данным компании GreyNoise, занимающейся кибербезопасностью.

По теме: Уязвимость PHP показывает, что «апокалипсис уязвимостей» ИИ идет по плану: гендиректор Immunefi

Cloudflare также сообщила о попытках эксплуатировать уязвимости PHP против своих клиентов в октябре. По данным GTIG, две уязвимости PHP, связанные с этими попытками эксплуатации, были обнаружены с помощью анализа LLM: техническая информация, опубликованная до исправления 21 октября, позволила исследователям и злоумышленникам изучить уязвимости и попытаться провести эксплуатацию, говорится в отчете.

Компания Anthropic, занимающаяся разработкой ИИ, также предупредила в сентябрьском отчете, что атаки с использованием ИИ развились в многоагентные операции, автоматизирующие большую часть цикла кибератаки — от обнаружения до эксплуатации и кражи данных.

Anthropic описала злоумышленников, проводящих «кампании против нескольких жертв с использованием агентного ИИ, для которых ранее потребовались бы команды операторов».

Журнал: Как сообщение «не туда» превратилось в криптомошенничество на $3,4 млн

Отказ от ответственности

Мнения в этой статье отражают только личное мнение автора и не являются советом по инвестированию для этой платформы. Эта платформа не гарантирует точность, полноту и актуальность информации о статье, а также не несет ответственности за любые убытки, вызванные использованием или надежностью информации о статье.
Предыдущая статья

Сбой у провайдера Timeweb уронил интернет в России и других странах

Следущая статья

Уоллер из ФРС ссылается на взлом Binance, предупреждая о токенизированных финансах