Positive Technologies разобрала, как ИИ реально применяется в атаках: вместо «терминатора» мы получили ускоритель рутины для профессионалов и новую поверхность атаки внутри компаний — от теневого использования нейросетей до агентских систем с доступом к бизнес‑сервисам.
Positive Technologies выпустила разбор (на основе своего свежего исследования), который хорошо приземляет ожидания от «всемогущего ИИ» в кибератаках. Главная мысль простая: полностью автономного хакера, который сам проламывает защищённые контуры, индустрия так и не увидела. Но это не повод расслабляться — ИИ уже заметно ускорил атаки и одновременно расширил поверхность риска внутри самих компаний.
Почему «автономный хакер» не взлетел
В материале подчёркивается, что большие языковые модели не превратили новичков в APT-команды. Да, ИИ может помочь с отдельными атомарными задачами — например, быстро набросать скрипт под конкретный кейс или подсказать типовой подход. Но как только начинается «настоящая» работа: нестандартная сеть, много ограничений, средства защиты, цепочки повышения привилегий — без опытного оператора всё начинает буксовать.
Кому ИИ действительно помогает — это профессиональным группам и квалифицированным преступникам. Для них ИИ становится «цифровым подмастерьем»: ускоряет сбор информации, подготовку чернового кода, адаптацию инструментов и рутинные операции. В результате сокращается время подготовки атаки, а у защитников остаётся меньше времени на реакцию.
Новая проблема: компании сами наращивают «поверхность атаки»
Отдельный акцент — на том, что бизнес массово внедряет ИИ-инструменты не всегда управляемо. В статье это описывается как рост внутренней, плохо контролируемой зоны риска: сотрудники используют публичные модели в рабочих задачах, команды подключают плагины и библиотеки «как получится», а агентские системы получают доступ к корпоративным сервисам.
Когда ИИ из «подсказчика в чате» превращается в систему, которая выполняет действия (меняет статусы, оформляет операции, работает с CRM/ERP и интеграциями), цена ошибки резко растёт. И это касается не только атак извне, но и внутренних инцидентов.
Три практических сценария, которые стоит держать в голове
- Промпт-инъекции. Если агент читает входящие данные (письма, заявки, сообщения), злоумышленник может спрятать в них инструкцию, которая «перебьёт» намерения системы и вынудит выполнить вредоносное действие.
- Ошибки и «галлюцинации», которые приводят к действиям. Чем больше прав у агента, тем опаснее неверная интерпретация контекста: от случайных блокировок до разрушительных операций в системах.
- Риски цепочек поставок. Инструменты и библиотеки для агентских сценариев активно тянутся из open source, и атакующие пытаются встраиваться в зависимости, чтобы получить контроль на этапе сборки и развёртывания.
Что это меняет для команд разработки и ИБ
В тексте есть важная связка «почему → что делать». Логика такая: ИИ не отменяет базовую безопасность, а делает её более срочной. Если раньше слабые пароли, открытые панели администрирования и неустановленные патчи могли «жить» месяцами, то теперь злоумышленник быстрее находит и оборачивает это в работающий сценарий.
Короткий чек‑лист: как снизить риск, не запрещая всё подряд
- Навести порядок в использовании ИИ: понимать, какие инструменты применяются, где данные могут утекать, и какие задачи вообще допустимо отдавать внешним моделям.
- Усилить контроль кода: внедрять практики DevSecOps и автоматические проверки в CI/CD, особенно для кода, который писался «вместе с ИИ».
- Ограничивать привилегии ИИ‑агентов: выдавать ровно те права, которые нужны для конкретной функции, и предусматривать подтверждение человеком для критичных действий.
- Подготовить людей к новым видам фишинга: голосовые и видео‑подделки становятся убедительнее, а значит важнее правила перепроверки через альтернативный канал.
Главный вывод, который остаётся после прочтения: «магического ИИ‑взломщика» нет, но есть ускорение атак и рост внутренних рисков из‑за непродуманного внедрения ИИ. Выиграют те, кто одновременно держит в порядке базовую гигиену ИБ и аккуратно строит правила для агентских сценариев — без избыточных прав и без неконтролируемых интеграций.
Источник: Хабр (блог Positive Technologies)
