«Яндекс» анонсировал бесплатный онлайн‑интенсив AI Agents Security Week о том, как проектировать и защищать продукты с автономными ИИ‑агентами. Разберут типовые угрозы, вопросы доступа к инструментам и практические кейсы — участвовать можно без ограничений по количеству мест.
«Яндекс» объявил о запуске AI Agents Security Week — бесплатного онлайн‑интенсива, посвящённого безопасности ИИ‑агентов. Программа рассчитана на пять дней и сфокусирована на том, как строить архитектуру агентных ИИ‑решений так, чтобы они были управляемыми и безопасными.
Что именно планируют разбирать
В рамках интенсива участникам предлагают разобраться, чем автономные ИИ‑агенты отличаются от больших языковых моделей, и почему эти различия напрямую влияют на риски. Если чат‑модель в классическом сценарии в основном «говорит», то агент ещё и действует: получает доступ к инструментам, данным и инфраструктуре. А значит, цена ошибки выше — от утечек до нежелательных действий в рабочих системах.
По заявлению организаторов, программа охватывает ключевые темы:
- как защищать данные при работе с ИИ‑агентами;
- как настраивать безопасный и контролируемый доступ к инструментам и инфраструктуре;
- какие уязвимости могут возникать в агентных продуктах и как их предотвращать;
- разбор практических кейсов по разработке ИИ‑агентов.
Почему тема важна не только для «безопасников»
ИИ‑агенты часто внедряют как способ ускорить рутину: собрать данные, подготовить черновик отчёта, помочь с кодом, связать несколько сервисов в одну цепочку. Но как только агент получает доступ к рабочим инструментам, появляется новая задача: ограничить его полномочия и сделать действия проверяемыми. Иначе один неудачный запрос или некорректная настройка доступа превращают «помощника» в источник рисков — особенно там, где агент работает с корпоративными данными или выполняет действия в инфраструктуре.
Кому подойдёт и что потребуется для практики
В «Яндексе» уточнили, что интенсив будет полезен ML‑разработчикам, инженерам по информационной безопасности, техническим лидам, архитекторам и студентам старших курсов технических вузов. Для выполнения практических заданий понадобится понимание жизненного цикла разработки ПО и опыт использования ИИ‑инструментов при написании кода.
Формат и как попасть на обучение
Занятия пройдут онлайн с 27 по 31 июля на базе Школы анализа данных, при этом количество мест, по информации организаторов, не ограничено. Подать заявку может любой желающий. Для получения сертификата Школы анализа данных необходимо пройти отборочное тестирование и выполнить итоговую работу.
