Безопасность автономных агентов — это защита не самой модели и не сети, а действий, которые агент совершает в информационных системах: платежей, изменений в базах, удаления файлов, писем клиентам. Информационной безопасностью третьего поколения, или ИБ 3.0, в институте называют подход, при котором каждое действие агента до исполнения проверяется по правилу, утверждённому человеком, а решение записывается в журнал, который может перепроверить третья сторона.
Предмет защиты сменился: агент работает внутри периметра с выданными ему правами, и опасность исходит от действия, которое он совершает законным доступом, взлом для этого не нужен. Привычные средства смотрят на трафик, процессы и записи после события и не отвечают на вопрос, можно ли совершить это действие сейчас. Текст модели проверить по правилу нельзя, потому что запрос к ней бесконечно разнообразен, а вызов инструмента проверить можно: это конечный набор параметров, в котором названы инструмент, путь и сумма. Человек при этом не исчезает, а поднимается уровнем выше и утверждает правила вместо того, чтобы подтверждать каждое действие.
Три элемента ИБ 3.0
Информационная безопасность третьего поколения (ИБ 3.0) — это архитектура защиты организаций, в которых действуют автономные программные агенты, и опирается на три базовых инженерных принципа:
- Правило. То, что агенту можно и нельзя, записано как данные: допустимые инструменты, пути, суммы и получатели. Правило утверждает человек.
- Проверка до исполнения. Каждый вызов инструмента перехватывается и сверяется с правилом детерминированно, то есть одинаково при каждом повторе. Если допустимость не установлена, агент получает отказ и его причину.
- Доказательство. Каждое решение записывается в журнал, который нельзя незаметно изменить задним числом и который может перепроверить сторона, не доверяющая владельцу журнала.
Термин введён в работах института и подробно разобран в книге «Доказанное действие», а краткое определение дано в словаре ИБ 3.0.
Три поколения: ИБ 1.0, ИБ 2.0 и ИБ 3.0
| ИБ 1.0 — периметр | ИБ 2.0 — нулевое доверие (Zero Trust) | ИБ 3.0 — безопасность действий | |
|---|---|---|---|
| Что проверяется | Принадлежность к своей сети | Личность и устройство при каждом доступе | Допустимость действия по правилу до его исполнения |
| Кого контролирует | Сеть и вход в неё | Пользователей, устройства, сервисы | Действия агентов и программ |
| Чем контролирует | Межсетевые экраны и защищённые туннели | Проверка личности и контекста при каждом обращении | Правило-контракт и проверка каждого вызова инструмента |
| Слабое место для агентов | Агент уже внутри | Агент законно проходит проверку личности, а опасным бывает его действие | — |
Нулевое доверие в определении Национального института стандартов и технологий США (NIST), документ Special Publication 800-207, отказывается от неявного доверия по сетевому расположению и проверяет каждый доступ. Это необходимо, но для агента недостаточно: агент получает доступ законно, а вред причиняет тем, что делает внутри этого доступа.
Чего не видят привычные средства защиты
С точки зрения привычных средств защиты ничего необычного не происходит.
- Межсетевой экран веб-приложений (WAF) фильтрует входящие веб-запросы извне, а агент работает изнутри и обращается к системам как доверенный клиент.
- Средство обнаружения и реагирования на конечных точках (EDR) ищет вредоносные процессы и аномалии на рабочих станциях и серверах, но процесс агента законен, и его команды синтаксически правильны.
- Система управления событиями и информацией безопасности (SIEM) собирает и сопоставляет журналы, как правило, после события: она покажет, что база удалена, но удаления не остановит.
- Средства предотвращения утечек (DLP) и контроля привилегированных пользователей рассчитаны на человека за клавиатурой, а у агента нет ни экрана, ни должности, к которой можно привязать права.
Опасное действие агента — законная команда с законными правами, но с разрушительным смыслом: удалить том резервных копий, перевести деньги не тому получателю, выгрузить таблицу клиентов наружу. Разборы таких случаев собраны на странице об инцидентах автономных агентов.
Распространённость: что показывают опросы
- Опрос, проведённый поставщиком Gravitee среди 919 руководителей и практиков в феврале 2026 года: 88 % организаций сообщили о подтверждённых или подозреваемых инцидентах безопасности агентов за год, а под контролем в среднем находится лишь 47,1 % агентов организации.
- Трекер издания VentureBeat, июль 2026 года, 108 организаций с самоотобранной выборкой: у 49 % за год агент или функция на языковой модели, прошедшие внутренние проверки, вызвали сбой, заметный клиентам.
- Пресс-релиз Gartner от 25 июня 2025 года: свыше 40 % проектов агентного искусственного интеллекта (AI в английских источниках) будут свёрнуты к концу 2027 года, в том числе из-за недостаточного контроля рисков.
- В России в 37 из 70 публичных описаний внедрения агентов за 2025–2026 годы (52,9 %) главный способ сдерживания — подтверждение человеком; это итог обзора публикаций, проведённого институтом в октябре 2026 года.
Как устроена проверка действия до исполнения
Агент решает вызвать инструмент, например удалить каталог или отправить платёж. Перед исполнением вызов перехватывается программным слоем контроля, который берёт параметры вызова и сверяет их с правилом.
- Если доказано, что действие правило не нарушает, оно исполняется.
- Если нарушает, агент получает отказ и условия, при которых действие было бы допустимо, чтобы исправить план, а не повторять ту же попытку.
- Если правила для такого класса действий нет, это тоже отказ: допускается только то, допустимость чего установлена.
Главное в том, что проверка не обращается к языковой модели. Решение принимает детерминированная программа, поэтому его нельзя «уговорить» и его можно повторить: тот же вызов по тому же правилу получит тот же ответ. Этим слой контроля и отличается от фильтров текста, которые сами работают вероятностно.
Как это выглядит на практике: MITR
MITR — система доказанного действия, которую институт построил по принципам ИБ 3.0. Замеры ниже сняты 24 и 25 октября 2026 года.
- Правила записаны как файлы данных, контракты; на 24 октября 2026 года их 20. Допустимость действия проверяет решатель выполнимости формул (SMT), программа Z3 (разработка Microsoft Research); отказ сопровождается контрпримером и условиями исправления, а для класса действий без правила решатель выносит отказ.
- Скорость. При 20 контрактах решение по правилу занимает в медиане 1,08 миллисекунды (95-й процентиль — 1,96 миллисекунды), вызов с объяснением — 5,22 миллисекунды; на 14 октября 2026 года при 19 контрактах было 0,95 и 4,26 миллисекунды.
- Режимы задаются флагом на класс действий. С 24 октября 2026 года все 20 контрактов работают в режиме запрета, а на 14 октября 2026 года в этом режиме работал один класс, удаление файлов.
- Журнал — цепочка квитанций, связанных хешами и привязанных к внешним меткам времени OpenTimestamps. В историческом якоре эпохи 33 на 25 октября 2026 года в цепи было 5 094 записи, и повтор решений проверщиком совпал в 5 079 случаях из 5 079. На 15 ноября 2026 года живая цепь содержит 5 373 записи за 55 завершённых эпох (опубликована эпоха 56). В банковском контуре и на объектах критической информационной инфраструктуры Российской Федерации метки OpenTimestamps дополняются службой доверенных меток времени и усиленной квалифицированной электронной подписью по Федеральному закону от 06.04.2011 № 63-ФЗ. Повтор выполнил сам институт проверщиком, написанным для внешнего проверяющего; посторонний проверяющий его ещё не повторял.
- Внутренний набор атак на действия MITR (до проведения внешней проверки в аккредитованной лаборатории) на 24 октября 2026 года насчитывает 157 случаев, из них 114 атак и 43 контрольных; пропущенных атак и ложных отказов нет. Набор называет и три известных пробела политики, которые перечислены на странице об устройстве MITR.
Целостность цепочки может проверить любой открытым набором asi5.ru/console/verify/. Отдельно от MITR институт ведёт стенд INDRA (Invariant, Nondestructive, Deterministic Resilience Audit; И-Н-Д-Р-А — инвариантная неразрушающая диагностика рисков и аудит), который проверяет веб-сервисы и программные интерфейсы безопасными пробами: на приёмке 25 октября 2026 года он выполнил 12 критериев из 12 на внутреннем контрольном стенде из 28 размеченных сценариев (до внешней лабораторной поверки).
Чем ИБ 3.0 не является
- Не замена изоляции. Песочница ограничивает, куда агент дотянется, а слой контроля — что ему позволено сделать внутри доступного, поэтому нужны оба.
- Не средство криптографической защиты информации и не заключение о соответствии требованиям: соответствие устанавливают организация и орган по аттестации.
- Не отмена человека. Человек утверждает правила, разбирает отказы и инциденты, и меняется только уровень, на котором он работает.
С чего начать компании
- Перепись агентов. Где работают помощники и агенты, свои и встроенные поставщиками в учётные системы, системы работы с клиентами и почту, и к каким системам у них есть доступ.
- Классы опасных действий. Удаление, платежи, выгрузка данных наружу, изменение прав, письма клиентам: у каждого класса свой худший исход.
- Правила на каждый класс. Что допустимо и с какими лимитами, утверждает руководство.
- Проверка до исполнения для самых опасных классов: сначала в режиме совета, затем в режиме запрета.
- Перепроверяемый журнал решений. Он понадобится и при разборе инцидента, и в споре о том, кто отвечает за ошибку искусственного интеллекта.
- Сверка с нормами. Для государственных систем это приказ Федеральной службы по техническому и экспортному контролю (далее — ФСТЭК России) № 117 и проект изменений о моделях и агентах, для всех — закон об искусственном интеллекте № 243-ФЗ, для работы в Европейском союзе — европейский регламент об искусственном интеллекте.
Вопросы и ответы
Что такое безопасность автономных агентов?
Это защита от недопустимых действий, которые агент совершает в информационных системах с выданными ему правами: удаления данных, ошибочных платежей, выгрузки сведений наружу. В отличие от защиты модели или сети, она контролирует само действие до его исполнения.
Что такое ИБ 3.0 простыми словами?
Это подход, при котором человек утверждает правила о том, что агенту можно, программа проверяет по ним каждое действие агента до исполнения, а решение записывается в журнал, который может перепроверить третья сторона.
Чем ИБ 3.0 отличается от нулевого доверия (Zero Trust)?
Нулевое доверие проверяет при каждом доступе, кто обращается к системе, а ИБ 3.0 проверяет, что именно агент делает внутри законно полученного доступа. Агент законно проходит проверку личности, и опасным бывает его действие.
Почему SIEM и EDR не останавливают ошибку агента?
Они ищут вредоносные процессы и аномальный трафик и собирают журналы, как правило, после события. Действие агента выполняется законным процессом с законными правами и выглядит обычной командой: его опасность видна только по смыслу.
Можно ли полностью доверить контроль агентов человеку?
Ручное одобрение работает лишь при малом числе операций, но когда агенты совершают сотни вызовов в час, человек начинает подтверждать, не вчитываясь, поэтому в ИБ 3.0 человек утверждает правила, а проверку каждого действия по ним выполняет программа.
Источники
- NIST Special Publication 800-207 «Zero Trust Architecture», август 2020 года: https://csrc.nist.gov/pubs/sp/800/207/final
- Gravitee, «State of AI Agent Security 2026», 4 февраля 2026 года, опрос поставщика.
- Gartner, пресс-релиз от 25 июня 2025 года: https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
- Замеры MITR, выполненные институтом 14, 24 и 25 октября 2026 года; приёмка стенда INDRA 24–25 октября 2026 года; открытый набор проверки цепи: https://asi5.ru/console/verify/
Проверено по первоисточникам: 16.10.2026, замеры MITR — 24 и 25 октября 2026 года.
Все страницы раздела ИБ 3.0
Понятия
- Агент искусственного интеллекта и его отличие от ассистента
- MCP (Model Context Protocol): что это простыми словами
- Промпт-инъекция: что это и как от неё защищаться
- Ограничители модели (guardrails) и слой контроля действий: в чём разница
- Человек в контуре управления (human-in-the-loop) и усталость от подтверждений
- Закон Эшби и модель Бира в управлении автономными агентами
- Формальная верификация действий агента: решатель Z3
- Криптографическая квитанция действия агента
- Агентная экономика: платежи автономных агентов
Нормы
- Приказ ФСТЭК № 117: кратко и по тексту
- Приказ ФСТЭК № 117 и искусственный интеллект: проект изменений 2026 года
- Закон об искусственном интеллекте в России: 243-ФЗ
- Автономные агенты и 152-ФЗ: персональные данные в действиях агента
- Регламент Европейского союза об искусственном интеллекте (AI Act): сроки и требования
- ISO/IEC 42001 и сроки регламента Европейского союза об искусственном интеллекте
- Регулирование автономных агентов в Китае
- Угрозы искусственного интеллекта в банке данных угроз ФСТЭК России
Ответственность и деньги
- Кто несёт ответственность за ошибки искусственного интеллекта
- Ответственность директора за действия автономного агента
- Киберстрахование и риски автономных агентов
- Автономные агенты в бизнесе: риски и управление
- Горизонт 2027–2035: три сценария развития искусственного интеллекта
- Дисциплина правды: метки утверждений об искусственном интеллекте
Инциденты
- Инциденты автономных агентов: удалённые базы, файлы и сервисы
- Вайб-кодинг и безопасность: агент в контуре разработки
Инструменты
- Защита агентов по протоколу MCP от инъекций и разрушающих вызовов
- Журнал действий агента по ГОСТ Р 34.11-2012 («Стрибог»)
- MITR — система доказанного действия для автономных агентов