ИБ 3.0: безопасность действий агентов

Безопасность автономных агентов — это защита не самой модели и не сети, а действий, которые агент совершает в информационных системах: платежей, изменений в базах, удаления файлов, писем клиентам. Информационной безопасностью третьего поколения, или ИБ 3.0, в институте называют подход, при котором каждое действие агента до исполнения проверяется по правилу, утверждённому человеком, а решение записывается в журнал, который может перепроверить третья сторона.

Предмет защиты сменился: агент работает внутри периметра с выданными ему правами, и опасность исходит от действия, которое он совершает законным доступом, взлом для этого не нужен. Привычные средства смотрят на трафик, процессы и записи после события и не отвечают на вопрос, можно ли совершить это действие сейчас. Текст модели проверить по правилу нельзя, потому что запрос к ней бесконечно разнообразен, а вызов инструмента проверить можно: это конечный набор параметров, в котором названы инструмент, путь и сумма. Человек при этом не исчезает, а поднимается уровнем выше и утверждает правила вместо того, чтобы подтверждать каждое действие.

Три элемента ИБ 3.0

Информационная безопасность третьего поколения (ИБ 3.0) — это архитектура защиты организаций, в которых действуют автономные программные агенты, и опирается на три базовых инженерных принципа:

  1. Правило. То, что агенту можно и нельзя, записано как данные: допустимые инструменты, пути, суммы и получатели. Правило утверждает человек.
  2. Проверка до исполнения. Каждый вызов инструмента перехватывается и сверяется с правилом детерминированно, то есть одинаково при каждом повторе. Если допустимость не установлена, агент получает отказ и его причину.
  3. Доказательство. Каждое решение записывается в журнал, который нельзя незаметно изменить задним числом и который может перепроверить сторона, не доверяющая владельцу журнала.

Термин введён в работах института и подробно разобран в книге «Доказанное действие», а краткое определение дано в словаре ИБ 3.0.

Три поколения: ИБ 1.0, ИБ 2.0 и ИБ 3.0

ИБ 1.0 — периметрИБ 2.0 — нулевое доверие (Zero Trust)ИБ 3.0 — безопасность действий
Что проверяетсяПринадлежность к своей сетиЛичность и устройство при каждом доступеДопустимость действия по правилу до его исполнения
Кого контролируетСеть и вход в неёПользователей, устройства, сервисыДействия агентов и программ
Чем контролируетМежсетевые экраны и защищённые туннелиПроверка личности и контекста при каждом обращенииПравило-контракт и проверка каждого вызова инструмента
Слабое место для агентовАгент уже внутриАгент законно проходит проверку личности, а опасным бывает его действие—

Нулевое доверие в определении Национального института стандартов и технологий США (NIST), документ Special Publication 800-207, отказывается от неявного доверия по сетевому расположению и проверяет каждый доступ. Это необходимо, но для агента недостаточно: агент получает доступ законно, а вред причиняет тем, что делает внутри этого доступа.

Чего не видят привычные средства защиты

С точки зрения привычных средств защиты ничего необычного не происходит.

  • Межсетевой экран веб-приложений (WAF) фильтрует входящие веб-запросы извне, а агент работает изнутри и обращается к системам как доверенный клиент.
  • Средство обнаружения и реагирования на конечных точках (EDR) ищет вредоносные процессы и аномалии на рабочих станциях и серверах, но процесс агента законен, и его команды синтаксически правильны.
  • Система управления событиями и информацией безопасности (SIEM) собирает и сопоставляет журналы, как правило, после события: она покажет, что база удалена, но удаления не остановит.
  • Средства предотвращения утечек (DLP) и контроля привилегированных пользователей рассчитаны на человека за клавиатурой, а у агента нет ни экрана, ни должности, к которой можно привязать права.

Опасное действие агента — законная команда с законными правами, но с разрушительным смыслом: удалить том резервных копий, перевести деньги не тому получателю, выгрузить таблицу клиентов наружу. Разборы таких случаев собраны на странице об инцидентах автономных агентов.

Распространённость: что показывают опросы

  • Опрос, проведённый поставщиком Gravitee среди 919 руководителей и практиков в феврале 2026 года: 88 % организаций сообщили о подтверждённых или подозреваемых инцидентах безопасности агентов за год, а под контролем в среднем находится лишь 47,1 % агентов организации.
  • Трекер издания VentureBeat, июль 2026 года, 108 организаций с самоотобранной выборкой: у 49 % за год агент или функция на языковой модели, прошедшие внутренние проверки, вызвали сбой, заметный клиентам.
  • Пресс-релиз Gartner от 25 июня 2025 года: свыше 40 % проектов агентного искусственного интеллекта (AI в английских источниках) будут свёрнуты к концу 2027 года, в том числе из-за недостаточного контроля рисков.
  • В России в 37 из 70 публичных описаний внедрения агентов за 2025–2026 годы (52,9 %) главный способ сдерживания — подтверждение человеком; это итог обзора публикаций, проведённого институтом в октябре 2026 года.

Как устроена проверка действия до исполнения

Агент решает вызвать инструмент, например удалить каталог или отправить платёж. Перед исполнением вызов перехватывается программным слоем контроля, который берёт параметры вызова и сверяет их с правилом.

  • Если доказано, что действие правило не нарушает, оно исполняется.
  • Если нарушает, агент получает отказ и условия, при которых действие было бы допустимо, чтобы исправить план, а не повторять ту же попытку.
  • Если правила для такого класса действий нет, это тоже отказ: допускается только то, допустимость чего установлена.

Главное в том, что проверка не обращается к языковой модели. Решение принимает детерминированная программа, поэтому его нельзя «уговорить» и его можно повторить: тот же вызов по тому же правилу получит тот же ответ. Этим слой контроля и отличается от фильтров текста, которые сами работают вероятностно.

Как это выглядит на практике: MITR

MITR — система доказанного действия, которую институт построил по принципам ИБ 3.0. Замеры ниже сняты 24 и 25 октября 2026 года.

  • Правила записаны как файлы данных, контракты; на 24 октября 2026 года их 20. Допустимость действия проверяет решатель выполнимости формул (SMT), программа Z3 (разработка Microsoft Research); отказ сопровождается контрпримером и условиями исправления, а для класса действий без правила решатель выносит отказ.
  • Скорость. При 20 контрактах решение по правилу занимает в медиане 1,08 миллисекунды (95-й процентиль — 1,96 миллисекунды), вызов с объяснением — 5,22 миллисекунды; на 14 октября 2026 года при 19 контрактах было 0,95 и 4,26 миллисекунды.
  • Режимы задаются флагом на класс действий. С 24 октября 2026 года все 20 контрактов работают в режиме запрета, а на 14 октября 2026 года в этом режиме работал один класс, удаление файлов.
  • Журнал — цепочка квитанций, связанных хешами и привязанных к внешним меткам времени OpenTimestamps. В историческом якоре эпохи 33 на 25 октября 2026 года в цепи было 5 094 записи, и повтор решений проверщиком совпал в 5 079 случаях из 5 079. На 15 ноября 2026 года живая цепь содержит 5 373 записи за 55 завершённых эпох (опубликована эпоха 56). В банковском контуре и на объектах критической информационной инфраструктуры Российской Федерации метки OpenTimestamps дополняются службой доверенных меток времени и усиленной квалифицированной электронной подписью по Федеральному закону от 06.04.2011 № 63-ФЗ. Повтор выполнил сам институт проверщиком, написанным для внешнего проверяющего; посторонний проверяющий его ещё не повторял.
  • Внутренний набор атак на действия MITR (до проведения внешней проверки в аккредитованной лаборатории) на 24 октября 2026 года насчитывает 157 случаев, из них 114 атак и 43 контрольных; пропущенных атак и ложных отказов нет. Набор называет и три известных пробела политики, которые перечислены на странице об устройстве MITR.

Целостность цепочки может проверить любой открытым набором asi5.ru/console/verify/. Отдельно от MITR институт ведёт стенд INDRA (Invariant, Nondestructive, Deterministic Resilience Audit; И-Н-Д-Р-А — инвариантная неразрушающая диагностика рисков и аудит), который проверяет веб-сервисы и программные интерфейсы безопасными пробами: на приёмке 25 октября 2026 года он выполнил 12 критериев из 12 на внутреннем контрольном стенде из 28 размеченных сценариев (до внешней лабораторной поверки).

Чем ИБ 3.0 не является

  • Не замена изоляции. Песочница ограничивает, куда агент дотянется, а слой контроля — что ему позволено сделать внутри доступного, поэтому нужны оба.
  • Не средство криптографической защиты информации и не заключение о соответствии требованиям: соответствие устанавливают организация и орган по аттестации.
  • Не отмена человека. Человек утверждает правила, разбирает отказы и инциденты, и меняется только уровень, на котором он работает.

С чего начать компании

  1. Перепись агентов. Где работают помощники и агенты, свои и встроенные поставщиками в учётные системы, системы работы с клиентами и почту, и к каким системам у них есть доступ.
  2. Классы опасных действий. Удаление, платежи, выгрузка данных наружу, изменение прав, письма клиентам: у каждого класса свой худший исход.
  3. Правила на каждый класс. Что допустимо и с какими лимитами, утверждает руководство.
  4. Проверка до исполнения для самых опасных классов: сначала в режиме совета, затем в режиме запрета.
  5. Перепроверяемый журнал решений. Он понадобится и при разборе инцидента, и в споре о том, кто отвечает за ошибку искусственного интеллекта.
  6. Сверка с нормами. Для государственных систем это приказ Федеральной службы по техническому и экспортному контролю (далее — ФСТЭК России) № 117 и проект изменений о моделях и агентах, для всех — закон об искусственном интеллекте № 243-ФЗ, для работы в Европейском союзе — европейский регламент об искусственном интеллекте.

Вопросы и ответы

Что такое безопасность автономных агентов?

Это защита от недопустимых действий, которые агент совершает в информационных системах с выданными ему правами: удаления данных, ошибочных платежей, выгрузки сведений наружу. В отличие от защиты модели или сети, она контролирует само действие до его исполнения.

Что такое ИБ 3.0 простыми словами?

Это подход, при котором человек утверждает правила о том, что агенту можно, программа проверяет по ним каждое действие агента до исполнения, а решение записывается в журнал, который может перепроверить третья сторона.

Чем ИБ 3.0 отличается от нулевого доверия (Zero Trust)?

Нулевое доверие проверяет при каждом доступе, кто обращается к системе, а ИБ 3.0 проверяет, что именно агент делает внутри законно полученного доступа. Агент законно проходит проверку личности, и опасным бывает его действие.

Почему SIEM и EDR не останавливают ошибку агента?

Они ищут вредоносные процессы и аномальный трафик и собирают журналы, как правило, после события. Действие агента выполняется законным процессом с законными правами и выглядит обычной командой: его опасность видна только по смыслу.

Можно ли полностью доверить контроль агентов человеку?

Ручное одобрение работает лишь при малом числе операций, но когда агенты совершают сотни вызовов в час, человек начинает подтверждать, не вчитываясь, поэтому в ИБ 3.0 человек утверждает правила, а проверку каждого действия по ним выполняет программа.

Источники

  1. NIST Special Publication 800-207 «Zero Trust Architecture», август 2020 года: https://csrc.nist.gov/pubs/sp/800/207/final
  2. Gravitee, «State of AI Agent Security 2026», 4 февраля 2026 года, опрос поставщика.
  3. Gartner, пресс-релиз от 25 июня 2025 года: https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
  4. Замеры MITR, выполненные институтом 14, 24 и 25 октября 2026 года; приёмка стенда INDRA 24–25 октября 2026 года; открытый набор проверки цепи: https://asi5.ru/console/verify/

Проверено по первоисточникам: 16.10.2026, замеры MITR — 24 и 25 октября 2026 года.

Все страницы раздела ИБ 3.0

Понятия

Нормы

Ответственность и деньги

Инциденты

Инструменты

Книга