Как институт проверяет действие автономного программного агента до исполнения
Большая языковая модель рассуждает вероятностно, и в этом заключается её вычислительная сила. Однако при удалении данных, отправке кода или проведении платежа вероятностная оценка уже не годится, поскольку организации требуется математическая гарантия соблюдения установленного правила. Методология института разводит эти два режима по разные стороны границы: свобода рассуждения остаётся за нейросетью, а право на физическое действие принадлежит детерминированной проверке.
Приведённая ниже методология описана так, как она работает в MITR на 25 октября 2026 года. Инженерное устройство самого MITR подробно разобрано на странице MITR, а теоретическое основание изложено в разделе «Метод системного синтеза».
1. Проверка до исполнения
Автономный агент не вызывает внешнюю систему напрямую, а передаёт MITR структурированный запрос с именем операции, аргументами и адресатом. MITR сверяет этот вызов с декларативным контрактом, где в виде данных записаны посылки, условие безопасности и класс операции. Математический решатель доказывает, что при наблюдаемых фактах заявленное действие не нарушает условие безопасности. Без доказательства в режиме запрета операция не исполняется. Факты для доказательства MITR берёт не со слов агента, а из источников, которые назначает организация: учётных систем, каталогов, датчиков.
2. Отказ, который учит
Каждый детерминированный отказ возвращает агенту точную ссылку на нарушенное условие контракта и указание на параметр, требующий корректировки. Агент перестраивает план, после чего исправленный запрос проходит полную проверку заново. Число итераций самоисправления ограничено тремя кругами подряд, за пределами которых решение передаётся человеку. За тридцать суток до 25.10.2026 каждый из 92 отказов MITR назвал нарушенное или недоказанное условие контракта и то, что его исправит.
3. Квитанция вместо доверия
На каждое вынесенное решение пишется неизменяемая квитанция, содержащая запрошенное действие, применённое правило, наблюдаемые факты, вердикт и метку времени. Все квитанции сцеплены хеш-функцией по алгоритму безопасного хеширования SHA (вариант SHA-256), а вершину цепи ежесуточно закрепляет внешний свидетель времени OpenTimestamps в блокчейне Bitcoin. Сторонний ревизор пересчитывает целостность цепи и повторяет решения собственным решателем без доверия к серверу. Обнаруженная ошибка исходного факта никогда не стирается задним числом, но опровергается новой корректирующей записью в той же цепи.
4. Испытание до допуска
Защитные правила проверяются эталонным набором из 157 сценариев (114 состязательных атак и 43 штатных контрольных вызова) с нулевым числом пропусков и ложных отказов по срезу 24.10.2026. Сам проверочный пакет явно перечисляет три известных граничных пробела в действующих правилах. Веб-сервисы и программные интерфейсы, к которым обращается агент, отдельно проверяет стенд INDRA через песочницу, которая не пропускает разрушительный запрос дальше стенда.
Формальный аппарат
Каждый контракт переводится в формулы разрешимой логики QF_UFLIA — бескванторной логики с неинтерпретируемыми функциями и линейной целочисленной арифметикой по классификации SMT-LIB, библиотеки задач выполнимости формул в теориях (SMT). Решатель проверяет выполнимость конъюнкции наблюдённых посылок и отрицания условия безопасности. Невыполнимость означает, что при этих фактах нарушить условие нельзя, и действие допускается; посылки, на которых держится доказательство, записываются в квитанцию. Выполнимость даёт контрпример — состояние, согласное с наблюдениями и нарушающее условие; по нему MITR называет агенту недоказанные ветви контракта и условия исправления. Проверка в этой логике всегда завершается: задача разрешима и принадлежит классу недетерминированно полиномиальных задач (NP), где она NP-полна, а полиномиальный алгоритм для неё не известен. На узких спецификациях реальных вызовов решатель отвечает за миллисекунды, и в MITR медиана времени решения составляет 1,08 мс (24.10.2026, 20 контрактов, 1 000 решений).
Пример условия безопасности для платёжного агента — иллюстрация формы, а не контракт из каталога MITR:
;; сумма не превышает остатка суточного лимита роли, ;; инициатор платежа не совпадает с утверждающим, ;; счёт получателя — в списке проверенных (assert (and (<= (+ spent_today_kop amount_kop) role_daily_limit_kop) (not (= initiator_id approver_id)) (verified_recipient recipient_account_id)))
Криптографическая цепь квитанций строится последовательно: хеш каждой новой записи вычисляется от хеша предыдущего звена и канонического представления текущего события. Любая правка, удаление, вставка или перестановка строки немедленно нарушает сходимость всей последующей цепи. Чтобы исключить полный пересчёт журнала владельцем сервера, вершина цепи ежесуточно закрепляется у независимого внешнего свидетеля времени.
Граница гарантии
- MITR гарантирует математическую корректность (Soundness): ни одно разрешённое действие не нарушает заданное правило, тогда как полноту перевода внешней нормы в контракт обеспечивает человек, а квитанция называет применённую спецификацию.
- Доказательство опирается на переданные наблюдения: исходные факты поставляют датчики и учётные системы организации, поэтому для каждого параметра нужен независимый наблюдатель, в отсутствие которого выставляется статус «не измерено», а не «безопасно».
- Неотвратимость проверки обеспечивается установкой: ключи от целевых систем выдаются MITR, а агенту остаётся право запросить проверку. Агент, у которого есть собственные ключи, обходит любой слой контроля, поэтому свойство «мимо не пройти» проверяется на установке, а не обещается.
- Вторая языковая модель в решении MITR не участвует: вердикт представляет собой детерминированный расчёт по правилу на обычном процессоре без вызова вероятностной нейросети.
Что измерено и где это проверить
| Что | Значение | Где проверить |
|---|---|---|
| Контракты MITR | 20, все в режиме запрета (25.10.2026) | isslab.ru/mitr/ |
| Скорость решения | медиана 1,08 мс, p95 1,96 мс; вызов с объяснением — 5,22 мс (24.10.2026) | сырые ряды хранятся рядом с цепью |
| Набор атак на действия | 157 случаев, пропущено 0, ложных отказов 0 (24.10.2026) | прогоняется одной командой; третьей стороной — ещё нет |
| Цепь квитанций | 5 094 записи; повтор решений посторонним проверщиком — 5 079 из 5 079 (25.10.2026) | asi5.ru/console/verify/ |
| Открытые пакеты | mcp-sentinel 1.1.2, iss-ledger-117 1.1.1 (журнал по ГОСТ Р 34.11-2012), iss-agent-kit 0.1.1; без решателя | isslab.ru/mitr/#probnik |
| Испытатель INDRA | 28 размеченных сценариев, ошибок классификации 0; протокол приёмки 12 из 12 (25.10.2026) | isslab.ru/indra/ |
Автономная некоммерческая организация (АНО) «Научно-исследовательский институт (НИИ) системного синтеза», редакция от 25 октября 2026 года: все приведённые числа сопровождаются датой приборного замера на сервере MITR. Проверено по первоисточникам: 25.10.2026 (действие стандарта ГОСТ Р 34.11-2012), а перечень разработок и формы партнёрского участия описаны на страницах «Разработки» и «Инвесторам и партнёрам».
Канал института об информационной безопасности третьего поколения (ИБ 3.0) — разборы случаев с автономными агентами, обновления норм с датой сверки, новые статьи института: t.me/agiandhuman.