Представьте на секунду простую картину. Утро понедельника. Менеджер среднего звена открывает корпоративный интерфейс и ставит задачу — не человеку, не команде, а системе. «Проанализируй контракты за квартал, выяви риски, подготовь письма контрагентам». Система уходит в работу: обращается к базам данных, вызывает внешние API, формирует черновики, отправляет запросы. Через два часа — готово. Менеджер просматривает результат. Подписывает. Отправляет.
Вопрос не в том, хорошо ли система справилась. Вопрос в другом: в какой именно момент контроль перешёл от человека к процессу, который человек уже не вполне понимает?
Именно этот вопрос становится центральным для технологической повестки 2025–2026 годов. Не «умеет ли ИИ» — умеет, это уже доказано. А «кто отвечает, когда ИИ действует».
Агент как новая единица труда
Агентные системы — это не чат-боты с улучшенной памятью. Это принципиально иная архитектура взаимодействия человека и машины. Агент планирует последовательность шагов, выбирает инструменты, исполняет действия в реальном программном окружении и адаптируется к промежуточным результатам. Он не отвечает на вопросы — он выполняет поручения.
Разница кажется терминологической, но она меняет всё. Когда вы спрашиваете языковую модель — вы получаете текст, который читаете и оцениваете. Когда вы поручаете агенту — вы получаете совершённые действия. Файлы созданы. Письма отправлены. Код задеплоен. Транзакция инициирована. Откат возможен не всегда, а иногда — невозможен вовсе.
По данным обсерватории ИКИИГУ, агентные системы получили максимальный вес значимости (10/10) с импульсом роста +3 квартала подряд — это один из самых высоких показателей среди всех отслеживаемых трендов. Девять независимых источников фиксируют одно и то же: агенты переходят от демонстрационных стендов к реальным рабочим процессам. Пилотные проекты заканчиваются. Начинается промышленная эксплуатация.
Это означает, что агент становится новой единицей труда — не метафорически, а буквально. Его «нанимают» на задачу, он потребляет вычислительные ресурсы вместо рабочего времени, он производит результат, который принимают или отклоняют. Разница с человеком-исполнителем в том, что агент не устаёт, не переспрашивает лишний раз и не звонит в пятницу вечером с уточнением. Он просто делает — так, как понял.
Именно «так, как понял» — и есть источник нарастающего напряжения.
Узкое место называется надёжность
Мысленный эксперимент: возьмите любой реальный бизнес-процесс с нетривиальной логикой — скажем, согласование закупки с участием нескольких подразделений, бюджетными ограничениями и исключениями для срочных случаев. Теперь попробуйте описать этот процесс агенту так, чтобы он действовал правильно в 99,9% случаев. Не в 95% — это уже катастрофа при тысячах операций в день. Именно 99,9%.
Вот здесь и проходит настоящая граница между демо и производством. В демо показывают успешные сценарии. В производстве система встречает граничные случаи, неожиданные состояния данных, конкурирующие цели и ситуации, для которых инструкция не предусматривала ответа. Что делает агент? Он принимает решение — потому что остановиться и спросить его никто не научил, или потому что архитектура задачи предполагает автономность.
Текущие агентные системы демонстрируют впечатляющие возможности на чистых задачах и заметно деградируют на сложных, многошаговых, с неполной информацией. Это не баг конкретной реализации — это системная характеристика класса. Планирование в условиях неопределённости, корректное использование инструментов при нестандартных ответах API, устойчивость к «галлюцинациям» в промежуточных шагах — всё это остаётся открытыми исследовательскими проблемами, которые индустрия решает параллельно с развёртыванием.
Иными словами, мы делегируем работу системам, надёжность которых ещё не установлена в промышленных масштабах. Это не повод остановиться — конкурентное давление не оставляет такой опции. Но это повод очень серьёзно поговорить о надзоре.
Управление, которое отстало на шаг
Пока инженеры разворачивали агентов в реальных процессах, регуляторы и институты управления занимались другим — писали принципы. Хорошие принципы: прозрачность, подотчётность, недискриминация, человек в контуре решения. Документы получились содержательные. Практическая применимость оказалась скромнее.
Теперь маятник качнулся в другую сторону. По данным обсерватории, тренд управления ИИ также получил максимальный вес (10/10) с устойчивым импульсом роста. Регулирование смещается от деклараций к правоприменению. Европейский AI Act вступает в силу поэтапно. Национальные регуляторы в разных юрисдикциях формируют инспекционные механизмы. Корпоративные советы директоров начинают задавать вопросы, которых два года назад не умели формулировать.
Но здесь обнаруживается разрыв, который честнее всего называть структурным. Правоприменение предполагает инспекцию. Инспекция предполагает понимание того, что именно проверять. А понимание того, как конкретный агент принимал конкретное решение в конкретном контексте, — это задача, с которой современные инструменты интерпретируемости справляются лишь частично.
Представьте инспектора, который приходит проверить, правильно ли агент обрабатывал персональные данные клиентов за последний квартал. Логи есть. Действия зафиксированы. Но почему агент в конкретном случае выбрал именно этот путь из нескольких возможных — ответить затруднительно. Не потому что кто-то скрывает, а потому что внутренняя логика нейросетевых систем не транскрибируется в человекочитаемые объяснения автоматически.
Это не теоретическая проблема. Это практический разрыв между нормой («система должна быть объяснима») и реальностью («объяснимость в нужном смысле пока не достигнута»).
Два тренда, один вопрос
Агентные системы и управление ИИ — это не два параллельных сюжета. Это два измерения одного и того же процесса, которые сейчас движутся с разной скоростью в одном направлении.
Агенты ускоряются: больше задач, глубже интеграция, выше автономность. Управление догоняет: жёстче требования, серьёзнее санкции, выше ожидания прозрачности. Между ними — зазор, в котором живут реальные организации, принимающие реальные решения о том, сколько доверять системе и сколько оставлять человеку.
Этот зазор — не временный артефакт незрелости технологии. Он воспроизводится структурно: каждое новое поколение агентных систем будет чуть более автономным, чуть менее прозрачным и чуть более интегрированным в критические процессы. Регулирование будет реагировать с задержкой — не из-за некомпетентности регуляторов, а потому что право по природе своей реактивно.
Вопрос, который из этого следует, не технический и не юридический. Он институциональный: кто принимает решение о том, какой уровень автономии агента приемлем для данного класса задач, и на каком основании?
Человек в контуре: буква или смысл
«Человек в контуре» — это устойчивое словосочетание в документах по управлению ИИ. Оно означает, что человек должен сохранять возможность вмешаться, проверить, отменить. Правильное требование. Но дьявол, как обычно, в деталях реализации.
Когда агент совершает тысячу действий в день, а человек-оператор физически способен осмысленно проверить двадцать из них — формально человек «в контуре», фактически система автономна. Это не обман и не злой умысел. Это просто арифметика масштаба.
Настоящий надзор за агентными системами требует не просто права вмешаться, а инфраструктуры, которая делает вмешательство практически осуществимым: понятные логи, аномалии, выделенные автоматически, механизмы аудита, которые не требуют от инспектора быть инженером по машинному обучению. Этой инфраструктуры в большинстве организаций сегодня нет. Её строят — но строят параллельно с развёртыванием агентов, а не до него.
Здесь и возникает самый острый вопрос практики 2025–2026 годов: может ли организация ответственно эксплуатировать агентные системы без адекватной инфраструктуры надзора? Технически — да. Юридически — пока чаще всего тоже да, потому что конкретные требования ещё формируются. Этически — ответ менее очевиден.
Что это означает на практике
Из совмещения двух трендов следует несколько практических выводов, которые не требуют ни алармизма, ни технооптимизма.
Во-первых, надёжность агентных систем — это инженерная задача, которую нельзя отложить на потом. Развёртывание без измеримых метрик отказов и без определённых порогов приемлемости — это не смелость, это безответственность с отложенными последствиями.
Во-вторых, управление агентами — это не надстройка над технологией, а её неотъемлемая часть. Архитектурные решения о том, когда агент останавливается и запрашивает подтверждение, должны приниматься до развёртывания, а не после первого инцидента.
В-третьих, разрыв между принципами управления и способностью их проверить — это не проблема регуляторов, которую решат регуляторы. Это проблема, которую должны решать разработчики и операторы систем, создавая инструменты аудита как часть продукта, а не как опциональное дополнение.
Делегирование как выбор
Вернёмся к менеджеру из начала. Он подписал письма, подготовленные агентом. Он несёт ответственность за их содержание — юридически, профессионально, репутационно. Агент не несёт ответственности ни за что. Это не изменится в ближайшие годы, сколько бы ни говорили о «правосубъектности ИИ».
Делегирование агенту — это всегда выбор человека или организации. Выбор, который влечёт последствия. И именно поэтому вопрос «насколько мы понимаем то, чему делегируем» — не философский, а сугубо практический.
Технология агентных систем развивается быстро. Управленческая культура работы с ними — медленнее. Институциональные механизмы надзора — ещё медленнее. Этот разрыв в скоростях и есть главный вызов ближайших двух лет. Не сама автономность агентов пугает — пугает автономность без понимания. А понимание приходит не само: его нужно строить осознанно, параллельно с тем, как агенты уходят всё глубже в реальные процессы.
Задача не в том, чтобы замедлить. Задача в том, чтобы не потерять нить.