Как работают ИИ-агенты: архитектура продакшн-агента

ИИ-агент — это языковая модель, обёрнутая ещё в пять слоёв — восприятие, память, инструменты, оркестрацию и мониторинг, — чтобы она могла действовать ради цели, а не только отвечать на вопрос. Чат-бот отвечает. Агент читает тикет, находит заказ, оформляет возврат в рамках политики и сообщает клиенту — или передаёт дело человеку, если не уверен. Разница не в размере модели и не в длине промпта; разница в архитектуре, которая делает действия безопасными, обоснованными и наблюдаемыми. Внедрение широкое, но неглубокое: по данным McKinsey, 78% организаций использовали ИИ хотя бы в одной бизнес-функции в 2024 году, но лишь небольшое меньшинство масштабировало агентов (McKinsey, 2025).

Такую структуру мы используем в агентах для клиентов и в собственных продуктах. Названия в разных фреймворках отличаются; обязанности — нет.

Выбирайте чат-бота, когда результат — ответ, по которому будет действовать человек; выбирайте агента, когда результат — выполненная задача внутри ваших систем. Агент дороже в разработке и защите, потому что держит инструменты и права, так что окупается он только там, где реальны и объём задач, и ручные усилия на каждую. Таблица ставит их рядом.

Всё, с чем агент работает, входит через один слой, который разбирает, проверяет и маршрутизирует: сообщения чата, письма, PDF, изображения, события вебхуков, строки из базы. Восприятие извлекает текст из документов, классифицирует намерение, подставляет личность пользователя и его права и отклоняет то, с чем не может справиться. Держите его тонким, строгим и типизированным на границе, с путём «не могу обработать», ведущим к человеку, а не к догадкам модели.

Что ломается: агенты на сыром входе галлюцинируют на краевых случаях — скан счёта с двумя валютами, сообщение на языке, которого никто не ждал. Ввод — ещё и главная поверхность атаки: OWASP ставит prompt injection, включая косвенную инъекцию через документы и веб-страницы, которые читает агент, на первое место среди рисков LLM-приложений (OWASP, 2025).

LLM — когнитивный движок: она интерпретирует цель, раскладывает её на шаги, выбирает следующий инструмент и решает, когда работа закончена. Продакшн-агенты планируют явно (видимый список шагов), перепланируют при сбое и работают в бюджете — максимум итераций, стоимости, времени. Сильная модель без бюджета — это цикл, который ждёт своего часа.

Что ломается: бесконечные циклы, планы, уплывающие от цели, новая версия модели, тихо меняющая поведение. Что мы делаем: набор реальных случаев для оценки прогоняется при каждом изменении промпта или модели; жёсткие лимиты на итерации и траты; предпочтение нескольким маленьким специализированным агентам вместо одного универсального. Без этой дисциплины бизнес-кейс хрупок: Gartner прогнозирует, что более 40% проектов агентного ИИ будут отменены к концу 2027 года из-за неясной ценности и недостаточного контроля рисков (Gartner, 2025).

Краткосрочная память хранит текущий разговор и промежуточные результаты; долгосрочная — факты о пользователе, предпочтения и прошлые исходы; знания — ваши документы, CRM, базы — достигаются через поиск: векторный индекс для текста, SQL или API для структурированных данных. Именно это делает ответ обоснованным: у него есть источник. Подход восходит к оригинальной работе о retrieval-augmented generation, показавшей, что связка поискового модуля с генератором повышает фактическую точность по сравнению с одной моделью (Lewis et al., 2020).

Что ломается: устаревшие индексы, нарезка, режущая таблицы пополам, поиск, возвращающий десять почти одинаковых фрагментов. Что мы делаем: гибридный поиск (ключевые слова плюс векторы), фильтры по метаданным, переранжирование и отдельная метрика качества поиска, независимая от финального ответа — см. наш чек-лист запуска RAG.

Инструменты — то, чем агент меняет мир: искать, читать и записывать данные, отправить письмо, создать счёт, выполнить код, вызвать другого агента. Каждый инструмент — типизированный контракт: входы, выходы, ошибки — с областью доступа и журналом аудита. Маленькие понятные инструменты, возвращающие выжимки, работают лучше одного широкого, возвращающего стену JSON, а для каждого необратимого действия нужен человек в контуре.

Что ломается: инструмент, чей вывод модель читает неверно; необратимое действие, совершённое по недоразумению. Что мы делаем: идемпотентные операции, ограниченные учётные данные и одобрение человеком платежей, удалений и исходящих сообщений клиентам. OWASP называет этот тип отказа «избыточные полномочия» — больше инструментов, прав и автономии, чем нужно задаче (OWASP, 2025).

Управляющий цикл запускает агента: выстраивает шаги, обрабатывает повторы и таймауты, применяет лимиты и координирует нескольких агентов, когда одного мало (маршрутизатор, исследователь, писатель, проверяющий). Ограничители проверяют вход и выход: фильтрация персональных данных, проверка политик, пороги уверенности, останавливающие цикл и эскалирующие задачу. Это самый негламурный слой — и именно он решает, переживёт ли агент встречу с продакшеном. Сильная модель в плохом цикле ошибается постоянно; скромная модель в хорошем цикле надёжна.

Профиль NIST по генеративному ИИ описывает те же обязанности как функции управления рисками — govern, map, measure, manage — и называет человеческий надзор и происхождение контента среди рекомендуемых действий для развёрнутых систем (NIST, 2024).

Перед ответом агент сверяет результат с целью и правилами — дешёвый второй проход, который ловит неожиданно большую долю ошибок. После ответа каждый запуск трассируется: промпты, вызовы инструментов, токены, задержка, исход. Продакшн-метрики — доля успешных задач, эскалации, исправления людьми — пополняют набор для оценки, а набор для оценки открывает дорогу следующему релизу. Агент без этой петли дрейфует, и никто не замечает, пока не заметит клиент.

Что ломается: никто не смотрит. Что мы делаем: дашборды, которые читает бизнес (выполненные задачи, стоимость задачи, доля исправлений), алерты на дрейф и еженедельный разбор неудачных запусков с владельцами процесса.

Выберите один процесс с понятной цифрой — потраченные часы, доля ошибок, время ответа — и постройте шесть слоёв только для этого участка, с набором для оценки из реальных случаев. Измерьте до и после, потом расширяйте. Узкий старт — то, что отличает организации, получающие ценность, от остальных: по данным McKinsey, наибольший эффект на EBIT от генеративного ИИ видят компании, перепроектировавшие конкретные процессы, а не развернувшие универсального ассистента (McKinsey, 2025). Наши кейсы показывают, как это выглядит в ритейле, финансах и наших собственных продуктах; если хотите обсудить свой процесс — запишитесь на discovery-звонок.