Справочник

Глоссарий ИИ-агентов

55 терминов, которые встречаются при внедрении ИИ-агентов в бизнес. Определения составлены по материалам курса Google × Kaggle и практике внедрений. Подробные разборы - в блоге про ИИ.

Агентная инженерияAgentic engineering: Агентная инженерия - это дисциплинированная разработка с ИИ-агентами: человек задаёт строгие рамки, спецификации и проверки, а агент пишет код. Отличие от вайб-кодинга - в объёме проверки вокруг результата.
Атака на кошелёкDenial of Wallet: Атака на кошелёк - это атака, при которой агента заставляют бесконечно вызывать дорогие API, чтобы разорить счёт владельца. Защита - лимиты итераций, бюджетные оповещения и контроль расходов. Подробнее
Вайб-кодингVibe coding: Вайб-кодинг - это подход, при котором человек описывает задачу словами, а ИИ-агент сам пишет и правит код. Хорош для прототипов, но для рабочей системы нужны спецификация, тесты и проверка.
Визитка агентаAgent Card: Визитка агента - это машиночитаемое описание агента в формате JSON: что он умеет, как с ним связаться и какие у него требования безопасности. По ней другие агенты находят его через протокол A2A. Подробнее
ГаллюцинацияHallucination: Галлюцинация - это уверенный, но неверный ответ языковой модели: выдуманный факт, ссылка или действие. Чаще всего возникает, когда модели не хватает данных и она заполняет пробел правдоподобным текстом.
Генеративный интерфейсGenerative UI, A2UI: Генеративный интерфейс - это интерфейс, который ИИ-агент собирает на лету под задачу пользователя. Протокол A2UI делает это безопасно: агент не пишет код, а выбирает компоненты из доверенного каталога.
Гниение контекстаContext rot: Гниение контекста - это падение качества ответов, когда в окно контекста загрузили слишком много. Лечится постепенным раскрытием: агент получает только нужное и только когда нужно.
ДеплойDeployment: Деплой - это выкладка агента или программы на сервер, чтобы ими начали пользоваться. Для агентов деплой обычно идёт через проверку качества и постепенный выкат.
ДообучениеFine-tuning: Дообучение - это дополнительное обучение готовой языковой модели на своих примерах, чтобы она лучше решала узкую задачу или держала нужный стиль. Для большинства бизнес-задач сначала пробуют более дешёвые пути: хорошие инструкции, навыки и RAG.
ИдемпотентностьIdempotency: Идемпотентность - это свойство операции, при котором её повторный вызов не задваивает результат. Для агентов критично в платежах и рассылках: если агент повторил запрос после сбоя, деньги не должны списаться дважды.
ИИ-агентAI Agent: ИИ-агент - это программа на базе языковой модели, которая не просто отвечает на вопрос, а сама действует: планирует шаги, вызывает инструменты и добивается цели. Отличие от чат-бота: бот говорит, агент делает. Подробнее
Иллюзия скоростиIllusion of Speed: Иллюзия скорости - это эффект, когда ИИ пишет код очень быстро, но ошибки и технический долг копятся с той же скоростью. Узким местом становятся люди, которые проверяют и встраивают результат.
Инструмент агентаTool: Инструмент агента - это внешняя функция, которую агент может вызвать: поиск, запрос к API, расчёт, запуск кода. Инструменты дают агенту возможность действовать за пределами текста.
ИнтероперабельностьInteroperability: Интероперабельность - это способность разных агентов и систем работать вместе по общим протоколам. Для ИИ-агентов её обеспечивают стандарты MCP и A2A. Подробнее
Инъекция в промптPrompt injection: Инъекция в промпт - это атака, при которой агенту подсовывают вредную инструкцию через входные данные: письмо, документ, веб-страницу. Агент может принять её за команду и выполнить. Подробнее
Канареечный выкатCanary: Канареечный выкат - это выпуск новой версии сначала на малую долю пользователей, например 1%, с наблюдением за метриками. Если всё в порядке, долю наращивают, если нет - быстро откатывают.
КонтекстContext: Контекст - это весь текст, который модель «видит» за один раз: инструкции, история диалога, документы, результаты инструментов. От того, что попало в контекст, напрямую зависит качество ответа.
Контекст-инжинирингContext engineering: Контекст-инжиниринг - это навык снабжать ИИ-агента ровно той информацией, которая нужна для задачи, в удобной для модели структуре. На курсе Google × Kaggle его назвали главным навыком эпохи вместо «промпт-инжиниринга».
Лестница допускаRead / Draft / Act: Лестница допуска - это деление навыков агента по уровню риска: только читает, готовит черновик для человека или выполняет необратимые действия. Чем выше ступень, тем больше нужно проверок и подтверждений человеком. Подробнее
Модель-судьяLLM-as-a-judge: Модель-судья - это способ оценки, при котором одна языковая модель проверяет ответ другой по заданной рубрике. Применяют там, где правильный ответ нельзя проверить простым сравнением.
Мультиагентная системаMulti-agent system, MAS: Мультиагентная система - это несколько ИИ-агентов с разными ролями, которые вместе решают одну задачу. Обычно координатор делит работу, а исполнители делают каждый свою часть. Подробнее
НаблюдаемостьObservability: Наблюдаемость - это возможность видеть, что агент делает внутри: какие шаги прошёл, какие инструменты вызвал и почему. Держится на трёх опорах: логи, трассировки и метрики.
Навык агентаAgent Skill: Навык агента - это упакованное умение: инструкция, когда и как действовать, плюс нужные файлы и скрипты. Агент подгружает навык только под подходящую задачу, поэтому один агент может владеть сотнями навыков. Подробнее
Обвязка агентаHarness: Обвязка агента - это всё, что окружает модель: инструкции, инструменты, проверки, ограничения и контроль. Формула курса Google × Kaggle: «Агент = Модель + Обвязка», и надёжность даёт именно обвязка.
ОграничителиGuardrails: Ограничители - это правила и фильтры, которые не дают ИИ-агенту сделать вредное или запрещённое действие. Надёжнее, когда они работают вне модели, а не только записаны в промпте. Подробнее
Окно контекстаContext window: Окно контекста - это максимальный объём текста в токенах, который модель может держать одновременно. Больше окно - больше влезает, но дороже запрос и выше риск, что модель упустит важное.
Оркестрация агентовOrchestration: Оркестрация агентов - это управление тем, кто из агентов какую часть задачи выполняет и в каком порядке. Обычно её берёт на себя агент-координатор или заранее описанная схема процесса. Подробнее
Отравление памятиMemory poisoning: Отравление памяти - это попадание ложной информации в долговременную память агента. Ошибка не исчезает после одного диалога, а портит все следующие сессии. Подробнее
Оценка агентаEvaluation, eval: Оценка агента - это измерение качества его работы на наборе проверочных задач. В отличие от обычных тестов, проверяет не только итоговый ответ, но и путь к нему: какие инструменты агент выбрал и в каком порядке.
Память агентаMemory: Память агента - это хранение информации внутри диалога или между запусками: что агент уже сделал, что узнал о пользователе. Долговременная память позволяет не начинать каждый раз с нуля.
ПесочницаSandbox: Песочница - это изолированная среда, где агент выполняет код или действия без доступа к рабочим системам. Если что-то пошло не так, ущерб ограничен песочницей, а её состояние легко сбросить. Подробнее
Поведенческий дрейфBehavioural drift: Поведенческий дрейф - это ситуация, когда агент формально работает, но начинает вести себя иначе, чем раньше. Обычные тесты его не ловят, нужен регулярный eval с моделью-судьёй.
Постепенное раскрытиеProgressive disclosure: Постепенное раскрытие - это принцип загружать в агента только нужные сведения и только в момент, когда они понадобились. Так агент с сотней навыков не перегружает контекст.
Потеря в серединеLost in the Middle: Потеря в середине - это эффект, при котором модель хорошо учитывает начало и конец длинного контекста, но хуже - середину. Поэтому важное ставят в начало или конец и не перегружают контекст.
ПредохранительCircuit breaker: Предохранитель - это механизм, который мгновенно отключает сбойный или скомпрометированный инструмент агента. Первый шаг при инциденте: остановить ущерб, потом разбираться.
ПромптPrompt: Промпт - это текстовый запрос или инструкция для языковой модели. Чем точнее описаны задача, контекст и ожидаемый результат, тем лучше ответ.
Разработка от спецификацииSpec-Driven Development, SDD: Разработка от спецификации - это подход, при котором сначала пишут подробное описание того, что система должна делать, а код по нему генерирует ИИ-агент. Источником правды становится спецификация, а код можно перегенерировать. Подробнее
Разрыв последней милиLast mile gap: Разрыв последней мили - это разница между работающим прототипом агента и надёжной рабочей системой. По оценке авторов курса Google × Kaggle, около 80% усилий уходит не на «ум» агента, а на инфраструктуру, безопасность и проверку.
Системный промптSystem prompt: Системный промпт - это постоянная инструкция, которая задаёт агенту роль, правила и стиль на весь диалог. Его держат коротким, а подробные регламенты выносят в навыки.
СлопсквоттингSlopsquatting: Слопсквоттинг - это атака, при которой злоумышленники публикуют вредоносные пакеты под названиями, которые ИИ часто выдумывает. Агент «вспоминает» несуществующую библиотеку, устанавливает её и получает вредонос. Подробнее
Суб-агентSub-agent: Суб-агент - это узкоспециализированный помощник, которому главный агент поручает часть задачи. У суб-агента свой фокус и свой набор инструментов, поэтому он работает точнее универсального агента. Подробнее
ТокенToken: Токен - это кусочек текста, обычно часть слова, которым модель измеряет вход и выход. Лимиты контекста и стоимость работы модели считаются в токенах.
ТрассировкаTrace: Трассировка - это запись полного пути выполнения запроса: какие шаги агент сделал, какие инструменты вызвал и что получил. По трассировке выясняют, почему агент принял то или иное решение.
Человек в контуреHuman-in-the-loop, HITL: Человек в контуре - это схема, при которой агент перед рискованным действием останавливается и ждёт подтверждения человека. Применяют для платежей, отправки клиентам, изменений в рабочих базах. Подробнее
ЭмбеддингEmbedding: Эмбеддинг - это представление текста в виде набора чисел, по которому можно сравнивать тексты по смыслу. На эмбеддингах строят поиск по базе знаний в RAG.
Эталонный наборGolden dataset: Эталонный набор - это набор контрольных задач с ожидаемыми результатами, на котором проверяют каждую новую версию агента. Ошибка, найденная в работе, добавляется в набор и становится тестом на будущее.
A2AAgent2Agent: A2A - это открытый протокол, по которому ИИ-агенты находят друг друга, договариваются и передают задачи. Разработан Google и передан в Linux Foundation; в отличие от MCP, соединяет агента не с инструментом, а с другим агентом. Подробнее
AgentOps: AgentOps - это дисциплина вывода ИИ-агентов в рабочую эксплуатацию и их сопровождения. Держится на трёх опорах: автоматическая оценка качества, автоматический выпуск новых версий и наблюдаемость.
AGENTS.md: AGENTS.md - это файл с общими правилами проекта для ИИ-агентов: стек, команды, соглашения. Агент читает его всегда, а навыки подгружает по требованию.
AI-native компания: AI-native компания - это компания, в которой ИИ-агенты встроены в основные процессы, а не добавлены как отдельный инструмент. Люди в ней ставят цели и контролируют результат, а рутинную работу выполняют агенты. Подробнее
AP2Agent Payments Protocol: AP2 - это протокол платежей, по которому ИИ-агент может оплачивать покупки строго в рамках правил, заранее утверждённых человеком. Например, «не больше 25 долларов в этом магазине»: попытка списать больше блокируется.
CI/CD: CI/CD - это автоматический конвейер выпуска: проверки при каждом изменении, тестовая среда, затем выкладка в рабочую систему. Для агентов в конвейер добавляют автоматическую оценку качества.
LLMLarge Language Model: LLM - это большая языковая модель, например Gemini, Claude или GPT. Она понимает и генерирует текст и служит «мозгом» ИИ-агента.
MCPModel Context Protocol: MCP - это открытый стандарт подключения ИИ-моделей к инструментам и данным: базам, файлам, API. Его сравнивают с USB-C: каждую систему подключают один раз, и ей может пользоваться любой совместимый агент. Подробнее
RAGRetrieval-Augmented Generation: RAG - это подход, при котором агент перед ответом ищет нужные фрагменты в базе знаний и отвечает на их основе. Так модель опирается на ваши документы, а не только на то, чему её обучили.