Суть. Агент — не собеседник, а исполнитель: он вызывает системы и меняет состояние. Поэтому его жизненный цикл ближе к вводу в эксплуатацию сотрудника, чем к запуску модели: нужны права, границы полномочий, журнал действий, надзор и способ немедленно остановить.
Этапы
| Этап | Ключевое решение |
|---|---|
| Определение задачи | Что именно агент делает и чего не делает никогда |
| Права | Отдельная учётная запись с минимальными правами, не человеческая |
| Инструменты | Какие действия доступны и какие требуют подтверждения |
| Проверка | Прогон на наборе сценариев, включая враждебные |
| Запуск с надзором | Сначала предлагает, человек подтверждает |
| Самостоятельность | Расширяется по накопленной статистике, а не по расписанию |
| Наблюдение | Журнал каждого действия с возможностью разбора |
| Остановка | Один переключатель, известный всем |
Разделение действий
Действия делятся на обратимые и необратимые. Обратимое — черновик, пометка, внутренняя запись; необратимое — отправка клиенту, изменение суммы, удаление. Самостоятельность даётся на обратимых действиях, необратимые остаются с подтверждением дольше, чем кажется нужным.
Этапы жизни агента
| Этап | Главный вопрос | Что здесь ломается |
|---|---|---|
| Задача | Какое действие агент выполняет вместо человека | Формулируют «помогать», а не действие |
| Права | К чему у него доступ и от чьего имени | Дают права пользователя целиком |
| Границы | Что он не делает без подтверждения | Границ нет, есть надежда |
| Журнал | Что записывается о каждом действии | Пишут результат, не пишут ход |
| Наблюдение | Кто и как замечает деградацию | Узнают от клиента |
| Вывод из работы | Как выключить и что останется | Не продумано вовсе |
Чем агент отличается от помощника
Помощник отвечает, агент действует. Ответ можно проигнорировать, действие уже совершено. Отсюда всё остальное: права, подтверждения, журнал и возможность откатить. Ошибка помощника стоит минуты чтения, ошибка агента — исправления в системе заказчика.
- Начните с задач, где ошибка обратима: черновики, подготовка данных, предварительная сортировка.
- Каждое необратимое действие — через подтверждение человеком, пока не накоплена статистика.
- Ограничьте набор инструментов. Чем их меньше, тем точнее выбор и предсказуемее поведение.
- Введите потолок расходов и числа шагов: зациклившийся агент тратит деньги молча.
Где ломается
Агенту дают учётную запись человека. Разобрать потом, кто что сделал, невозможно.
Нет журнала намерений. Виден результат, но не видно, почему агент так решил — разбор инцидента превращается в гадание.
Расширяют полномочия после удачной недели. Неделя без ошибок ничего не доказывает при редких, но дорогих сбоях.
Демонстрация работает, эксплуатация нет. На показе три сценария, в жизни сотни, и агент уверенно ошибается в тех, которых не видели.
Никто не отвечает за результат. Пока у агента нет владельца среди людей, его ошибки не разбираются и повторяются.
Журнала недостаточно для разбора. Записан итог, не записаны вызовы инструментов и параметры — восстановить, что произошло, невозможно.
Правило для первого запуска: агент делает то, что вы готовы объяснить клиенту в случае ошибки. Всё остальное сначала проходит через подтверждение.
Частые вопросы
Связанное
Агент — это сотрудник без здравого смысла и с бесконечной скоростью. Управляется он тем же, чем и обычный: правами, границами и разбором ошибок.