Правила и проверки вокруг модели: что запрещено на входе и выходе, какие темы недопустимы, какие действия требуют подтверждения человека.
Почему это важно здесь
Модель нельзя сделать надёжной уговорами в запросе. Надёжность даёт код вокруг неё: проверка формата, фильтр на персональные данные, обязательное подтверждение перед необратимым действием.
Пример
Помощник может подготовить письмо клиенту, но отправка требует нажатия человеком. Это ограничитель, а не недоверие к технологии.
Виды ограничений
- Фильтры входящих запросов и исходящих ответов.
- Запрет определённых тем и действий.
- Проверка формата и фактов.
- Ограничение доступа к данным и инструментам.
Зачем
Снижают риск утечек, недопустимых ответов и ошибочных действий ИИ-системы.
Ограничение
Ни один набор правил не даёт полной гарантии, поэтому для важных действий сохраняют контроль человеком.
Рядом
AI Agent Lifecycle, AI Governance Lifecycle
Материал обновлён 3 октября 2026
Дальше по теме
Материал оказался полезным?
Спасибо. Это влияет на то, что мы разберём дальше.