Ограничители

Правила и проверки вокруг модели: что запрещено на входе и выходе, какие темы недопустимы, какие действия требуют подтверждения человека.

Почему это важно здесь

Модель нельзя сделать надёжной уговорами в запросе. Надёжность даёт код вокруг неё: проверка формата, фильтр на персональные данные, обязательное подтверждение перед необратимым действием.

Пример

Помощник может подготовить письмо клиенту, но отправка требует нажатия человеком. Это ограничитель, а не недоверие к технологии.

Рядом

AI Agent Lifecycle, AI Governance Lifecycle