Ответ, который выглядит уверенно и правдоподобно, но не соответствует действительности.
Почему это важно здесь
Это не поломка, а следствие устройства: модель порождает вероятное продолжение, а не проверяет факт. Поэтому в рабочих сценариях либо подставляют проверенные источники, либо требуют указания ссылок, либо оставляют человека на приёмке.
Пример
В ответе указан пункт стандарта с точным номером, которого не существует. Проверить может только тот, кто открыл стандарт.
Почему возникает
Модель генерирует вероятное продолжение текста, а не проверяет факты. Если данных нет, она может уверенно придумать цифру, ссылку или название.
Как снижать
- Давать модели источники и просить опираться только на них.
- Просить ссылки на фрагменты.
- Разрешать ответ «информации нет».
- Проверять важные факты человеком.
Рядом
RAG, Оценка качества ответов, LLM
Материал обновлён 3 октября 2026
Материал оказался полезным?
Спасибо. Это влияет на то, что мы разберём дальше.