RAG: как ИИ отвечает по документам компании

Коротко. RAG (retrieval-augmented generation) — архитектура, в которой языковая модель отвечает, опираясь на найденные в базе фрагменты документов. Это главный способ дать ИИ актуальные и закрытые знания компании без дообучения модели. Качество RAG определяется не моделью, а поиском, подготовкой документов и контролем доступа.

DAT · Данные и знания Архитектурный паттерн Развивающаяся проверено 2026-10

Зачем существует
Использовать актуальные и закрытые данные без дообучения модели.
Цена и ограничения
Качество зависит от поиска и разметки документов; нужен контроль доступа к источникам.
Что спросить у заказчика
Какие документы, как часто меняются, кто имеет к ним доступ?

использует Языковые модели (LLM) · использует Базы данных · использует Графы знаний и семантика

Architecture Explorer · Компромиссы · Материалы по теме

  1. Принцип работы
  2. Какую задачу решает
  3. Альтернативы и границы
  4. Архитектура
  5. Эксплуатация и стоимость
  6. Применение
  7. Что спросить у заказчика
  8. Проверьте понимание
  9. Источники и статус знания

1. Принцип работы

Запрос пользователя превращается в поиск по базе документов; найденные фрагменты передаются модели вместе с вопросом, и модель формулирует ответ со ссылками на источники.

  1. Документы разбиваются на фрагменты и индексируются — часто в виде векторных представлений (эмбеддингов) и полнотекстового индекса.
  2. По вопросу находятся наиболее подходящие фрагменты.
  3. Фрагменты и вопрос передаются модели.
  4. Модель отвечает и указывает, на что опиралась.

2. Какую задачу решает

  • Дать модели знания, которых нет в её обучении: внутренние регламенты, договоры, базу знаний.
  • Отвечать на актуальных данных без переобучения модели.
  • Показывать источник ответа и снижать долю выдуманных ответов.

3. Альтернативы и границы

АльтернативаКогда лучше
Дообучение моделиМеняет стиль и формат, но плохо подходит для часто меняющихся фактов
Длинный контекстПередать документы целиком: просто для небольшого набора, дорого и медленно для большого
Классический поискБез генерации: точнее и дешевле, если пользователю достаточно найти документ

Сравнение — в Trade-off Explorer, раздел «Как дать ИИ знания компании».

4. Архитектура

  • Загрузка и подготовка: извлечение текста из PDF, таблиц, писем; очистка; разбиение на фрагменты.
  • Индекс: векторная база и полнотекстовый поиск, часто вместе (гибридный поиск).
  • Переранжирование найденных фрагментов.
  • Модель по API или в собственном контуре.
  • Права доступа: поиск учитывает, что разрешено видеть пользователю.
  • Оценка качества: наборы вопросов с эталонными ответами.

5. Эксплуатация и стоимость

  • Стоимость: индексация, хранение векторов, вызовы модели на каждый вопрос.
  • Свежесть: документы нужно переиндексировать при изменениях.
  • Качество падает на плохо структурированных документах и таблицах.
  • Безопасность: без фильтра прав ассистент становится каналом утечки.

6. Применение

  • Ассистент по внутренним регламентам и базе знаний.
  • Поддержка клиентов с ответами по документации.
  • Помощник продавца по продуктам, ценовым политикам и тендерным требованиям.
  • Анализ договоров и технических заданий.

7. Что спросить у заказчика

  1. Какие документы, в каких форматах и как часто меняются?
  2. У разных сотрудников разные права доступа?
  3. Можно ли передавать данные внешнему провайдеру модели?
  4. Как будете проверять, что ответы правильные?
  5. Кто отвечает за актуальность базы знаний?

8. Проверьте понимание

  1. Почему RAG лучше дообучения для часто меняющихся документов? Ответ: знания обновляются переиндексацией, а не переобучением.
  2. Где в RAG главный риск утечки? Ответ: в поиске без учёта прав пользователя.
  3. От чего качество зависит сильнее всего? Ответ: от подготовки документов и поиска, а не от выбора модели.

Соберите решение сами в лаборатории: «Ассистент, отвечающий по внутренним документам».

9. Источники и статус знания

  • Lewis P. и соавт. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020 — работа, введшая термин RAG.
  • OWASP Top 10 for LLM Applications — риски, включая утечку данных и внедрение инструкций.

Тип: архитектурный паттерн · стадия: развивающаяся · проверено в октябре 2026 года. Версия 1.0.

Материалы по теме

Частые вопросы

Нужен ли RAG, если у модели большой контекст?
Для небольших стабильных наборов — нет. Для больших, меняющихся и с разграничением доступа — да.
Можно ли сделать RAG без векторной базы?
Да, на полнотекстовом поиске; векторный и гибридный поиск обычно находят смысл точнее.

Главное. RAG даёт ИИ знания компании без переобучения модели. Успех определяют подготовка документов, качество поиска, права доступа и регулярная оценка ответов.