Объём текста, который модель может учитывать за один раз: и то, что вы прислали, и то, что она отвечает.
Почему это важно здесь
Практическое ограничение при работе с большими документами. Даже когда окно большое, качество внимания к середине длинного текста падает — поэтому важное лучше ставить в начало и конец запроса.
Пример
Договор на сто страниц целиком помещается, но точнее работает разбор по разделам с конкретным вопросом к каждому.
Что это
Максимальный объём текста — запрос, данные и ответ, — который модель может учитывать за один раз. Измеряется в токенах.
Почему важно
Определяет, сколько документов можно передать модели сразу. Но даже в большом окне модели хуже используют информацию из середины длинного контекста.
Практика
Передавать только нужные фрагменты, важное размещать в начале или конце.
Рядом
LLM, Промт
Материал обновлён 3 октября 2026