Контекстное окно — объём текста, который модель может одновременно учитывать перед ответом.
Представьте собеседника, который читает переписку через узкую рамку. В рамке помещаются последние сообщения, инструкция и кусок документа. Всё, что осталось за краем, для него сейчас не существует — даже если он видел это минуту назад.
В работе это заметно, когда AI уверенно меняет функцию, но нарушает правило из начала диалога. Или когда агент получает большой репозиторий и «забывает» важный файл: не потому что ленится, а потому что этот файл не попал в текущую рамку.
Поэтому длинный чат — не база знаний. Важные ограничения лучше повторять в задаче, хранить отдельно и подставлять только нужные фрагменты кода и документации.
Главное ограничение: больше контекста не всегда значит лучше. Лишний текст размывает внимание модели так же, как длинное ТЗ размывает внимание разработчика. Контекст нужно не накапливать, а курировать.