RAG — это способ дать модели нужные знания в момент вопроса, не переобучая её.
Представьте сотрудника, который не хранит в голове весь архив компании. Перед ответом он быстро находит несколько подходящих страниц, читает их и формулирует вывод. RAG работает так же: вопрос превращается в «отпечаток смысла», по нему ищутся близкие фрагменты документов, затем они добавляются в запрос модели.
На практике так делают ботов по базе знаний: инструкциям, регламентам, документации продукта, перепискам поддержки. Модель не просто получает команду «знай всё о компании» — ей показывают конкретные выдержки, на которые можно опереться.
Главное ограничение: RAG не делает модель умнее и не чинит плохие источники. Если поиск принёс не тот фрагмент, документ устарел или ответ требует данных из нескольких мест, получится уверенный, но слабый ответ. Качество RAG обычно упирается не в модель, а в подготовку и поиск документов.