RAG

Короткое определение. RAG (retrieval-augmented generation, генерация с дополнением из поиска) — подход, при котором перед ответом система ищет в ваших документах фрагменты, похожие на вопрос, и передаёт их нейросети как основу для ответа.

Простыми словами. RAG — это поиск по коробкам. У вас склад документов; на каждый вопрос очень быстрый кладовщик приносит десяток листов, которые показались ему подходящими, а нейросеть отвечает по этим листам. Иногда листы — именно те. Иногда — три версии одного прайса, и модель не знает, какой верить.

Зачем это нужно. RAG полезен при большом объёме документов, из которых нужно выбрать фрагменты под конкретный вопрос. Так работают некоторые виды поиска по архивам обращений, нормативным документам и технической документации.

Пример. Вопрос «какой срок гарантии на модель X?» — система находит фрагменты инструкций со словами про гарантию и модель X, нейросеть собирает из них ответ.

Отличие от файловой wiki. RAG выбирает фрагменты во время запроса. В файловой базе человек или ИИ заранее поддерживает связанные сводные страницы. Эти способы можно сочетать. Подробный разбор есть в статье-сравнении.