Контекст

Короткое определение. Контекст — это вся информация, которую LLM видит в момент ответа: ваш вопрос, приложенные документы, инструкции и история текущего разговора. У контекста есть ограниченный объём — «окно контекста».

Простыми словами. Это рабочий стол нейросети. Что на столе лежит — с тем она и работает; чего на столе нет — того для неё не существует, даже если файл лежит в соседней папке.

Зачем это нужно. Контекст помогает понять, почему ответ получился общим или неточным. В разговоре могло не быть данных о вашей ситуации, правилах или актуальных цифрах. Если ИИ заполняет такой пробел правдоподобной выдумкой, это называют галлюцинацией.

Пример. Вопрос «сколько стоит доставка?» без контекста — пересказ средних цен по рынку. Тот же вопрос со страницей ваших тарифов в контексте — точный ответ по вашему прайсу.

Практический вывод. Передайте только те сведения, которые нужны для текущей задачи. Повторяющиеся правила можно хранить в инструкциях, а проверяемые факты и документы — в файлах или базе знаний. Подробнее: память и контекст.