Модель генерирует правдоподобное продолжение, а не проверенный факт. Если правильного ответа нет в контексте и в её знаниях — она достроит правдоподобный.
Что важно знать
- Заземление: давать нужные данные в контексте (RAG, инструменты) и требовать отвечать только по ним.
- Право сказать «не знаю» — явно в инструкции и в примерах.
- Ссылки на источники и автоматическая проверка, что цитата действительно есть во фрагменте.
- Факты, числа и расчёты — инструментами (SQL, калькулятор, API), а не «из головы» модели.
- Измерять долю выдуманного на наборе для оценки — иначе борьба с галлюцинациями не управляема.