Halucinace

Když si jazykový model vymyslí fakt, který zní přesvědčivě, ale není pravdivý.

Také se říká: konfabulace

Model nepočítá pravdu, počítá pravděpodobné pokračování textu. Když v datech chybí opora, doplní něco, co se tam hodí tvarem — proto si vymyslí citaci, paragraf i číslo.

Obrana: ptát se na zdroj, nechat model pracovat s podkladem (RAG) a kontrolovat čísla.