Halluzination
Auch: Konfabulation, Hallucination
Definition
Eine Halluzination ist eine von der KI überzeugend formulierte, aber falsche oder erfundene Aussage, etwa eine nicht existierende Quelle oder Zahl.
Sprachmodelle erzeugen wahrscheinliche Formulierungen, keine geprüften Fakten, deshalb lassen sich Halluzinationen nicht vollständig ausschließen. Quellenpflicht im Prompt, RAG auf geprüfte Firmendokumente und ein Vier-Augen-Prinzip bei Zahlen, Zitaten und Rechtsfragen senken das Risiko deutlich. In einer KI-Richtlinie sollte stehen, welche Ergebnisse vor Verwendung geprüft werden müssen.