Halluzination
Wenn eine KI eine falsche Aussage mit voller Überzeugung als Fakt darstellt.
Einfach erklärt
Ein Sprachmodell erzeugt Text, der plausibel klingt — nicht zwingend Text, der wahr ist. Wenn es eine Lücke im Wissen gibt, "erfindet" es manchmal eine passend klingende Antwort, statt zuzugeben, dass es die Antwort nicht kennt.
Das ist kein Fehler im technischen Sinn, sondern eine Eigenschaft, wie diese Systeme funktionieren.
Beispiel aus dem Unternehmensalltag
Eine Ordination lässt sich von einer KI eine Literaturquelle nennen — die Quelle klingt echt, existiert aber gar nicht. Ohne Prüfung wäre sie ungeprüft übernommen worden.
Was das für Ihr Unternehmen bedeutet
- Jede KI-generierte Aussage mit Fakten, Zahlen oder Quellen muss geprüft werden — genau wie bei einer Praktikanten-Recherche.
- Halluzinationen sind häufiger bei sehr spezifischen oder seltenen Fragen.
- Das ist der Hauptgrund, warum KI unterstützt, aber nicht unbeaufsichtigt entscheidet.
Fragen dazu?
Erstgespräch vereinbaren →