Governance
Was bedeutet Halluzination?
Von einer Halluzination spricht man, wenn ein Sprachmodell Informationen liefert, die überzeugend klingen, aber sachlich falsch oder frei erfunden sind. Ursache ist, dass Modelle Wahrscheinlichkeiten für den nächsten Textbaustein berechnen – nicht die Wahrheit prüfen.
In Unternehmen ist das ein zentrales Risiko. Gegenmaßnahmen sind RAG (Antworten auf belegbaren Quellen), Quellenangaben und ein Mensch im Prozess, der kritische Ergebnisse freigibt.
Verwandte Begriffe
Retrieval-Augmented Generation (RAG)
Eine Methode, bei der ein Modell vor der Antwort passende Dokumente sucht und diese einbezieht.
Mensch im Prozess (Human-in-the-Loop)
Ein Prinzip, bei dem Menschen kritische Entscheidungen eines KI-Systems prüfen und freigeben.
Large Language Model (LLM)
Ein KI-Modell, das auf großen Textmengen trainiert wurde und Sprache versteht und erzeugt.
Bereit, die Routinearbeit abzugeben?
In einem kurzen Gespräch finden wir den Anwendungsfall mit dem größten Hebel in Ihrem Betrieb – mit klarem Ziel und messbarem Ergebnis.