Halluzinationen: Wenn KI überzeugend falsch antwortet
Halluzinationen, Bias, Deepfakes, Fake News und Manipulation erkennen und kontrollieren.
Sprachmodelle erzeugen ihre Antworten, indem sie auf Basis gelernter Muster das statistisch wahrscheinlichste nächste Wort vorhersagen. Sie verfügen dabei über kein echtes Verständnis von Wahrheit und keinen Zugriff auf eine verlässliche Faktenbasis, sofern sie nicht gezielt mit aktuellen Quellen verbunden sind. Das führt dazu, dass eine KI mit derselben sprachlichen Sicherheit eine korrekte wie eine völlig frei erfundene Aussage formulieren kann. Dieses Phänomen wird als Halluzination bezeichnet und ist eines der zentralen Risiken beim Einsatz von KI im Geschäftsalltag.
Typische Formen von Halluzinationen
Besonders häufig erfinden Sprachmodelle Quellenangaben, etwa Studien, Gesetzestexte oder Buchtitel, die täuschend echt klingen, aber schlicht nicht existieren. Auch bei technischen Normen und rechtlichen Vorschriften kommt es vor, dass eine KI eine plausibel wirkende, aber falsche DIN-Norm oder Paragrafennummer nennt. Ebenso werden Zahlen und Preise mit großer Selbstsicherheit genannt, obwohl sie frei erfunden oder veraltet sind. Für ein mittelständisches Unternehmen kann das gravierende Folgen haben, wenn solche Angaben ungeprüft in Angebote, Berichte oder Kundenkommunikation übernommen werden.
Sprachliche Sicherheit einer KI-Antwort ist kein Beleg für inhaltliche Richtigkeit.
- Erfundene Studien, Quellen und Literaturangaben
- Falsche oder frei erfundene Normen, Gesetze und Paragrafen
- Unzutreffende Zahlen, Preise und Statistiken
- Falsch zugeordnete Zitate oder Aussagen bekannter Personen
Ein Vertriebsmitarbeiter eines Maschinenbauunternehmens lässt sich von einer KI die geltende Sicherheitsnorm für eine neue Anlagenkomponente nennen. Die KI gibt eine plausibel klingende Normnummer aus, die tatsächlich nicht existiert. Erst die Rückfrage beim zuständigen Ingenieur deckt den Fehler auf, bevor das Angebot an den Kunden verschickt wird.
Ein KI-Chatbot im Patientenservice beantwortet die Frage zur Anwendung eines Sauerstoffkonzentrators fachlich falsch, formuliert die Antwort aber ruhig und überzeugend. Die Patientin hält die Auskunft für gesichert, weil sie sprachlich sicher klingt. Erst der Rückruf einer Fachkraft klärt die korrekte Anwendung.
Gesundheitsbezogene Fragen dürfen nie allein von einem Chatbot beantwortet werden, sondern gehören immer zu geschultem Fachpersonal.
Dieses Modul umfasst 5 Kapitel und einen abschließenden Wissens-Check. Melden Sie sich an, um es vollständig zu bearbeiten.
Kostenlos testen →