Wenn KI Fakten erfindet: Was tun gegen mögliche Halluzinationen?

KI-Systeme zeigen Eigenschaften und Fähigkeiten, die früher als ureigen menschlich galten, sagt Dr. Georg Kraus. Der Inhaber der Unternehmensberatung Kraus & Partner erklärt, wie KI-Halluzinationen entstehen und welche Regeln für Unternehmen wichtig sind.

Klare Prompting-Regeln helfen Unternehmen, ohne Risiko von der KI zu profitieren. Abbildung: Igor Vetushko, Depositphotos

Der menschenähnliche Ausdruck von Chatbots verleitet ihre User oft zum Fehlschluss. Wenn sich die KI wie ein Mensch verhält, dann versteht sie auch wie ein Mensch Ereignisse, Arbeitsaufträge und Sachverhalte. Diese Schlussfolgerung ist falsch und gefährlich. Denn neben der Fähigkeit, realistische Dialoge und Beratungsgespräche zu führen sowie Gefühle zu spiegeln, haben KI-Systeme noch eine Eigenschaft mit Menschen gemeinsam: Sie können „halluzinieren“.

Warum KI-Systeme „im Bedarfsfall“ halluzinieren

Die Halluzinationen von KI-Systemen entstehen nicht durch Fehler im herkömmlichen, menschlichen Sinne, sondern durch das Funktionsprinzip großer Sprachmodelle. Diese erzeugen Antworten, indem sie Wort für Wort die wahrscheinlichste Fortsetzung eines Textes berechnen. Sie „wissen“ und „verstehen“ nichts: Sie rechnen. Je unvollständiger oder unklarer die Prompts sind, je weniger Daten zu einem Sachverhalt existieren oder je höher der Druck ist, eine kohärente Antwort zu liefern, desto wahrscheinlicher werden Elemente erfunden. Auch weil KI-Systeme nicht darauf programmiert sind, im Bedarfsfall als Reaktion auf Prompts fehlendes Wissen zuzugeben.

Die KI verantwortungsvoll einsetzen und nutzen

Damit Unternehmen von der KI profitieren, ohne sich den Risiken halluzinierter Antworten auszusetzen, bedarf es klarer Regeln. Führungskräfte sollten sich an folgenden Leitlinien orientieren:

Auch wenn der KI-Output souverän klingt: Jede Information muss geprüft werden, das gebietet die Sorgfaltspflicht.
Die Präsentation eines KI-Outputs ist oft professionell. Doch Stil und Wahrheitsgehalt stehen häufig in keinem Zusammenhang. Führungskräfte müssen lernen, das eine vom anderen zu trennen.
Insbesondere bei Personalfragen, Finanzentscheidungen, strategischen Analysen und im Compliance-Bereich sollten KI-Systeme nur unterstützend eingesetzt werden – nie ausschließlich.
Unklare Prompts erhöhen das Risiko von Halluzinationen. Unternehmen sollten Standards für das Formulieren von Fragen an KI entwickeln: präzise, eindeutig und kontextreich.
Technische Kompetenz allein reicht nicht. Entscheidend ist das Verständnis der Funktionsweise und der Grenzen der Modelle. Unternehmen sollten Schulungen anbieten, die kritisches Denken und die Fähigkeit, Fehler zu erkennen, stärken.
Je nachdem, wie sensibel der Aufgabenbereich ist, sollten mehrstufige Prüfmechanismen existieren, etwa Stichproben, Peer-Reviews oder Plausibilitätschecks.
Wenn KI-Systeme am Erbringen einer Leistung beteiligt sind, sollten Unternehmen dies offen kommunizieren, damit Fehler leichter erkenn- und nachvollziehbar sind und Vertrauen nicht verloren geht.