KI-Halluzinationen: Was sind sie und wie lassen sie sich vermeiden?

Was sind KI-Halluzinationen?

Bitten wir eine KI beispielsweise um die Handelsregisternummern von 20 Berliner Unternehmen mit steigenden Umsätzen, erhalten wir womöglich eine scheinbar schlüssige, vollständige Liste. Doch alle angegebenen Handelsregisternummern können erfunden sein.

Das Tückische an Halluzinationen ist genau dieser Anschein von Schlüssigkeit: Die Antworten wirken überzeugend, und die KI lässt keinerlei Zweifel erkennen. Deshalb weisen die Oberflächen von Sprachmodellen darauf hin, Zahlen und Fakten zu überprüfen.

Wie entstehen KI-Halluzinationen?

Halluzinationen treten daher besonders in drei Fällen auf:

• Fehlende Daten (die Hauptursache: Das Modell rät);
• Ungenaue Prompts (das Modell füllt Lücken selbst aus);
• Zu komplexe Aufgaben (das Modell versucht, alles auf einmal zu erledigen).

Es geht also nicht allein um die Sprachmodelle, sondern auch um ihren Zugang zu Daten. Halluzinationen entstehen nicht einfach zufällig: Sie haben Ursachen, denen sich entgegenwirken lässt.

Wie lassen sich KI-Halluzinationen vermeiden?

KI-Halluzinationen lässt sich durch direkten, strukturierten Zugang zu Daten vorbeugen. In einer solchen Umgebung können Sprachmodelle Informationen am besten auswerten, Entscheidungen treffen und Schlussfolgerungen ziehen.

Dafür gibt es drei Methoden, die sich je nach technischem Aufwand einsetzen lassen.

Eine Datendatei vorbereiten

Bereits aufbereitete Daten bereitzustellen, ist die einfachste Möglichkeit, das Risiko von Halluzinationen zu senken. So bleibt der KI weniger Spielraum, sich etwas dazuzudenken.

Wer gerade erst mit Sprachmodellen beginnt, behandelt sie oft wie eine Suchmaschine, eine ETL-Pipeline und ein Tool zum Auslesen von Websites in einem. Muss das Modell jedoch Daten sammeln, bereinigen und standardisieren, kann das Kontextfenster überlastet werden. Das Risiko von Halluzinationen steigt dann erheblich.

Deshalb lohnt es sich, die Datensammlung auf mehrere kleinere Prompts aufzuteilen und laufend zu prüfen, ob die KI korrekte Ergebnisse liefert. Das mag mühsam klingen, schafft aber eine verlässliche Grundlage. Erst darauf können Sprachmodelle ihre eigentliche Stärke ausspielen: mit vorhandenen Daten arbeiten.

Eine API nutzen

Eine API-Anbindung ist die fortgeschrittene Lösung: Sie ermöglicht einen schnelleren, skalierbaren Zugriff auf Daten, die zudem aktuell gehalten werden können. Wenn eine vorbereitete Datendatei einem Eimer Wasser entspricht, ist eine API der Wasserhahn.

Die Suche, die ChatGPT, Claude oder Gemini nutzen, ähnelt in gewisser Weise der menschlichen Recherche. Sprachmodelle durchsuchen Inhalte auf externen Websites wie Reddit oder Wikipedia und formulieren daraus eine Antwort.

Dabei ist jedoch nicht gewährleistet, dass die Inhalte korrekt und aktuell sind. Verteilte Quellen bedeuten unterschiedliche Standards und Veröffentlichungsdaten; manchmal kommen menschliche Fehler oder Meinungen hinzu. Eine API kann diese Schwäche ausgleichen, indem sie eine programmatisch abrufbare, beständige Quelle für bereinigte Daten bereitstellt.

Die API von Monitly bietet beispielsweise Zugang zu Statistiken aus aller Welt. Dafür nutzt sie direkte Verbindungen zu Quellen von Institutionen wie dem Statistischen Bundesamt (Destatis), Eurostat, der Weltbank (World Bank), der WHO und dem IWF (IMF). Die KI muss Informationen damit nicht auf verschiedenen Websites zusammensuchen, sondern kann die API direkt abfragen und aktuelle Ergebnisse für ihre Analyse und Interpretation erhalten.

Eine MCP-Anbindung einrichten

Eine Anbindung über MCP (Model Context Protocol) ermöglicht Sprachmodellen direkten Zugriff auf Dateien, Tabellen, Code oder Anwendungen. Das kann das Halluzinationsrisiko deutlich senken, weil dem Modell konkrete Daten für seine Arbeit zur Verfügung stehen.

Die Unternehmensdatenplattform Compabase bietet beispielsweise eine MCP-Anbindung, über die eine KI Unternehmen vor Ort schnell überprüfen kann. Fragen wir nun nach den Handelsregisternummern von 20 Berliner Unternehmen mit steigenden Umsätzen, erhalten wir statt erfundener Angaben eine konsistente, überprüfte Liste. Das Modell ist dadurch nicht plötzlich „intelligenter“ geworden: Zuvor fehlte ihm der Zugang zu diesen Daten. Jetzt kann es eine einfache SQL-Abfrage an die Datenbank stellen und ein konkretes Ergebnis abrufen.

Anders gesagt:

Ohne MCP:

• Einige Unternehmen existieren nicht;
• die Finanzdaten sind willkürlich;
• die Handelsregisternummern sind erfunden.

Mit MCP:

• Das Modell fragt die Datenbank ab;
• es erhält konkrete Datensätze;
• das Abfrageergebnis ist reproduzierbar.

Natürlich verschwinden Halluzinationen dadurch nicht vollständig – insbesondere dann nicht, wenn wir weiterhin eine übermäßig komplexe Verarbeitung und Verknüpfung von Daten erwarten. Schaffen wir jedoch eine Umgebung mit klarer Struktur, aktuellen Daten und wenig Interpretationsspielraum, muss die KI weniger raten und kann stattdessen tatsächlich vorhandene Informationen analysieren.