Halluzination
Von einer Halluzination spricht man, wenn ein KI-System etwas erfindet und es überzeugend als Tatsache formuliert. Für einen Betrieb heißt das ganz konkret: falsche Öffnungszeiten, Leistungen, die Sie nie angeboten haben, oder eine Telefonnummer, die es nie gab. Das System lügt dabei nicht, es errechnet, was plausibel klingt, und Plausibles ist nicht immer wahr.
Was das genau bedeutet
Tippen Sie auf dem Handy eine Nachricht, schlägt die Tastatur das nächste Wort vor. Sie schlägt vor, was häufig auf das Vorherige folgt, nicht das, was Sie sagen wollten. Deshalb entstehen Sätze, die tadellos klingen und trotzdem Unsinn sind. Ein KI-Sprachmodell arbeitet nach demselben Prinzip, nur unfassbar viel größer. Es sucht keine Wahrheit heraus, es setzt fort.
Was das anrichtet, zeigt ein Alltagsfall. Ein Friseursalon hat sonntags geschlossen. Weil im Netz keine eindeutige Angabe zu finden ist, antwortet ein Dienst auf die Frage nach Sonntagsterminen mit einer Uhrzeit. Am Sonntag steht jemand vor verschlossener Tür. Ärgerlich ist er nicht über die Technik, sondern über den Salon.
Wichtig ist dabei: Das System merkt selbst nicht, dass es rät. Es kennt keinen Unterschied zwischen einer Angabe, die es gelesen hat, und einer, die es ergänzt. Genau darum klingen erfundene Antworten so sicher wie richtige.
Warum das für Ihr Unternehmen zählt
Den Schaden trägt Ihr Betrieb, nicht der Anbieter der Software. Die Person mit der falschen Auskunft ruft nicht bei einem Rechenzentrum an, sondern ist bei Ihnen enttäuscht, und im schlimmsten Fall schreibt sie das als Bewertung.
Betroffen sind vor allem die Kleinen. Erfindungen entstehen dort, wo es wenig eindeutiges Material gibt. Über ein Autohaus mit hundert Filialen steht überall dasselbe, über einen Zweipersonenbetrieb mit dünner Webseite kaum etwas. Die Lücke wird dann gefüllt, statt offengelassen.
Und Sie erfahren nichts davon. Es gibt keine Benachrichtigung, keine Beschwerdestelle und keine Statistik über falsche Auskünfte. Wer nicht selbst nachschaut, merkt jahrelang nichts, außer an Anrufen, die nie kommen.
So gehen Sie vor
- Befragen Sie die Dienste zu sich selbst. Öffnen Sie zwei KI-Dienste und stellen Sie Sachfragen: Wann hat der Betrieb geöffnet, was kostet dort eine typische Leistung, macht er auch Notdienst. Schreiben Sie die Antworten wörtlich mit.
- Sortieren Sie das Ergebnis in drei Stapel. Richtig, veraltet, frei erfunden. Nur der dritte Stapel ist eine Halluzination im engeren Sinn. Der zweite ist meist Ihre eigene Baustelle, weil irgendwo im Netz noch alte Angaben stehen.
- Machen Sie die strittigen Angaben eindeutig. Öffnungszeiten, Adresse und Telefonnummer müssen an allen Stellen gleich lauten, und sie gehören als lesbarer Text auf Ihre Seite, nicht in ein Bild. Widersprüchliche Angaben sind für ein KI-System eine Einladung, sich für eine Fassung zu entscheiden.
- Schreiben Sie auch auf, was Sie nicht anbieten. Ein Satz wie „Wir übernehmen keine Dachdeckerarbeiten" verhindert erfundene Leistungen wirksamer als jede Beschwerde. Was nirgends verneint wird, wird gelegentlich behauptet.
- Nutzen Sie die Rückmeldung, wo es sie gibt. Einige Dienste haben unter der Antwort einen Knopf zum Melden, und Ihr Google-Profil lässt sich direkt korrigieren. Rechnen Sie aber nicht mit einer Reaktion: Einen Anspruch auf Richtigstellung gibt es nicht, und ein Impressum, an das Sie schreiben könnten, hilft hier selten weiter.
Typische Fehler
Vier Fragen, die kommen, sobald jemand die erste erfundene Antwort über sich gelesen hat.
Kann ich den Anbieter zwingen, das zu korrigieren?
In der Praxis nicht. Die Antwort ist kein gespeicherter Eintrag, den jemand ändern könnte, sondern entsteht bei jeder Frage neu. Wirksamer ist es, die Grundlage zu verbessern, aus der die Antwort gebildet wird, also das, was im Netz über Sie steht.
Verschwindet das Problem nicht, wenn die Technik besser wird?
Es wird seltener, aber es verschwindet nicht. Viele Dienste schlagen inzwischen erst im Netz nach und verweisen auf die Fundstelle. Findet sich dort nichts über Sie, hilft auch das Nachschlagen nichts, und der alte Reflex greift wieder.
Betrifft das nur ChatGPT?
Nein. Erfundene Angaben tauchen ebenso in den Antworttexten über den Google-Treffern auf, in Assistenten auf dem Handy und in Zusammenfassungen, die Portale automatisch erzeugen. Prüfen Sie deshalb mehr als einen Dienst.
Wenn eine KI mir Leistungen andichtet, ist das nicht sogar Werbung?
Es fühlt sich so an und ist keine. Sie bekommen Anfragen für Arbeiten, die Sie nicht ausführen, müssen absagen und hinterlassen einen enttäuschten Menschen. Diese Anfragen kosten Zeit und bringen nichts ein.
Verwandte Begriffe
Wie wir damit umgehen
Wir stellen zu Beginn einer Zusammenarbeit einige Sachfragen über den Betrieb an mehrere Dienste und legen die Antworten nebeneinander. Nicht, um Angst zu machen, sondern weil sich daraus die Reihenfolge der Arbeit ergibt: Was falsch draußen steht, wird vor allem anderen richtiggestellt. Versprechen können wir dabei nichts, was niemand halten kann. Eine Garantie, dass ein KI-Dienst über Sie nur Zutreffendes sagt, gibt es nicht. Was es gibt, ist ein deutlich kleineres Loch, in das er hineinraten kann.
Stimmt, was über Sie erzählt wird?
Auf unserer Seite zur KI-Suche steht, wie wir solche Antworten prüfen und was sich daran ändern lässt. Der kostenlose Sichtbarkeits-Check sieht sich an, wie eindeutig Ihre Angaben auf der eigenen Seite hinterlegt sind.