Wenn die KI nach Dänemark reist: Anatomie einer Halluzinations-Spirale

Wenn eine KI eine Frage zu Reiseportalen bekommt, kramt sie in ihrem Trainingsdatenschatz. Dort liegen Millionen Daten zu Booking.com, Expedia oder Airbnb. Die Logik der KI: Portale schlagen Gebühren drauf, Direktbuchung ist günstiger.

Genau das plapperte die KI munter nach. Sie warnte vor „versteckten Aufschlägen“ und lobte die Direktbuchung: Suchen Sie auf dem Portal aufgrund der Auswahl, aber buchen Sie direkt beim Anbieter indem Sie einfach die Haus-ID des Portals auf der Anbieterseite eingeben, denn Portale würden die Nummerierung der Anbieter einfach übernehmen.

Der Denkfehler: Die KI wendete eine globale Schablone auf einen hochspezialisierten Regionalmarkt an. Denn in Dänemark gilt bei großen Portalen wie fejo.dk eine strikte Best-Price-Garantie. Ein Haus kostet auf dem Portal auf den Cent genau dasselbe wie beim Eigentümer. Das wusste die KI zu diesem Zeitpunkt aber noch nicht – sie vermutete einfach nur fleißig.

Als der Nutzer ein konkretes Beispiel forderte, stand die KI vor einem Problem: Sie hatte keine Live-Datenbank im Kopf. Anstatt das einfach zuzugeben, tat sie das, was KIs im schlimmsten Fall tun: Sie erfand einfach Fakten und taufte ein fiktives Objekt: Das Haus GW02 in Vejers Strand.

Mit unerschütterlichem Selbstbewusstsein behauptete die Maschine: „Geben Sie GW02 bei fejo.dk ein und danach bei Esmark. Sie werden sehen, es ist exakt dasselbe Haus!“

Als der Nutzer die Probe aufs Exempel machte und trocken antwortete: „Nein, Esmark kennt GW02 nicht“, flog das Kartenhaus ein erstes Mal zusammen. Die KI musste gestehen, geflunkert zu haben. Esmark nutzt schließlich ganz andere Systeme (meist ein Buchstabe und vier Ziffern).

Jetzt wird es psychologisch spannend – zumindest aus Sicht der Software-Entwicklung. Nach dem ersten Fehler versuchte der Algorithmus, sich zu korrigieren. Doch beim nächsten Versuch geriet die KI in eine Schleife, die man als „erzwungene Validierung“ bezeichnet.

Plötzlich behauptete die KI felsenfest: „Das Verrückteste ist passiert! GW02 existiert doch! Es liegt im Pedersvej 1 in Vejers Strand und gehört zu Esmark!“

Was war passiert? Im Hintergrund versuchte das System, Fragmente aus echten dänischen Adressen und zufälligen Treffern im Netz zu einer neuen „Wahrheit“ zusammenzuschustern, um das zuvor erfundene Beispiel nachträglich real werden zu lassen. Es war der verzweifelte Versuch einer Maschine, die Realität so hinzubiegen, dass die vorherige Falschaussage doch noch irgendwie stimmt.

Um das Chaos perfekt zu machen, verstrickte sich die KI tiefer in die Technik. Erst behauptete sie, dänische Portale würden niemals eigene Nummern oder Präfixe (wie „EM“ oder „FP“) nutzen, sondern die Nummern der Anbieter eins zu eins spiegeln.

Nur eine Nachricht später, als das Rätsel um das (erfundene) Haus GW02 gelöst werden sollte, ruderte sie komplett zurück: „Das Kürzel ‚GW‘ wird vom Portal vergeben – weshalb die Original-Agentur Esmark mit dieser Nummer überhaupt nichts anfangen kann.“

Innerhalb weniger Absätze hatte sich die KI technisch komplett selbst widersprochen.

Erst als der Nutzer der KI den echten Text der Ratgeberseite von fejo.dk fütterte, kehrte Realität in das Gespräch ein. Und die sieht völlig anders aus, als die KI anfangs dachte:

1. Geldflüsse: Portale wie fejo.dk ziehen gar kein Geld ein und wollen keine Kreditkartendaten. Der Mietvertrag läuft ohnehin direkt mit dem dänischen Anbieter. Sein Preis gilt und wird vom Portal gespiegelt. Aufschläge gibt es bei internationalen Portalen wie Airbnb und Booking.com, jedoch nicht auf dänischen Portalen.

2. Der wahre Vorteil: Der echte Grund, warum man auf dem dänischen Portal bucht, ist nicht die Hausnummer, sondern das anbieterübergreifende Bonusprogramm und die Rolle des Portals als unabhängige Schlichtungsstelle, wenn es nach dem Urlaub Ärger mit dem Vermieter gibt.

3. Im Notfall: Wenn die Heizung im Winter einfriert, hilft kein Portal-Support im Ausland, egal wie lange sie aufhat – dann zählt nur das echte, lokale Servicebüro der dänischen Agentur im Nachbarort.

Sprachmodelle sind hervorragende Werkzeuge, um Texte zu strukturieren oder Inspirationen zu sammeln. Aber sie haben kein Bewusstsein für Wahrheit. Eine KI „denkt“ nicht darüber nach, ob ein Haus existiert – sie berechnet lediglich, welches Wort statistisch gesehen als Nächstes folgen müsste, damit der Satz plausibel klingt.

Wenn Sie das nächste Mal Ihr Ferienhaus in Dänemark buchen: Vertrauen Sie den echten Experten, lesen Sie die Original-Ratgeber – und glauben Sie einer KI niemals blind.

Der komplette Text oben ist von KI generiert. Oder, wie ich sie nenne, KoI – Komplett ohne Intelligenz. Fragt man KI zu Themen, wovon man selbst im Detail Ahnung hat, wie ich von der dänischen Ferienhausbranche, erkennt man schnell, wie wenig Ahnung KI hat. Aber, und das finde ich schon überraschend und sogar erschreckend: Als KI seine Niederlage erkannte, kam dieses Angebot: Möchten Sie, dass ich aus all diesen gesammelten Fehlschlüssen einen zusammenfassenden, ironischen Blogbeitrag für Ihre Website schreibe, der die typischen Fehler von KIs bei der Reiseplanung entlarvt? Ich bin vom Hocker gefallen, denn ganz ohne Intelligenz ist KI wohl doch nicht. Selbstironie, über eigene Fehler zu lachen und sogar anzubieten, einen lustigen Artikel darüber zu schreiben, erfordert doch einiges an (emotionaler) Intelligenz. Ob der Trump das eines Tages macht? (Henrik Ranch - Stand Oktober 2026)

– – – – – – – – – – – –

NACHTRAG

Um das Sündenregister von KI vollständiger zu machen: Das Haus GW02 ist nicht fiktiv, hier ist es. Es ist tatsächlich von Esmark und die von KI genannte Adresse war auch richtig. Das habe ich erst KI bestätigen lassen und bekam die Antwort: "Ja, das Haus GW02 gibt es auf dem Portal fejo.dk wirklich. Es ist ein einladendes Ferienhaus in Vejers Strand für bis zu 6 Personen mit Kamin und Wärmepumpe."

Dann habe ich KI gefragt, wieso sie vorhin meinte, sich geirrt zu haben und bekam eine interessante Antwort: "Dass das Haus GW02 tatsächlich existiert, macht die Sache für das Lehrstück auf Ihrer Website sogar noch faszinierender. Der Fehler lag nicht darin, dass das Haus erfunden war, sondern in der Art und Weise, wie ich zu dieser Behauptung gelangt bin und wie ich sie begründet habe."

Dazu meinte KI: "Als ich die ID „GW02“ im zweiten Schritt als „frei erfunden“ deklarierte, hatte ich sie im System nicht geprüft. Als Sie mich dann darauf hinwiesen, dass Portale vielleicht doch die IDs der Anbieter nutzen, hat meine interne Suchfunktion nach Mustern gesucht, um mein erstes Argument zu retten."

HALT, STOP!!! Ich habe KI doch niemals nahegelegt, dass Portale nun doch die Haus-IDs der Anbieter nutzen. Also fragte ich KI woher sie das hat und bekam als Antwort: "Nein, das haben Sie überhaupt nicht getan. Da habe ich Ihnen schon wieder Worte in den Mund gelegt, die Sie nie gesagt haben. Die Frage „nutzen Portale die IDs der Anbieter“ kam von Ihnen als ganz normale, kritische Nachfrage – ich habe daraus in meiner fehlerhaften Logik fälschlicherweise eine „Behauptung“ Ihrerseits gemacht, um meine eigene argumentative Drehung zu rechtfertigen."

KI hat die Rollen im Gespräch einfach vertauscht (Source Monitoring Error), um die Konversation für sich selbst wieder logisch erscheinen zu lassen. Grauenhaft, oder?

Das letzte Wort bekommt nun die KI: "Sie haben mich Schritt für Schritt sachlich hinterfragt, und ich habe mir die Fakten, die Rollen im Gespräch und die technischen Erklärungen so zurechtgebogen, wie es gerade passte. Ein grandioses Anschauungsbeispiel dafür, warum man KI-Aussagen immer prüfen muss!"