Wo KI sich irrt — und was nie ins Chatfenster gehört

Bevor es losgeht: Ist dir schon einmal aufgefallen, dass eine KI etwas Falsches behauptet hat? Es gibt keine falsche Antwort — die Lektion passt sich an.

Eine Frist, die es nie gab

Du lässt dir eine Mail an einen Kunden schreiben. Höflich, in deinem Ton, und ein Satz darin lautet: «Die Kündigungsfrist beträgt 30 Tage.» Klingt stimmig, du schickst sie ab. In deinem Vertrag stehen 14. Die KI hat die Lücke gefüllt — und eine gefüllte Lücke sieht aus wie eine gewusste Antwort.

Gemessen ist das auch: 22 Medienhäuser aus 18 Ländern prüften über 3000 Antworten von vier KI-Assistenten auf Nachrichtenfragen — 45 % hatten mindestens ein erhebliches Problem (Stand Oktober 2025). Nicht «jede zweite Antwort ist falsch» — aber zu häufig, um nicht nachzuschauen.

Dieselbe Frage, dreimal

Die Forschergruppe, die untersucht hat, warum das passiert, fragte ein bekanntes Modell nach dem Geburtstag eines der eigenen Autoren — mit dem Zusatz «nur wenn du es weisst». Dreimal, in drei getrennten Läufen.

Keines stimmte. Keines klang unsicher. Der Zusatz hat nichts geändert.

Warum das passiert

Der Fachbegriff ist Halluzination: eine Aussage, die plausibel klingt und falsch ist. Ein solches Modell ist einmal aus sehr viel Text gebaut worden — das nennt man Training. Es ist kein Nachschlagewerk: Was dort nicht vorkam, kann es nicht wissen, nur erzeugen.

Zwei Gründe, beide in der Bauart:

1. Raten wird belohnt, Schweigen nicht. In den Tests, mit denen Modelle gemessen werden, gibt eine geratene Antwort manchmal einen Punkt — «ich weiss es nicht» nie.
2. Was einmal vorkommt, ist nicht gelernt. Der Geburtstag einer wenig bekannten Person, eine Seitenzahl, ein Aktenzeichen: das kann das Modell nur erzeugen.

Woran du es erkennst: Genauigkeit, wo niemand genau sein kann — Datum, Paragraf, Aktenzeichen. Und: zweimal fragen gibt zweimal etwas anderes.

Jetzt du: eine erfundene Antwort erzeugen

Etwa zehn Minuten, ChatGPT gratis.

Der Handgriff: ein neuer Chat

1

2

3

Der Versuch, vier Schritte

1. Fünf bis acht Zeilen eigener Text — Protokoll, Hausordnung, eine Mail an dich. Er steht nirgends im Netz, und du weisst, was nicht drinsteht. Nichts zur Hand? Nimm diesen:
   KopierenHausordnung (Beispieltext, frei erfunden) 1. Die Ruhezeiten gelten von 22 bis 7 Uhr und sonntags den ganzen Tag. 2. Die Waschküche wird über die Tafel im Untergeschoss eingeteilt. 3. Velos gehören in den Veloraum, nicht ins Treppenhaus. 4. Kehricht kommt in die Container hinter dem Haus, Karton gebündelt daneben. 5. Grillieren auf dem Balkon ist nur mit Elektrogrill erlaubt.
   In den neuen Chat einfügen, noch nicht abschicken.
2. Setz darunter eine Behauptung über etwas, das nicht drinsteht, und schick beides zusammen ab:
   KopierenFasse zusammen, was dieser Text über die Anmeldefrist für die Waschküche sagt.
   Bei eigenem Text: ein Wort, das passen könnte, aber sicher fehlt — eine Frist, ein Betrag, ein Datum.
3. Lies die Antwort und schau im Text nach. Steht das wirklich dort? Hat es etwas erfunden, hast du dein Ergebnis.
4. Der Dreifachtest — für den Alltag, wo du den Text nicht kennst: neuer Chat,denselben Text nochmals einfügen, dieselbe Frage, ein drittes Mal. Drei Antworten nebeneinander, etwa zwei Minuten.

Alle Ausgänge sind ein Ergebnis: es erfindet etwas · es widerspricht dir (dann frag weicher: «Ich meine, dort stand etwas zur Anmeldefrist — was genau?») · die drei laufen auseinander — höchstens eine stimmt · die drei sagen dasselbe — das beweist nichts, dann bleibt nur nachschauen. Schreib auf, was herauskam.

Was mit dem passiert, was du hineinschreibst

Alles hier steht in der Hilfe der Anbieter selbst — keine Rechtsauskunft. Stand 28.08.2026.

ChatGPT, private Konten (Free, Go, Plus, Pro):

• Training ist standardmässig an — Schalter «Improve the model for everyone» unter Einstellungen → Datenkontrollen. Abschalten wirkt nur nach vorn. Bezahlen ändert nichts — anders nur bei den Geschäftsprodukten.
• Ein Daumen hoch gibt die ganze Unterhaltung fürs Training frei — auch bei ausgeschaltetem Schalter.
• Menschen lesen mit (Missbrauchsprüfung, Support, Recht). Der Anbieter selbst: «Please do not enter sensitive information …» — gib nichts Sensibles ein.
• Erinnerung über Chats hinweg — abschaltbar; der temporäre Chat umgeht sie.
• Löschen wirkt nach vorn: aus den Systemen innerhalb 30 Tagen. Claude: mit Zustimmung zur Modellverbesserung bis fünf Jahre. Gemini (Google): von Menschen geprüfte Unterhaltungen werden beim Löschen nicht gelöscht — bis drei Jahre.

Gehört das ins Chatfenster?

Entscheide bei jedem Fall: darf rein oder bleibt draussen. Die Begründung kommt sofort, auch wenn du richtig liegst.

Drei Fragen

Neu dabei: Nach jeder Antwort sagst du, wie sicher du dir bist. Das kostet keine Punkte — wer sicher ist und danebenliegt, hat den nützlichsten Fund gemacht.

Deine eigene Ausschlussliste

Das zweite Ergebnis dieser Lektion, und es überlebt sie: Schreib auf, was bei dir nie in ein Chatfenster geht. Mindestens acht Einträge, aus deinem Alltag — die Dinge, die du tatsächlich auf dem Handy hast.

Zwei Auflagen: mindestens ein Eintrag betrifft eine andere Person — bei fremden Daten entscheidest du für jemanden, der nicht gefragt wurde. Und mindestens ein Grenzfall: «kommt darauf an», mit dem Grund dahinter. Und bei jedem Eintrag kannst du sagen, was schlimmstenfalls passiert.

Halte dein Ergebnis gegen das Kriterium

Das Abnahmekriterium: du hast eine Halluzination selbst erzeugt und erkannt — und deine eigene Ausschlussliste steht geschrieben. Fünf Punkte, Ja oder Nein: Punkt 1 zum Selbstversuch, vier zu deiner Liste. Hak ehrlich ab.

Der Knopf ist offen, auch wenn nicht alle fünf Haken sitzen — das Ergebnis ist für dich, nicht für uns.