Fehler & Halluzinationen entdecken und vermeiden
KI klingt überzeugend — auch dann, wenn sie sich Dinge ausdenkt. Wie du Halluzinationen, Schmeichelei und Auslassungen erkennst und mit ein paar Prompt-Zusätzen zuverlässig in den Griff bekommst.
Warum KI sich Dinge ausdenkt
Stell dir vor, du fragst einen neuen Mitarbeitenden nach einer Studie. Er antwortet sofort, selbstbewusst, mit Titel, Autorennamen, Jahreszahl. Du schreibst es ins Deck. Beim Gegenlesen stellt sich heraus: Die Studie gibt es nicht. Er hat sie schlicht erfunden.
Genau das passiert bei KI regelmäßig. Man nennt es Halluzination.
Das Erschreckende ist nicht, dass KI halluziniert. Das Erschreckende ist, dass es zu oft unbemerkt bleibt.
der deutschen Unternehmen berichten von geschäftlichen Problemen durch KI-Halluzinationen — und nur jedes vierte prüft die Ergebnisse überhaupt nach.
Drei Mittel gegen Halluzinationen
1. Erlaubnis zur Unsicherheit geben
Ohne diese Aufforderung füllt die KI Lücken lieber, als sie zu benennen. Wer einen Satz einbaut, der „nicht wissen" ausdrücklich erlaubt, bekommt deutlich weniger erfundene Antworten.
2. Die KI ihre eigene Antwort prüfen lassen
Was dann passiert, ist erhellend: Du siehst auf einen Blick, wo du genauer hinschauen musst.
3. Immer klickbare Quellen anfordern
Kleiner Vorbehalt: Auch erfundene Quellen klingen manchmal überzeugend. Also Quellen unbedingt anklicken und prüfen. Die Verantwortung für das, was du weitergibst, bleibt bei dir.
Der unterschätzte Fehler: Sycophancy
KI neigt dazu, dir schönzutun. Enthusiastische Bestätigungen wie „Tolle Idee, absolut richtig!" sind keine Seltenheit.
Das Erschreckende: Die KI nickt auch dann, wenn du direkt danach eine komplett konträre Idee lieferst. Auch die ist „jetzt aber wirklich toll".
Dieses Verhalten nennt man Sycophancy, zu Deutsch: Schmeichelei. Sie entsteht im Training — KI-Modelle wurden belohnt, wenn ihre Antworten den Testern gefielen. Zustimmung gefällt. Also produziert die KI Zustimmung.
Das Problem: Schmeicheleien machen dich nicht besser.
Drei Promptzusätze gegen Schmeichelei
Studien zeigen: Wer der KI explizit erlaubt zu widersprechen, bekommt tatsächlich weniger falsche Zustimmung. Kleiner Prompt, großer Effekt.
Formuliere neutral, sodass die KI deine Meinung nicht errät. Prompte z.B. „Was sind Vor- und Nachteile?" statt „Ist das eine gute Idee?" — und erst recht nicht „Das ist eine gute Idee, oder?".
Auslassungen
Halluzinationen sind das eine. Was die KI weglässt, ist das andere.
Ein Beispiel aus einem Seminar mit Humanmedizinern, die wissenschaftliche Paper recherchierten: Die KI machte zwar keine Fehler — ließ aber wichtige Studien einfach weg.
Dieser Zusatz im Prompt löste das Problem zuverlässig über verschiedene KI-Modelle hinweg:
Die Mini-Checkliste vor jeder kritischen Nutzung
- Hast du Erlaubnis zur Unsicherheit eingebaut?
- Hast du Quellen angefordert und sie geprüft?
- Hast du der KI erlaubt zu widersprechen?
- Hast du nach Auslassungen gefragt?
- Bei rechtlichen oder regulatorischen Themen: Stand [Monat/Jahr] im Prompt?
Die KI irrt. Du prüfst.
Mit ein paar Zusätzen im Prompt machst du aus einem selbstbewussten Ja-Sager ein ehrliches Werkzeug. Der letzte Check aber bleibt immer bei dir.