Eine KI kann eine Antwort sehr sicher formulieren, obwohl einzelne Angaben falsch sind. Das ist kein seltenes Randproblem, sondern eine bekannte Grenze generativer KI. Besonders tückisch: Falsche Antworten können genauso ordentlich und überzeugend aussehen wie richtige.
Warum eine KI überhaupt Falsches erfinden kann
Generative KI erzeugt Antworten auf Basis von Mustern und Wahrscheinlichkeiten. Sie besitzt kein eingebautes Wahrheitsgefühl. Wenn Informationen fehlen oder uneindeutig sind, kann sie Details ergänzen, die plausibel klingen, aber nicht stimmen. Solche erfundenen Angaben werden häufig als „Halluzinationen“ bezeichnet.
Das kann Zahlen, Namen, Öffnungszeiten, Studien, Gesetzesstellen oder sogar Quellen betreffen. Deshalb sollte die Frage nicht lauten: „Klingt die Antwort vernünftig?“, sondern: „Kann ich die wichtigen Punkte unabhängig bestätigen?“
Die Fünf-Minuten-Prüfung
Erstens: Markieren Sie die entscheidende Aussage. Nicht jeder Satz ist gleich wichtig. Bei einem Rezept ist die Dekoration weniger kritisch als ein Hinweis zu Allergien; bei einer Reise sind Öffnungszeiten und Fahrplan wichtiger als eine allgemeine Beschreibung.
Zweitens: Fragen Sie nach der Herkunft. Bitten Sie die KI um Quellen oder sagen Sie: „Nenne mir die offizielle Stelle, bei der ich das prüfen kann.“
Drittens: Öffnen Sie die Quelle selbst. Eine genannte Website oder Studie kann falsch zitiert oder sogar erfunden sein. Prüfen Sie, ob sie tatsächlich existiert und die behauptete Aussage enthält.
Viertens: Bevorzugen Sie Originalquellen. Für eine Behörde ist deren offizielle Website besser als ein unbekannter Blog. Für medizinische Grundlagen sind anerkannte Gesundheitsinstitutionen geeigneter als Werbeseiten.
Fünftens: Prüfen Sie das Datum. Fahrpläne, Preise, Gesetze, Förderungen und Öffnungszeiten ändern sich. Eine früher richtige Information kann heute überholt sein.
Warnzeichen in einer Antwort
Vorsicht ist angebracht, wenn eine KI sehr genaue Zahlen nennt, aber keine überprüfbare Quelle liefert. Auch ungewöhnlich konkrete Zitate, unbekannte Studiennamen oder Internetadressen, die nicht erreichbar sind, sollten misstrauisch machen.
Ein weiteres Warnzeichen ist eine Antwort ohne jede Unsicherheit bei einer Frage, die offensichtlich vom Einzelfall abhängt. Seriöse Orientierung sollte Grenzen nennen können.
Bei manchen Themen ist Nachprüfen Pflicht
Besonders sorgfältig sollten Sie Angaben zu Gesundheit, Medikamenten, Verträgen, Behörden, Geldanlagen, Steuern oder Fristen prüfen. Das gilt auch für Reiseinformationen, wenn eine falsche Uhrzeit dazu führen kann, dass Sie einen Zug oder Termin verpassen.
Die Europäische Kommission empfiehlt ausdrücklich, wichtige KI-Informationen anhand vertrauenswürdiger oder offizieller Quellen zu überprüfen.
Nicht nur die KI selbst zur Kontrolle fragen
Sie können eine KI durchaus bitten, ihre eigene Antwort kritisch zu überprüfen. Das ist nützlich, ersetzt aber keine unabhängige Quelle. Dasselbe System kann denselben Fehler ein zweites Mal überzeugend erklären.
Die drei Kontrollfragen
- „Welche Aussage in deiner Antwort ist am unsichersten?“
- „Welche offizielle Quelle kann ich dafür selbst öffnen?“
- „Ist diese Information zeitabhängig und sollte ich den aktuellen Stand prüfen?“
AktivLeben60-Merksatz: KI darf den ersten Überblick liefern. Bei wichtigen Entscheidungen gehört der letzte Kontrollblick Ihnen.