KI klingt immer sicher – auch wenn sie irrt
Warum du KI-Antworten nie blind glauben solltest: erfundene Fakten, erfundene Quellen, versteckte Vorurteile.
Das Tückische an KI: Sie antwortet immer selbstbewusst – auch dann, wenn sie danebenliegt. Weil sie so flüssig formuliert, klingt sogar Falsches überzeugend.
Woran du denken musst
- Sie erfindet Fakten. Falsche Zahlen, Daten und Namen, überzeugend formuliert. Fachleute nennen das „halluzinieren".
- Sie erfindet Quellen. Manchmal nennt die KI Bücher, Zitate oder Links, die es gar nicht gibt. Immer selbst nachsehen.
- Sie ist nicht neutral. Sie übernimmt Vorurteile und Lücken aus den Texten, mit denen sie trainiert wurde.
- „KI-Detektoren" sind kein Beweis. Programme, die angeblich erkennen, ob ein Text von einer KI stammt, liegen oft falsch.
Prüf es nach. Frag dich bei jeder KI-Antwort: Stimmt das wirklich? Öffne echte Quellen, vergleiche mit dem, was du schon weißt. Nur wer selbst etwas weiß, merkt, wenn die KI Unsinn erzählt.
Ein guter Test: Frag die KI nach deiner Schule oder einer Person aus deiner Stadt. Oft bekommst du selbstbewusste Antworten, die komplett erfunden sind.
Eine KI nennt dir eine Jahreszahl und eine Quelle dazu. Was tust du?
KI kann Fakten und sogar Quellen erfinden und klingt dabei überzeugend. Prüfe Zahlen nach und öffne die Quelle wirklich – Selbstsicherheit ist kein Beweis.