Lektion 2 von 9 · Klasse 8/9 · Information und Daten

KI klingt immer sicher – auch wenn sie irrt

Warum du KI-Antworten nie blind glauben solltest: erfundene Fakten, erfundene Quellen, versteckte Vorurteile.

KI klingt immer sicher – auch wenn sie irrt

Das Tückische an KI: Sie antwortet immer selbstbewusst – auch dann, wenn sie danebenliegt. Weil sie so flüssig formuliert, klingt sogar Falsches überzeugend.

KI klingt immer sicher – auch wenn sie irrt

Woran du denken musst

  • Sie erfindet Fakten. Falsche Zahlen, Daten und Namen, überzeugend formuliert. Fachleute nennen das „halluzinieren".
  • Sie erfindet Quellen. Manchmal nennt die KI Bücher, Zitate oder Links, die es gar nicht gibt. Immer selbst nachsehen.
  • Sie ist nicht neutral. Sie übernimmt Vorurteile und Lücken aus den Texten, mit denen sie trainiert wurde.
  • „KI-Detektoren" sind kein Beweis. Programme, die angeblich erkennen, ob ein Text von einer KI stammt, liegen oft falsch.

Woran du denken musst

★ Merke

Prüf es nach. Frag dich bei jeder KI-Antwort: Stimmt das wirklich? Öffne echte Quellen, vergleiche mit dem, was du schon weißt. Nur wer selbst etwas weiß, merkt, wenn die KI Unsinn erzählt.

KI klingt immer sicher – auch wenn sie irrt

Woran du denken musst (Fortsetzung)

Ein guter Test: Frag die KI nach deiner Schule oder einer Person aus deiner Stadt. Oft bekommst du selbstbewusste Antworten, die komplett erfunden sind.

Quizfrage · Mitmachen

Eine KI nennt dir eine Jahreszahl und eine Quelle dazu. Was tust du?

  1. Ich prüfe die Zahl und öffne die Quelle, bevor ich sie übernehme
  2. Ich glaube es, die KI klingt ja sehr sicher
  3. Quellen von einer KI stimmen immer
  4. Ein KI-Detektor beweist mir, dass alles echt ist

Noch keine Antworten.

Abscannen und mitmachen
0 Antworten

Probieren Sie es mit dem Handy aus. Diese Demo teilen sich alle Besucher, jede Nacht beginnt sie wieder leer.

Beispiel aus dem Alltag

Die erfundene Quelle

Für ein Referat fragt Elias einen Chatbot nach Zahlen zur Mediennutzung. Antwort: „Laut der Studie von Prof. Berger (2021) sind es 4,7 Stunden.“ Die Studie gibt es nicht. Prof. Berger auch nicht.

? Warum erfindet die KI eine Quelle, statt zu sagen, dass sie es nicht weiß?

✓ Weil sie keine Quellen kennt, sondern Text erzeugt, der wie eine Quelle aussieht. Regel: Jede Zahl, jeder Name, jedes Zitat wird einmal nachgeschlagen, bevor es ins Referat kommt.

Simulation · KI klingt immer sicher – auch wenn sie irrt

Das selbstsichere Orakel

Frage 1 von · richtig erkannt: 0

Alle Antworten klingen gleich sicher. Genau das ist das Problem: Der Tonfall verrät nichts über die Wahrheit.

Kostprobe · Lektion 2 von 9

Das war die Kostprobe.

Der ganze Kurs „Medienkompetenz Klasse 8/9: KI, Recht und Respekt“ hat 9 Lektionen in dieser Art.

Lektion zum Lesen öffnen Zum Kurs

✕ Präsentation beenden 1 / 9