Wie Schüler KI-Antworten auf Fakten überprüfen können

Chatbots wie ChatGPT, Gemini und Claude generieren Text, indem sie wahrscheinliche Wörter vorhersagen, und nicht durch das Nachschlagen von Fakten in einer verifizierten Datenbank. Aus diesem Grund können sie ein falsches Datum, ein zusammengefügtes Zitat oder ein Zitat produzieren, das echt aussieht, aber nie veröffentlicht wurde – Fehler, die oft als Halluzinationen bezeichnet werden. Ein bekanntes Beispiel stammt aus dem Jahr 2023, als Anwälte im New Yorker Fall Mata v. Avianca mit Sanktionen belegt wurden, nachdem sie einen Schriftsatz eingereicht hatten, der Gerichtsentscheidungen enthielt, die ChatGPT erfunden hatte. Die zuverlässigste Angewohnheit für Schüler ist das seitliche Lesen, eine Technik, die Forscher der Stanford History Education Group bei professionellen Faktenprüfern beobachtet haben. Anstatt eine Seite genau zu studieren, verlassen Faktenprüfer sie und öffnen neue Tabs, um zu sehen, was andere vertrauenswürdige Quellen sagen. Die SIFT-Methode von Mike Caulfield gliedert dies in vier Schritte: Stoppen, Untersuchen der Quelle, Finden einer besseren Abdeckung und Verfolgen von Ansprüchen bis zu ihrem Ursprung. Auf KI angewendet bedeutet das, vor dem Kopieren innezuhalten, zu fragen, woher ein Anspruch stammen könnte, nach unabhängiger Deckung zu suchen und den Zitaten des Originaldokuments zu folgen. Die Quellentriangulation fügt eine Faustregel hinzu: Eine wichtige Behauptung sollte von mindestens zwei unabhängigen, glaubwürdigen Quellen bestätigt werden, idealerweise einschließlich einer Primärquelle wie einem Regierungsdatensatz, der Originalstudie oder dem Text eines Gesetzes. Zwei Websites, die dieselbe Pressemitteilung wiederholen, gelten nicht als unabhängig. Vertrauensprüfungen helfen bei der Entscheidung, wo man sich anstrengen sollte. Bestimmte Zahlen, Namen, Daten, Zitate und Zitate sind die Teile einer Antwort mit dem höchsten Risiko. Aktuelle Ereignisse sind riskant, da die Trainingsdaten eines Modells einen Grenzwert haben. Ein weit verbreitetes Missverständnis ist, dass Tools mit Websuche niemals Fehler machen; Sie reduzieren einige Fehler, können aber dennoch die von ihnen zitierten Seiten falsch interpretieren oder falsch zuordnen. Ein weiterer Grund ist, dass die KI sich selbst überprüfen kann. Die Frage, ob es sicher ist, stellt keine Verifizierung dar, da es seine Antwort möglicherweise einfach wiederholen oder umkehren könnte.