Il prossimoProssima guida
Il metodo SIFT per il fact-checking
Società
GUIDA AI FONDAMENTALI
Per verificare i fatti di una risposta dell'intelligenza artificiale, trattala come una guida piuttosto che come una fonte: individua le sue affermazioni specifiche, confronta ciascuna con fonti indipendenti e affidabili e riconduci ogni citazione all'originale.
Ascolta questa guidaNarrato dall'IA · ~3 min
Ciò è importante perché i chatbot producono testi fluidi e sicuri anche quando sono sbagliati, e uno studente che invia un errore non controllato o una citazione che non esiste ne è responsabile.
Chatbot come ChatGPT, Gemini e Claude generano testo prevedendo parole probabili, non cercando i fatti in un database verificato. Ecco perché possono produrre una data sbagliata, una citazione accorpata o una citazione che sembra reale ma non è mai stata pubblicata, errori spesso chiamati allucinazioni. Un esempio ben noto si è verificato nel 2023, quando gli avvocati del caso Mata v. Avianca di New York sono stati sanzionati dopo aver depositato una memoria contenente le decisioni del tribunale inventate da ChatGPT. L’abitudine più affidabile per gli studenti è la lettura laterale, una tecnica che i ricercatori dello Stanford History Education Group hanno osservato nei fact-checker professionisti. Invece di studiare attentamente una pagina, i fact-checker la abbandonano e aprono nuove schede per vedere cosa dicono altre fonti affidabili. Il metodo SIFT di Mike Caulfield raggruppa tutto ciò in quattro mosse: fermare, indagare sulla fonte, trovare una copertura migliore e rintracciare le rivendicazioni sulla loro origine. Applicato all’intelligenza artificiale, ciò significa fare una pausa prima di copiare, chiedere da dove potrebbe provenire un’affermazione, cercare una copertura indipendente e seguire le citazioni del documento originale. La triangolazione delle fonti aggiunge una regola pratica: un’affermazione importante dovrebbe essere confermata da almeno due fonti indipendenti e credibili, idealmente includendo una fonte primaria come un set di dati governativi, lo studio originale o il testo di una legge. Due siti web che ripetono lo stesso comunicato stampa non sono considerati indipendenti. I controlli di fiducia aiutano a decidere dove investire gli sforzi. Numeri, nomi, date, citazioni e citazioni specifici sono le parti più a rischio di una risposta. Gli eventi recenti sono rischiosi perché i dati di training di un modello hanno un limite. Un malinteso comune è che gli strumenti con la ricerca sul web non sbagliano mai; riducono alcuni errori ma possono comunque leggere o attribuire erroneamente le pagine che citano. Un altro è che l’IA può autocontrollarsi. Chiedergli se è sicuro non è una verifica, perché potrebbe semplicemente ripetere o invertire la sua risposta.
Uno studente di storia chiede a un chatbot quando è stato firmato un trattato, quindi apre una nuova scheda e conferma la data in una voce dell'enciclopedia e in una pagina di storia dell'università prima di scriverla.
Uno studente di biologia ottiene tre citazioni di riviste da uno strumento di intelligenza artificiale, cerca ogni titolo in Google Scholar e nel database della biblioteca e scopre che un articolo non esiste e un altro dice qualcosa di diverso dal riassunto dell'intelligenza artificiale.
Uno studente che si prepara per un dibattito chiede al chatbot la statistica più forte sulla disoccupazione giovanile, poi fa risalire il numero all’agenzia nazionale di statistica e nota che l’IA ha citato una cifra dell’anno sbagliato.
Uno studente pone la stessa domanda due volte con una formulazione diversa, ottiene due risposte contrastanti e tratta il disaccordo come un segnale per andare direttamente a un libro di testo e alla lista di lettura dell'insegnante.
Gli strumenti di intelligenza artificiale stanno aggiungendo citazioni più visibili, basi di ricerca e segnali di incertezza, il che dovrebbe rendere più semplice il controllo ma non ne eliminerà la necessità. Le scuole e le università stanno scrivendo sempre più politiche sull’uso dell’intelligenza artificiale che prevedono che gli studenti verifichino e divulghino l’assistenza dell’intelligenza artificiale, e le lezioni di alfabetizzazione informatica si stanno espandendo per coprire i chatbot insieme ai siti Web e ai social media. L’abilità di base, leggere lateralmente e rintracciare le affermazioni su origini affidabili, è rimasta utile attraverso diverse generazioni di tecnologia, dai motori di ricerca ai feed social, ed è probabile che rimanga il fulcro del controllo di qualunque strumento verrà dopo.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Per verificare i fatti di una risposta dell'intelligenza artificiale, trattala come una guida piuttosto che come una fonte: individua le sue affermazioni specifiche, confronta ciascuna con fonti indipendenti e affidabili e riconduci ogni citazione all'originale. Ciò è importante perché i chatbot producono testi fluidi e sicuri anche quando sono sbagliati, e uno studente che invia un errore non controllato o una citazione che non esiste ne è responsabile.
La lettura laterale, osservata nei fact-checker professionisti, significa passare ad altre fonti invece di studiare una pagina in profondità.
SIFT significa fermare, indagare sulla fonte, trovare una migliore copertura e rintracciare le rivendicazioni fino alla loro origine.
I modelli prevedono un testo plausibile, in modo da poter generare la forma di una citazione con autori, titoli o riviste inventati.
Fonti indipendenti raggiungono le informazioni separatamente. Ripetere un comunicato stampa o chiedere due volte lo stesso modello non è indipendente.
I dettagli precisi sono i punti in cui le allucinazioni molto spesso causano errori reali, quindi meritano il massimo sforzo di controllo.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Il metodo SIFT per il fact-checking
Società