Detectar citas falsas de IA

Un modelo de lenguaje escribe prediciendo qué palabras probablemente aparecerán a continuación. Las citas siguen un patrón muy predecible: nombres de autores, un año, un título, una revista, un volumen, números de página y, a menudo, un DOI. Un modelo ha visto millones de referencias reales, por lo que puede producir uno que parezca perfectamente formado y no apunte a nada. Éste no es el modelo que miente a propósito. A menos que esté conectado a una herramienta de búsqueda, no tiene ningún paso incorporado que verifique si la referencia existe. Las malas citas de IA son de cuatro tipos. Algunas están completamente inventadas. Algunos mezclan investigadores reales con un título que nunca escribieron. Algunos nombran un artículo real pero se equivocan en detalles, como el año, la revista o los números de página. El tipo más difícil de detectar es un artículo real, citado correctamente y que no dice lo que el chatbot dice. Las consecuencias son reales. En el caso Mata v. Avianca de 2023 en un tribunal federal de Nueva York, los abogados presentaron un escrito citando casos judiciales que había inventado ChatGPT y el juez los sancionó. Para verificar las fuentes antes de enviarlas, primero busque el título exacto entre comillas en Google Scholar o en la base de datos de su biblioteca. En segundo lugar, si hay un DOI, ábrelo a través de doi.org y confirma que el artículo al que conduce tiene el mismo título y autores. En tercer lugar, verifique que los autores, el año y la revista coincidan. Cuarto, abra la fuente y encuentre el pasaje que respalde su afirmación. Quinto, si no puedes verificar una fuente, elimínala. Un error común es pedirle al chatbot que confirme su propia cita. Puede producir un "sí" seguro con la misma facilidad con la que produjo la referencia falsa. Las herramientas que buscan en la web reducen el riesgo, pero no lo eliminan, porque aún pueden expresar erróneamente lo que dice una fuente real.