que paso
Un equipo de investigación de Carnegie Mellon, MIT y Cornell publicó dos estudios de casos aleatorios el 6 de agosto para probar si las conversaciones breves con IA podían contrarrestar las creencias conspirativas mientras aún emergían datos sobre eventos importantes.
Los investigadores analizaron a 472 adultos estadounidenses que expresaron opiniones conspirativas después del intento de asesinar a Donald Trump en julio de 2024 y 1.035 después del asesinato de Charlie Kirk en septiembre de 2025. Los participantes fueron asignados aleatoriamente a un diálogo desacreditador personalizado, una conversación de IA no relacionada o una lista estática de hechos contemporáneos.
Los grupos de diálogo completaron al menos cinco intercambios con Gemini 1.5 Pro en el primer experimento y Gemini 2.5 Pro en el segundo. Ambos modelos recibieron una base de datos seleccionada que separaba la información confirmada, las afirmaciones desacreditadas y las preguntas no resueltas; el segundo modelo también podría buscar en la web sólo para verificar información objetiva.
En una medida de 0 a 100 de creencia en la teoría declarada por cada participante, los diálogos personalizados produjeron reducciones de 6,95 puntos en relación con el control de chat no relacionado en el primer experimento y 7,56 puntos en el segundo. Las diferencias con la ficha estática fueron de 5,60 y 6,56 puntos. El artículo informa efectos estandarizados de aproximadamente 0,32 a 0,38 para esas comparaciones.
Lea la fuente principal: Costello and colleagues' research paper on arXiv ↗
Por qué es importante
El resultado sugiere que un sistema conversacional puede hacer más que repetir una corrección: puede adaptar hechos, preguntas e incertidumbre a la razón específica que una persona da para una creencia.
Esa distinción es útil durante acontecimientos que evolucionan rápidamente, cuando la evidencia verificada está incompleta y una hoja informativa genérica puede no abordar la afirmación que una persona realmente considera persuasiva. El análisis de estrategia del artículo encontró que el modelo se apoyaba más en fuentes creíbles, preguntas abiertas y cautela cuando se sabía poco, y luego usaba evidencia más directa cuando el segundo evento tenía un registro de hechos más amplio.
Los autores también reportan evidencia limitada de un desbordamiento posterior. Dos meses después del primer experimento, los participantes asignados al diálogo tenían menos probabilidades que los controles agrupados de respaldar dos interpretaciones conspirativas de un evento posterior. En el segundo seguimiento, la asignación de tratamiento directo no redujo significativamente las creencias sobre un tiroteo posterior, aunque un análisis de persistencia prerregistrado por separado y una medida de conspiración más amplia sugirieron efectos de arrastre más pequeños.
El estudio no justifica el despliegue automático de robots persuasivos en conversaciones públicas. Un sistema al que se le ha ordenado cambiar las creencias tiene un poder inusual, y los autores señalan que técnicas similares también pueden aumentar la creencia en afirmaciones falsas. Cualquier servicio real necesitaría una autoría transparente, una base confiable de eventos, salvaguardias contra ataques políticos y pruebas independientes de precisión y efectos no deseados.
Qué ver a continuación
Esté atento a la revisión por pares, la replicación más allá de dos crisis políticas de EE. UU. y la evidencia de campo que muestra si las personas eligen utilizar dicha herramienta sin ser reclutadas para un estudio.
Esta es una nueva preimpresión basada en dos estudios de caso. El primer experimento no fue registrado previamente, el segundo sí, y ambos midieron las creencias autoinformadas inmediatamente después de una breve interacción en línea en lugar del comportamiento de compartir en el mundo real, la votación o la confianza a largo plazo.
Las muestras analizadas incluyeron solo participantes cuyas respuestas abiertas fueron clasificadas como conspirativas o inciertas por GPT-4o, aunque los autores informan patrones similares bajo reglas de clasificación alternativas. Ambos estudios reclutaron a adultos estadounidenses a través de CloudResearch, por lo que es posible que los hallazgos no se transfieran a otros países, idiomas, eventos o poblaciones.
Los modelos no se basaban en conocimiento espontáneo: los investigadores proporcionaron bases de hechos cuidadosamente reunidas e instrucciones de persuasión explícitas. El trabajo futuro debería comprobar quién mantiene esos hechos bajo la presión de los plazos, cómo se corrigen los errores, si los puntos de vista opuestos se tratan de manera consistente y cuándo un sistema debería preservar la incertidumbre en lugar de intentar persuadir.
