que paso
Un equipo de investigación de Carnegie Mellon, MIT y Cornell publicó dos estudios de casos aleatorios el 6 de agosto para probar si las conversaciones breves con IA podían contrarrestar las creencias conspirativas mientras aún emergían datos sobre eventos importantes.
Los investigadores analizaron a 472 adultos estadounidenses que expresaron opiniones conspirativas después del intento de asesinar a Donald Trump en julio de 2024 y 1.035 después del asesinato de Charlie Kirk en septiembre de 2025. Los participantes fueron asignados aleatoriamente a un diálogo desacreditador personalizado, una conversación de IA no relacionada o una lista estática de hechos contemporáneos.
Los grupos de diálogo completaron al menos cinco intercambios con Gemini 1.5 Pro en el primer experimento y Gemini 2.5 Pro en el segundo. Ambos modelos recibieron una base de datos seleccionada que separaba la información confirmada, las afirmaciones desacreditadas y las preguntas no resueltas; el segundo modelo también podría buscar en la web sólo para verificar información objetiva.
En una medida de 0 a 100 de creencia en la teoría declarada por cada participante, los diálogos personalizados produjeron reducciones de 6,95 puntos en relación con el control de chat no relacionado en el primer experimento y 7,56 puntos en el segundo. Las diferencias con la ficha estática fueron de 5,60 y 6,56 puntos. El artículo informa efectos estandarizados de aproximadamente 0,32 a 0,38 para esas comparaciones.
Los dos estudios de caso se diseñaron en torno a momentos en que el expediente de hechos aún estaba en desarrollo. El primero siguió al intento de asesinar a Donald Trump en julio de 2024; el segundo siguió al asesinato de Charlie Kirk en septiembre de 2025. Los participantes fueron examinados en busca de interpretaciones conspirativas o inciertas, luego se les asignó una conversación que abordaba su propia teoría declarada, un chat de IA no relacionado o una hoja informativa estática contemporánea. El segundo estudio fue prerregistrado, mientras que el primero no, por lo que la replicación es informativa pero no equivalente a dos ensayos confirmatorios independientes.
Detalles de la fuente: Costello and colleagues' research paper on arXiv ↗
Por qué es importante
El resultado sugiere que un sistema conversacional puede hacer más que repetir una corrección: puede adaptar hechos, preguntas e incertidumbre a la razón específica que una persona da para una creencia.
Esa distinción es útil durante acontecimientos que evolucionan rápidamente, cuando la evidencia verificada está incompleta y una hoja informativa genérica puede no abordar la afirmación que una persona realmente considera persuasiva. El análisis de estrategia del artículo encontró que el modelo se apoyaba más en fuentes creíbles, preguntas abiertas y cautela cuando se sabía poco, y luego usaba evidencia más directa cuando el segundo evento tenía un registro de hechos más amplio.
Los autores también reportan evidencia limitada de un desbordamiento posterior. Dos meses después del primer experimento, los participantes asignados al diálogo tenían menos probabilidades que los controles agrupados de respaldar dos interpretaciones conspirativas de un evento posterior. En el segundo seguimiento, la asignación de tratamiento directo no redujo significativamente las creencias sobre un tiroteo posterior, aunque un análisis de persistencia prerregistrado por separado y una medida de conspiración más amplia sugirieron efectos de arrastre más pequeños.
El diseño muestra por qué la interacción puede superar a una corrección estática sin demostrar que la persuasión siempre sea deseable. Gemini 1.5 Pro en el primer estudio y Gemini 2.5 Pro en el segundo recibieron bases de datos seleccionadas por investigadores que separan la información confirmada, las afirmaciones desacreditadas y las preguntas sin resolver. El modelo podría preguntar sobre el razonamiento específico del participante y elegir si responder directamente, citar evidencia creíble o preservar la incertidumbre. Esa adaptabilidad es útil para la educación, pero también le da al sistema discreción sobre qué afirmaciones cuestionar y qué fuentes poner en primer plano.
El estudio no justifica el despliegue automático de robots persuasivos en conversaciones públicas. Un sistema al que se le ha ordenado cambiar las creencias tiene un poder inusual, y los autores señalan que técnicas similares también pueden aumentar la creencia en afirmaciones falsas. Cualquier servicio real necesitaría una autoría transparente, una base confiable de eventos, salvaguardias contra ataques políticos y pruebas independientes de precisión y efectos no deseados.
Mecanismo interactivo: cómo funciona realmente
Explore la tecnología subyacente detrás de este desarrollo de forma interactiva.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Qué ver a continuación
Esté atento a la revisión por pares, la replicación más allá de dos crisis políticas de EE. UU. y la evidencia de campo que muestra si las personas eligen utilizar dicha herramienta sin ser reclutadas para un estudio.
Esta es una nueva preimpresión basada en dos estudios de caso. El primer experimento no fue registrado previamente, el segundo sí, y ambos midieron las creencias autoinformadas inmediatamente después de una breve interacción en línea en lugar del comportamiento de compartir en el mundo real, la votación o la confianza a largo plazo.
Las muestras analizadas incluyeron solo participantes cuyas respuestas abiertas fueron clasificadas como conspirativas o inciertas por GPT-4o, aunque los autores informan patrones similares bajo reglas de clasificación alternativas. Ambos estudios reclutaron a adultos estadounidenses a través de CloudResearch, por lo que es posible que los hallazgos no se transfieran a otros países, idiomas, eventos o poblaciones.
Los modelos no se basaban en conocimiento espontáneo: los investigadores proporcionaron bases de hechos cuidadosamente reunidas e instrucciones de persuasión explícitas. El trabajo futuro debería comprobar quién mantiene esos hechos bajo la presión de los plazos, cómo se corrigen los errores, si los puntos de vista opuestos se tratan de manera consistente y cuándo un sistema debería preservar la incertidumbre en lugar de intentar persuadir.
También existe una distinción de medición entre cambiar una creencia declarada y mejorar la comprensión de una persona. Los resultados fueron calificaciones autoinformadas recopiladas después de breves conversaciones en línea, comportamientos de intercambio no observados, verificación de fuentes, votaciones o decisiones tomadas durante una crisis en vivo. Los seguimientos del artículo proporcionan evidencia temprana sobre la persistencia, pero los resultados mixtos significan que un estudio posterior debería registrar previamente los resultados a largo plazo, realizar un seguimiento del desgaste y probar si los participantes pueden explicar la evidencia por sí mismos en lugar de simplemente repetir la conclusión del modelo.
La replicación debe variar la fuente del expediente de hechos así como la población. Estos experimentos proporcionaron las bases de datos de los propios investigadores y reclutaron a adultos estadounidenses a través de CloudResearch, lo que hace que la configuración sea inusualmente controlada pero deja preguntas abiertas sobre eventos multilingües, entornos de menor conectividad y crisis en las que la información oficial se retrasa o se cuestiona. Una prueba de campo responsable haría visible la autoría del modelo, permitiría a los participantes rechazar la intervención, registrar qué evidencia se mostró y utilizar jueces independientes para verificar si el diálogo corrigió un concepto erróneo sin introducir uno nuevo. Debería medir la confianza, la respuesta emocional y la voluntad de compartir afirmaciones junto con las puntuaciones de creencias.