O que aconteceu
Uma equipe de pesquisa da Carnegie Mellon, MIT e Cornell publicou dois estudos de caso randomizados em 6 de agosto, testando se conversas curtas sobre IA poderiam contrariar crenças conspiratórias enquanto fatos sobre eventos importantes ainda estavam surgindo.
Os pesquisadores analisaram 472 adultos norte-americanos que expressaram opiniões conspiratórias após a tentativa de assassinato de Donald Trump em julho de 2024 e 1.035 após o assassinato de Charlie Kirk em setembro de 2025. Os participantes foram designados aleatoriamente para um diálogo de desmascaramento personalizado, uma conversa não relacionada com IA ou uma lista estática de fatos contemporâneos.
Os grupos de diálogo completaram pelo menos cinco trocas com Gemini 1.5 Pro no primeiro experimento e Gemini 2.5 Pro no segundo. Ambos os modelos receberam uma base de fatos selecionada que separava informações confirmadas, afirmações desmentidas e questões não resolvidas; o segundo modelo também poderia pesquisar na web apenas para verificar informações factuais.
Numa medida de 0 a 100 de crença na teoria declarada de cada participante, os diálogos personalizados produziram reduções de 6,95 pontos em relação ao controle de bate-papo não relacionado no primeiro experimento e 7,56 pontos no segundo. As diferenças em relação à ficha informativa estática foram de 5,60 e 6,56 pontos. O artigo relata efeitos padronizados de aproximadamente 0,32 a 0,38 para essas comparações.
Os dois estudos de caso foram concebidos em torno de momentos em que o registo factual ainda estava em desenvolvimento. A primeira seguiu-se à tentativa de assassinato de Donald Trump em julho de 2024; a segunda seguiu-se ao assassinato de Charlie Kirk em setembro de 2025. Os participantes foram selecionados para interpretações conspiratórias ou incertas e, em seguida, designados para uma conversa que abordasse sua própria teoria declarada, um bate-papo de IA não relacionado ou uma ficha técnica contemporânea estática. O segundo estudo foi pré-registrado, enquanto o primeiro não foi, portanto a replicação é informativa, mas não equivalente a dois ensaios confirmatórios independentes.
Detalhes da fonte: Costello and colleagues' research paper on arXiv ↗
Por que isso importa
O resultado sugere que um sistema conversacional pode fazer mais do que repetir uma correção: pode adaptar factos, questões e incertezas à razão específica que uma pessoa dá para uma crença.
Essa distinção é útil durante acontecimentos de rápida evolução, quando as provas verificadas estão incompletas e uma ficha informativa genérica pode não abordar a afirmação que uma pessoa considera realmente persuasiva. A análise estratégica do artigo concluiu que o modelo se baseava mais em fontes credíveis, questões abertas e cautela quando pouco se sabia, e utilizava provas mais diretas quando o segundo evento tinha um registo factual maior.
Os autores também relatam evidências limitadas de repercussões posteriores. Dois meses após a primeira experiência, os participantes designados para o diálogo eram menos propensos do que os controlos agrupados a endossar duas interpretações conspiratórias de um evento subsequente. No segundo acompanhamento, a atribuição direta de tratamento não reduziu significativamente as crenças sobre um tiroteio posterior, embora uma análise de persistência pré-registada separada e uma medida de conspiração mais ampla sugerissem efeitos de transmissão menores.
O design mostra por que a interação pode superar uma correção estática sem provar que a persuasão é sempre desejável. Gemini 1.5 Pro no primeiro estudo e Gemini 2.5 Pro no segundo receberam bases de fatos com curadoria de pesquisadores separando informações confirmadas, afirmações desmascaradas e questões não resolvidas. O modelo poderia perguntar sobre o raciocínio específico do participante e escolher se responderia diretamente, citaria evidências confiáveis ou preservaria a incerteza. Essa adaptabilidade é útil para a educação, mas também dá ao sistema poder discricionário sobre quais reivindicações desafiar e quais fontes colocar em primeiro plano.
O estudo não justifica a implantação automática de bots persuasivos em conversas públicas. Um sistema instruído para mudar crenças detém um poder incomum, e os autores observam que técnicas semelhantes também podem aumentar a crença em afirmações falsas. Qualquer serviço real necessitaria de autoria transparente, fundamentação confiável de eventos, salvaguardas contra direcionamentos políticos e testes independentes de precisão e efeitos não intencionais.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
O que assistir a seguir
Fique atento à revisão por pares, à replicação para além de duas crises políticas nos EUA e às evidências de campo que mostram se as pessoas optam por utilizar tal ferramenta sem serem recrutadas para um estudo.
Esta é uma nova pré-impressão construída em torno de dois estudos de caso. O primeiro experimento não foi pré-registrado, o segundo foi, e ambos mediram crenças auto-relatadas imediatamente após uma breve interação on-line, em vez de comportamento de compartilhamento no mundo real, votação ou confiança de longo prazo.
As amostras analisadas incluíram apenas participantes cujas respostas abertas foram classificadas como conspiratórias ou incertas pelo GPT-4o, embora os autores relatem padrões semelhantes sob regras de classificação alternativas. Ambos os estudos recrutaram adultos dos EUA através do CloudResearch, pelo que os resultados podem não ser transferidos para outros países, idiomas, eventos ou populações.
Os modelos não dependiam de conhecimento sem ajuda: os investigadores forneciam bases de factos cuidadosamente montadas e instruções explícitas de persuasão. O trabalho futuro deverá testar quem mantém esses factos sob pressão de prazos, como os erros são corrigidos, se os pontos de vista opostos são tratados de forma consistente e quando um sistema deve preservar a incerteza em vez de tentar persuadir.
Há também uma distinção de medição entre mudar uma crença declarada e melhorar a compreensão de uma pessoa. Os resultados foram classificações auto-relatadas coletadas após breves conversas on-line, comportamento de compartilhamento não observado, verificação de fontes, votação ou decisões tomadas durante uma crise ao vivo. Os acompanhamentos do artigo fornecem evidências iniciais sobre a persistência, mas os resultados mistos significam que um estudo posterior deve pré-registrar os resultados de longo prazo, rastrear o atrito e testar se os participantes conseguem explicar as evidências por si próprios, em vez de simplesmente repetir a conclusão do modelo.
A replicação deve variar a fonte do registro factual, bem como a população. Estas experiências forneceram bases de factos aos próprios investigadores e recrutaram adultos norte-americanos através do CloudResearch, o que torna a configuração invulgarmente controlada, mas deixa questões em aberto sobre eventos multilingues, ambientes de menor conectividade e crises em que a informação oficial é atrasada ou contestada. Um ensaio de campo responsável tornaria visível a autoria do modelo, permitiria que os participantes recusassem a intervenção, registassem quais as provas apresentadas e utilizariam avaliadores independentes para verificar se o diálogo corrigia um equívoco sem introduzir um novo. Deve medir a confiança, a resposta emocional e a vontade de partilhar afirmações juntamente com as pontuações de crenças.