Na ambiciosa busca para combater os danos causados por conteúdo falso em mídias sociais e sites de notícias, os cientistas de dados estão sendo criativos. Enquanto ainda estão em suas rodinhas de treinamento, os grandes modelos de linguagem (LLMs) usados para criar chatbots como o ChatGPT estão sendo recrutados para detectar notícias falsas.
Com melhor detecção, os sistemas de verificação de notícias falsas de IA podem ser capazes de alertar e, finalmente, neutralizar danos sérios de deepfakes, propaganda, teorias da conspiração e desinformação.
A Neurociência e o Comportamento Humano
As ferramentas de IA de próximo nível personalizarão a detecção de conteúdo falso, bem como nos protegerão contra ele. Para esse salto final em direção à IA centrada no usuário, a ciência de dados precisa olhar para a neurociência e o comportamento. Trabalhos recentes sugerem que nem sempre sabemos conscientemente que estamos nos deparando com notícias falsas. A neurociência está ajudando a descobrir o que está acontecendo inconscientemente.
Biomarcadores como frequência cardíaca, movimentos oculares e atividade cerebral parecem mudar sutilmente em resposta a conteúdo falso e real. Em outras palavras, esses biomarcadores podem ser "sinais" que indicam se fomos enganados ou não.
Por exemplo, quando humanos olham para rostos, dados de rastreamento ocular mostram que escaneamos taxas de piscadas e mudanças na cor da pele causadas pelo fluxo sanguíneo. Se tais elementos parecem artificiais, isso pode nos ajudar a decidir que estamos olhando para um deepfake. Esse conhecimento pode dar uma vantagem à IA — podemos treiná-la para imitar o que os humanos procuram, entre outras coisas.
Personalização da Detecção de Notícias Falsas
A personalização de um verificador de notícias falsas de IA toma forma usando descobertas de dados de movimento dos olhos humanos e atividade elétrica cerebral que mostram quais tipos de conteúdo falso têm o maior impacto neural, psicológico e emocional, e para quem. Conhecendo nossos interesses específicos, personalidade e reações emocionais, um sistema de verificação de fatos de IA poderia detectar e antecipar qual conteúdo desencadearia a reação mais severa em nós.
Isso poderia ajudar a estabelecer quando as pessoas são enganadas e que tipo de material engana as pessoas mais facilmente.
Combatendo os Danos das Notícias Falsas
O que vem a seguir é personalizar as salvaguardas. Proteger-nos dos danos das notícias falsas também requer a construção de sistemas que possam intervir — algum tipo de contramedida digital às notícias falsas. Há várias maneiras de fazer isso, como rótulos de advertência, links para conteúdo confiável validado por especialistas e até mesmo pedir às pessoas que tentem considerar diferentes perspectivas quando leem algo.
Nosso próprio verificador de notícias falsas de IA personalizado poderia ser projetado para dar a cada um de nós uma dessas contramedidas para cancelar os danos do conteúdo falso online. Essa tecnologia já está sendo testada. Pesquisadores nos EUA estudaram como as pessoas interagem com um verificador de notícias falsas de IA personalizado de postagens de mídia social. Ele aprendeu a reduzir o número de postagens em um feed de notícias para aquelas que considerou verdadeiras.
Como prova de conceito, outro estudo usando postagens de mídia social adaptou conteúdo de notícias adicional a cada postagem de mídia para encorajar os usuários a visualizar perspectivas alternativas.
Desafios na Detecção Precisa de Notícias Falsas
Mas, independentemente de tudo isso parecer impressionante ou distópico, antes de nos empolgarmos, talvez valha a pena fazer algumas perguntas básicas. Grande parte, se não todo, do trabalho sobre notícias falsas, deepfakes, desinformação e informação enganosa destaca o mesmo problema que qualquer detector de mentiras enfrentaria.
Existem muitos tipos de detectores de mentiras, não apenas o teste do polígrafo. Alguns dependem exclusivamente da análise linguística. Outros são sistemas projetados para ler os rostos das pessoas para detectar se elas estão vazando microemoções que revelam que estão mentindo. Da mesma forma, existem sistemas de IA projetados para detectar se um rosto é genuíno ou uma falsificação profunda.
Antes que a detecção comece, todos nós precisamos concordar sobre como uma mentira se parece se quisermos identificá-la. Na verdade, em pesquisas sobre engano, isso pode ser mais fácil porque você pode instruir as pessoas sobre quando mentir e quando dizer a verdade. E então você tem alguma maneira de saber a verdade básica antes de treinar um humano ou uma máquina para dizer a diferença, porque eles recebem exemplos nos quais basear seus julgamentos.
Saber o quão bom é um detector de mentiras especialista depende de quantas vezes ele denuncia uma mentira quando há uma (acerto). Mas também, que ele não confunda frequentemente alguém dizendo a verdade quando na verdade estava mentindo (erro). Isso significa que ele precisa saber qual é a verdade quando a vê (rejeição correta) e não acusa alguém de mentir quando estava dizendo a verdade (alarme falso). O que isso se refere é à detecção de sinal, e a mesma lógica se aplica à detecção de notícias falsas.
Para um sistema de IA detectar notícias falsas, para ser super preciso, os acertos precisam ser realmente altos (digamos 90%) e então os erros serão muito baixos (digamos 10%), e os alarmes falsos precisam permanecer baixos (digamos 10%), o que significa que notícias reais não são chamadas de falsas. Se um sistema de verificação de fatos de IA, ou um humano, for recomendado a nós, com base na detecção de sinais, podemos entender melhor o quão bom ele é.
Desafios Adicionais na Detecção de Notícias Falsas
É provável que haja casos, como foi relatado em uma pesquisa recente, em que o conteúdo da notícia pode não ser completamente falso ou completamente verdadeiro, mas parcialmente preciso. Sabemos disso porque a velocidade dos ciclos de notícias significa que o que é considerado preciso em um momento, pode mais tarde ser considerado impreciso, ou vice-versa. Então, um sistema de verificação de notícias falsas tem seu trabalho cortado.
Se soubéssemos com antecedência o que era notícia falsa e o que era notícia real, quão precisos seriam os biomarcadores em indicar inconscientemente qual é qual? A resposta é não muito. A atividade neural é mais frequentemente a mesma quando nos deparamos com artigos de notícias reais e falsos.
Quando se trata de estudos de rastreamento ocular, vale a pena saber que existem diferentes tipos de dados coletados por meio de técnicas de rastreamento ocular (por exemplo, o tempo que nossos olhos permanecem fixos em um objeto, a frequência com que nossos olhos se movem em uma cena visual). Então, dependendo do que é analisado, alguns estudos mostram que direcionamos mais atenção ao visualizar conteúdo falso, enquanto outros mostram o oposto.
Conclusão
Já chegamos? Os sistemas de detecção de notícias falsas de IA no mercado já estão usando insights da ciência comportamental para ajudar a sinalizar e nos alertar contra conteúdo de notícias falsas. Então não será difícil para os mesmos sistemas de IA começarem a aparecer em nossos feeds de notícias com proteções personalizadas para nosso perfil de usuário exclusivo.
O problema com tudo isso é que ainda temos muito terreno básico a cobrir para saber o que está funcionando, mas também verificar se queremos isso. No pior cenário, só vemos notícias falsas como um problema online como uma desculpa para resolvê-lo usando IA. Mas conteúdo falso e impreciso está em todo lugar e é discutido offline. Não só isso, não acreditamos por padrão em todas as notícias falsas, às vezes as usamos em discussões para ilustrar más ideias.
Em um cenário imaginado de melhor caso, a ciência de dados e a ciência comportamental estão confiantes sobre a escala dos vários danos que as notícias falsas podem causar. Mas, mesmo aqui, aplicações de IA combinadas com magia científica ainda podem ser substitutos muito pobres para soluções menos sofisticadas, mas mais eficazes.
