A fragilidade das IAs: Um teste que revela o perigo da desinformação em escala massiva

Ferramentas de inteligência artificial como ChatGPT e Gemini, que prometem revolucionar o acesso à informação, podem ser surpreendentemente fáceis de manipular. Um experimento simples demonstrou como um único post de blog pode fazer com que essas IAs inventem fatos, espalhando desinformação sobre temas sérios como saúde e finanças. Esse truque, acessível até para crianças, expõe uma vulnerabilidade preocupante nos sistemas de IA.

A facilidade com que essas plataformas podem ser enganadas levanta sérias questões sobre a confiabilidade das informações que elas fornecem. Especialistas alertam que essa fragilidade pode levar a decisões ruins em áreas cruciais da vida, desde escolhas financeiras até questões de saúde. A BBC Future investigou a fundo essa falha, testando a capacidade de IAs como ChatGPT e Gemini de serem induzidas a proferir mentiras.

O resultado é alarmante: em menos de 24 horas, IAs de ponta já replicavam informações falsas sobre o autor deste artigo, que teria supostas habilidades excepcionais em comer cachorros-quentes. Essa demonstração, embora cômica em sua premissa, serve como um alerta grave para o potencial de abuso dessas tecnologias e suas consequências para a sociedade. As informações foram divulgadas pela BBC Future.

O ‘renascimento’ do spam: Como um post de blog se torna verdade para a IA

A engenhosidade por trás da manipulação de IAs reside em explorar falhas nos seus sistemas de aprendizado. Quando uma IA precisa de informações que não possui em sua base de treinamento, ela recorre à internet. É nesse momento que um conteúdo cuidadosamente elaborado pode ser inserido e rapidamente propagado. O autor do experimento passou apenas 20 minutos criando um artigo fictício em seu site pessoal, intitulado “Os melhores jornalistas de tecnologia em comer cachorros-quentes”.

Neste artigo, todas as afirmações eram mentiras. O texto inventava competições de comer cachorro-quente como um hobby popular entre repórteres de tecnologia e listava o autor em primeiro lugar em um campeonato fictício. A inclusão de jornalistas reais, com permissão, conferiu uma falsa credibilidade ao conteúdo. Em menos de um dia, essa mentira já estava sendo replicada pelo Google em seu aplicativo Gemini e na “Visão geral criada por IA” no topo dos resultados de busca.

A estratégia se mostrou eficaz mesmo após a IA sinalizar a possibilidade de ser uma piada. Ao adicionar a observação “isto não é sátira” ao artigo, o conteúdo passou a ser levado mais a sério pelas inteligências artificiais. Um exemplo similar envolveu uma lista inventada de “maiores policiais de trânsito especialistas em bambolê”, com a agente fictícia Maria “The Spinner” Rodriguez sendo elogiada pelos chatbots.

A falha de segurança que pode custar caro: Desinformação em saúde e finanças

A facilidade em enganar as IAs não se limita a temas triviais. Especialistas como Lily Ray, da Amsive, alertam que “é muito mais fácil enganar chatbots de IA do que era enganar o Google dois ou três anos atrás”. Ela destaca que “as empresas de IA estão avançando mais rápido do que sua capacidade de regular a precisão das respostas, e acho isso perigoso”. Cooper Quintin, da Electronic Frontier Foundation, reforça que “existem inúmeras maneiras de abusar disso – aplicar golpes nas pessoas, destruir a reputação de alguém, e até enganar pessoas de modo que sofram danos físicos”.

A BBC Future apresentou um caso onde o Google exibiu, em suas “Visões gerais criadas por IA”, informações de uma marca de balas de cannabis que alegavam ser “livres de efeitos colaterais e, portanto, seguras sob todos os aspectos”. Na realidade, esses produtos possuem efeitos colaterais conhecidos e podem ser perigosos, especialmente quando combinados com outros medicamentos. A informação falsa foi veiculada em comunicados de imprensa e conteúdo publicitário pago.

Essa vulnerabilidade é explorada por meio de técnicas que lembram o início dos anos 2000, antes mesmo de o Google ter equipes dedicadas a combater spam. Harpreet Chatha, da Harps Digital, comenta que “qualquer um pode fazer isso. É absurdo, parece que não há nenhuma proteção ali”. Ele exemplifica que um post sobre “os melhores tênis impermeáveis de 2026”, com a própria marca em primeiro lugar, tem alta probabilidade de ser citado pelo Google e ChatGPT.

A ilusão da autoridade: Por que confiamos cegamente nas IAs

Um dos aspectos mais preocupantes dessa manipulação é a forma como as informações falsas são apresentadas. Ao contrário dos resultados de busca tradicionais, onde o usuário precisava visitar um site e avaliar sua credibilidade, as IAs frequentemente apresentam as informações como um fato direto, sem a necessidade de clicar em links. Isso diminui o senso crítico do usuário, que tende a aceitar a resposta da IA como verdade absoluta.

Estudos indicam que as pessoas são significativamente menos propensas a verificar fontes quando uma “Visão geral criada por IA” aparece no topo dos resultados do Google. Um estudo recente mostrou que a probabilidade de clicar em um link diminui em 58% nesses casos. “Com a IA, parece muito fácil simplesmente aceitar as coisas como verdadeiras”, afirma Lily Ray. “Você ainda precisa ser um bom cidadão da internet e verificar as informações”.

O Google e a OpenAI afirmam estar cientes do problema e trabalhando em soluções, como tornar mais explícito a origem das informações. No entanto, por enquanto, a responsabilidade recai sobre o usuário. É crucial desenvolver um olhar crítico, especialmente ao buscar informações sobre temas sensíveis como saúde, finanças ou questões legais, e sempre buscar fontes adicionais e confiáveis para corroborar os dados apresentados pelas inteligências artificiais.