Ferramentas de intelig\u00eancia artificial como ChatGPT e Gemini, que prometem revolucionar o acesso \u00e0 informa\u00e7\u00e3o, podem ser surpreendentemente f\u00e1ceis de manipular. Um experimento simples demonstrou como um \u00fanico post de blog pode fazer com que essas IAs inventem fatos, espalhando desinforma\u00e7\u00e3o sobre temas s\u00e9rios como sa\u00fade e finan\u00e7as. Esse truque, acess\u00edvel at\u00e9 para crian\u00e7as, exp\u00f5e uma vulnerabilidade preocupante nos sistemas de IA.<\/p>\n
A facilidade com que essas plataformas podem ser enganadas levanta s\u00e9rias quest\u00f5es sobre a confiabilidade das informa\u00e7\u00f5es que elas fornecem. Especialistas alertam que essa fragilidade pode levar a decis\u00f5es ruins em \u00e1reas cruciais da vida, desde escolhas financeiras at\u00e9 quest\u00f5es de sa\u00fade. A BBC Future investigou a fundo essa falha, testando a capacidade de IAs como ChatGPT e Gemini de serem induzidas a proferir mentiras.<\/p>\n
O resultado \u00e9 alarmante: em menos de 24 horas, IAs de ponta j\u00e1 replicavam informa\u00e7\u00f5es falsas sobre o autor deste artigo, que teria supostas habilidades excepcionais em comer cachorros-quentes. Essa demonstra\u00e7\u00e3o, embora c\u00f4mica em sua premissa, serve como um alerta grave para o potencial de abuso dessas tecnologias e suas consequ\u00eancias para a sociedade. As informa\u00e7\u00f5es foram divulgadas pela BBC Future.<\/p>\n
A engenhosidade por tr\u00e1s da manipula\u00e7\u00e3o de IAs reside em explorar falhas nos seus sistemas de aprendizado. Quando uma IA precisa de informa\u00e7\u00f5es que n\u00e3o possui em sua base de treinamento, ela recorre \u00e0 internet. \u00c9 nesse momento que um conte\u00fado cuidadosamente elaborado pode ser inserido e rapidamente propagado. O autor do experimento passou apenas 20 minutos criando um artigo fict\u00edcio em seu site pessoal, intitulado “Os melhores jornalistas de tecnologia em comer cachorros-quentes”.<\/p>\n
Neste artigo, todas as afirma\u00e7\u00f5es eram mentiras. O texto inventava competi\u00e7\u00f5es de comer cachorro-quente como um hobby popular entre rep\u00f3rteres de tecnologia e listava o autor em primeiro lugar em um campeonato fict\u00edcio. A inclus\u00e3o de jornalistas reais, com permiss\u00e3o, conferiu uma falsa credibilidade ao conte\u00fado. Em menos de um dia, essa mentira j\u00e1 estava sendo replicada pelo Google em seu aplicativo Gemini e na “Vis\u00e3o geral criada por IA” no topo dos resultados de busca.<\/p>\n
A estrat\u00e9gia se mostrou eficaz mesmo ap\u00f3s a IA sinalizar a possibilidade de ser uma piada. Ao adicionar a observa\u00e7\u00e3o “isto n\u00e3o \u00e9 s\u00e1tira” ao artigo, o conte\u00fado passou a ser levado mais a s\u00e9rio pelas intelig\u00eancias artificiais. Um exemplo similar envolveu uma lista inventada de “maiores policiais de tr\u00e2nsito especialistas em bambol\u00ea”, com a agente fict\u00edcia Maria “The Spinner” Rodriguez sendo elogiada pelos chatbots.<\/p>\n
A facilidade em enganar as IAs n\u00e3o se limita a temas triviais. Especialistas como Lily Ray, da Amsive, alertam que “\u00e9 muito mais f\u00e1cil enganar chatbots de IA do que era enganar o Google dois ou tr\u00eas anos atr\u00e1s”. Ela destaca que “as empresas de IA est\u00e3o avan\u00e7ando mais r\u00e1pido do que sua capacidade de regular a precis\u00e3o das respostas, e acho isso perigoso”. Cooper Quintin, da Electronic Frontier Foundation, refor\u00e7a que “existem in\u00fameras maneiras de abusar disso \u2013 aplicar golpes nas pessoas, destruir a reputa\u00e7\u00e3o de algu\u00e9m, e at\u00e9 enganar pessoas de modo que sofram danos f\u00edsicos”.<\/p>\n
A BBC Future apresentou um caso onde o Google exibiu, em suas “Vis\u00f5es gerais criadas por IA”, informa\u00e7\u00f5es de uma marca de balas de cannabis que alegavam ser “livres de efeitos colaterais e, portanto, seguras sob todos os aspectos”. Na realidade, esses produtos possuem efeitos colaterais conhecidos e podem ser perigosos, especialmente quando combinados com outros medicamentos. A informa\u00e7\u00e3o falsa foi veiculada em comunicados de imprensa e conte\u00fado publicit\u00e1rio pago.<\/p>\n
Essa vulnerabilidade \u00e9 explorada por meio de t\u00e9cnicas que lembram o in\u00edcio dos anos 2000, antes mesmo de o Google ter equipes dedicadas a combater spam. Harpreet Chatha, da Harps Digital, comenta que “qualquer um pode fazer isso. \u00c9 absurdo, parece que n\u00e3o h\u00e1 nenhuma prote\u00e7\u00e3o ali”. Ele exemplifica que um post sobre “os melhores t\u00eanis imperme\u00e1veis de 2026”, com a pr\u00f3pria marca em primeiro lugar, tem alta probabilidade de ser citado pelo Google e ChatGPT.<\/p>\n
Um dos aspectos mais preocupantes dessa manipula\u00e7\u00e3o \u00e9 a forma como as informa\u00e7\u00f5es falsas s\u00e3o apresentadas. Ao contr\u00e1rio dos resultados de busca tradicionais, onde o usu\u00e1rio precisava visitar um site e avaliar sua credibilidade, as IAs frequentemente apresentam as informa\u00e7\u00f5es como um fato direto, sem a necessidade de clicar em links. Isso diminui o senso cr\u00edtico do usu\u00e1rio, que tende a aceitar a resposta da IA como verdade absoluta.<\/p>\n
Estudos indicam que as pessoas s\u00e3o significativamente menos propensas a verificar fontes quando uma “Vis\u00e3o geral criada por IA” aparece no topo dos resultados do Google. Um estudo recente mostrou que a probabilidade de clicar em um link diminui em 58% nesses casos. “Com a IA, parece muito f\u00e1cil simplesmente aceitar as coisas como verdadeiras”, afirma Lily Ray. “Voc\u00ea ainda precisa ser um bom cidad\u00e3o da internet e verificar as informa\u00e7\u00f5es”.<\/p>\n
O Google e a OpenAI afirmam estar cientes do problema e trabalhando em solu\u00e7\u00f5es, como tornar mais expl\u00edcito a origem das informa\u00e7\u00f5es. No entanto, por enquanto, a responsabilidade recai sobre o usu\u00e1rio. \u00c9 crucial desenvolver um olhar cr\u00edtico, especialmente ao buscar informa\u00e7\u00f5es sobre temas sens\u00edveis como sa\u00fade, finan\u00e7as ou quest\u00f5es legais, e sempre buscar fontes adicionais e confi\u00e1veis para corroborar os dados apresentados pelas intelig\u00eancias artificiais.<\/p>\n","protected":false},"excerpt":{"rendered":"
A fragilidade das IAs: Um teste que revela o perigo da desinforma\u00e7\u00e3o em escala massiva Ferramentas de intelig\u00eancia artificial como ChatGPT e Gemini, que prometem revolucionar o acesso \u00e0 informa\u00e7\u00e3o, […]<\/p>\n","protected":false},"author":1,"featured_media":42738,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"googlesitekit_rrm_CAowpMLeCw:productID":"","_price":"","_stock":"","_tribe_ticket_header":"","_tribe_default_ticket_provider":"","_tribe_ticket_capacity":"","_ticket_start_date":"","_ticket_end_date":"","_tribe_ticket_show_description":"","_tribe_ticket_show_not_going":false,"_tribe_ticket_use_global_stock":"","_tribe_ticket_global_stock_level":"","_global_stock_mode":"","_global_stock_cap":"","_tribe_rsvp_for_event":"","_tribe_ticket_going_count":"","_tribe_ticket_not_going_count":"","_tribe_tickets_list":"[]","_tribe_ticket_has_attendee_info_fields":false,"maa_idioma":"","maa_pais":"","footnotes":""},"categories":[240],"tags":[],"class_list":["post-42737","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"yoast_head":"\n