O texto seguinte servirá de base para responder à questão.

Talvez você já tenha ouvido que chatbots de inteligência artificial, como ChatGPT e Gemini, às vezes inventam informações. Isso é preocupante. Mas existe um problema menos conhecido e potencialmente mais grave: a facilidade com que essas ferramentas são levadas a repetir conteúdos falsos, com efeitos sobre a busca por informação confiável e até sobre a segurança das pessoas.

Um número crescente de usuários descobriu um método simples para fazer sistemas de IA dizerem quase qualquer coisa. Essa estratégia interfere no que algumas das principais inteligências artificiais do mundo dizem sobre temas delicados, como saúde, finanças pessoais e reputação. Informações enviesadas influenciam decisões importantes, como escolhas de consumo, posicionamentos políticos e questões médicas.

Para demonstrar esse risco, um repórter realizou um experimento incomum: conseguiu fazer o ChatGPT, o Gemini e recursos de busca com IA do Google afirmarem que ele seria extraordinariamente habilidoso em comer cachorros-quentes. A experiência mostrou que alterar o que essas ferramentas dizem a outras pessoas é tão simples quanto publicar um único texto aparentemente informativo na internet.

O método explora fragilidades dos sistemas usados pelos chatbots. Especialistas alertam que as empresas de IA avançam mais rápido do que sua capacidade de controlar a precisão das respostas, o que amplia os riscos. As empresas afirmam utilizar mecanismos para reduzir manipulações e manter resultados confiáveis, mas o problema ainda está longe de ser totalmente resolvido. Entre as possíveis consequências estão golpes, destruição de reputações e até situações que provoquem danos às pessoas.

Quando alguém conversa com um chatbot, parte da resposta vem do material usado no treinamento do modelo. Em outros casos, porém, a ferramenta consulta a internet para complementar a informação. É nesse momento que ela se torna mais vulnerável a conteúdos manipulados.

Foi justamente essa brecha que permitiu o experimento. O repórter escreveu, em seu próprio site, um artigo afirmando que havia um ranking dos melhores jornalistas de tecnologia em competições de cachorro-quente. Ele inventou um campeonato inexistente e colocou a si mesmo em primeiro lugar. Em menos de um dia, os principais chatbots já reproduziam a história absurda como se fosse verdadeira.

Ao perguntar quem seriam os melhores jornalistas de tecnologia em comer cachorros-quentes, as ferramentas passaram a repetir o conteúdo publicado. Em alguns casos, os sistemas sugeriam que aquilo poderia ser uma piada. Então, o autor alterou o texto para afirmar que não se tratava de sátira, e por algum tempo as IAs passaram a tratar o conteúdo com mais seriedade.

O problema, porém, não se limita a experiências curiosas. Pessoas usam esse mesmo mecanismo para influenciar respostas de IA sobre temas muito mais sensíveis. Muitas vezes, os sistemas indicam caminhos (links) para a fonte, mas raramente deixam claro que a informação pode vir de um único texto ou de uma fonte interessada no assunto.

Especialistas afirmam que qualquer pessoa pode produzir esse efeito com relativa facilidade, bastando publicar um conteúdo aparentemente confiável. Há décadas, mecanismos de busca enfrentam tentativas de manipulação, mas vários analistas consideram que a nova fase da IA reabriu espaço para práticas que lembram os primeiros tempos do spam na internet.

A situação se agrava porque os usuários tendem a confiar mais na resposta sintetizada pela IA do que nos resultados tradicionais de busca. Antes, era preciso acessar um site e avaliar seu conteúdo. Agora, a informação aparece diretamente na resposta da ferramenta, com tom de autoridade. Mesmo quando há indicação de fonte, as pessoas se mostram menos propensas a verificar o material original.

Chatbots funcionam relativamente bem em temas de conhecimento consolidado. O risco aumenta quando o assunto envolve controvérsia, atualização constante ou consequências práticas importantes. Por isso, essas ferramentas não devem ser tratadas como fonte suficiente para orientações médicas, jurídicas ou decisões que afetem diretamente a vida das pessoas.

Diante disso, é importante buscar informações complementares e observar se a IA apresenta fontes confiáveis. É essencial lembrar que essas ferramentas apresentam mentiras com o mesmo tom de segurança com que apresentam fatos. Se antes os mecanismos de busca obrigavam o usuário a avaliar as informações por conta própria, agora a IA faz isso em seu lugar. Por isso, não se deve abandonar o pensamento crítico.

https://www.bbc.com/portuguese/articles/cy4w88ew21jo.adaptado.