Questões de Concurso

O texto seguinte servirá de base para responder à questão

Como chatbot de IA descobriu condição rara de mulher após anos de diagnósticos errados

Um chatbot de inteligência artificial auxiliou uma jovem do País de Gales a identificar uma condição rara de saúde, após anos de diagnósticos equivocados. Aos vinte e três anos, residente na capital galesa, ela relata ter recebido diagnósticos de ansiedade, depressão e epilepsia, além de ter sido advertida de que poderia ser tratada como paciente psiquiátrica caso continuasse a procurar atendimento emergencial.

Após sofrer uma convulsão e permanecer em coma por três dias, ao receber alta hospitalar, decidiu inserir seus sintomas em um sistema de inteligência artificial. A ferramenta apresentou uma lista de possíveis condições, entre elas a paraplegia espástica hereditária. Ao levar essa hipótese ao clínico geral, exames genéticos confirmaram o diagnóstico.

A instituição de saúde responsável declarou lamentar a experiência da paciente. Profissionais da área médica orientam que informações obtidas por meio de ferramentas digitais devem sempre ser discutidas com especialistas, uma vez que estudos indicam que esses sistemas podem fornecer respostas tanto precisas quanto imprecisas, dificultando a avaliação de sua confiabilidade.

A jovem reconhece as dificuldades enfrentadas pelos profissionais no processo diagnóstico, mas afirma que recorreu à tecnologia por se sentir isolada ao longo da experiência. Desde a infância, apresentava dificuldades motoras, tendo nascido com uma alteração no quadril que exigiu cirurgias ainda bebê. Na fase escolar, também apresentava problemas de equilíbrio, sendo investigada para distúrbios de coordenação, hipótese posteriormente descartada.

Aos dezenove anos, sofreu um desmaio seguido de convulsão no ambiente de trabalho, sendo diagnosticada com ansiedade, apesar de não possuir histórico compatível. Anos depois, recebeu diagnóstico de epilepsia e iniciou tratamento medicamentoso. Contudo, em 2024, voltou a apresentar agravamento dos sintomas, com novas convulsões e dificuldade para manter o uso da medicação.

Posteriormente, passou a ter dificuldades para caminhar e recebeu diagnóstico equivocado de uma condição neurológica associada a crises epilépticas, caracterizada por paralisia temporária. Em janeiro de 2025, sofreu uma queda de escada, o que resultou em internação hospitalar por três meses, sem conclusão diagnóstica.

Em julho do mesmo ano, uma nova convulsão grave a deixou em coma por três dias. Após a recuperação, foi informada por um médico de que não apresentava epilepsia, mas sim ansiedade. Diante dessa situação, decidiu recorrer novamente ao chatbot, que sugeriu hipótese correta.

Após refletir sobre a possibilidade, buscou avaliação médica, e o clínico considerou a hipótese plausível. Os exames confirmaram o diagnóstico, trazendo finalmente uma explicação para os sintomas.

Não há dados precisos sobre a incidência dessa condição, em parte devido à dificuldade de diagnóstico. Seus sintomas podem ser manejados com fisioterapia. Atualmente, a jovem utiliza cadeira de rodas e não pode mais exercer sua profissão anterior, voltada ao ensino de alunos com necessidades especiais.

Diante desse novo cenário, decidiu redirecionar sua trajetória profissional, iniciando estudos em psicologia, com o objetivo de continuar contribuindo para o cuidado com outras pessoas.

Especialistas destacam que a prática médica enfrenta o desafio de lidar com amplo volume de conhecimento, especialmente em sistemas de saúde sobrecarregados. Nesse contexto, a participação ativa dos pacientes, trazendo informações e questionamentos, contribui para diagnósticos mais precisos, desde que haja abertura para o diálogo por parte dos profissionais.

Ferramentas de inteligência artificial vêm sendo incorporadas ao cotidiano, inclusive na área da saúde, embora seu uso ainda gere debates. Estudos indicam que esses sistemas podem oferecer orientações inconsistentes, o que representa risco quando utilizados de forma isolada.

Recentemente, foi lançada uma funcionalidade voltada à análise de registros médicos e oferta de respostas mais refinadas, embora não destinada a diagnóstico ou tratamento. Ainda assim, milhões de pessoas utilizam semanalmente esses recursos para obter informações sobre saúde e bem-estar.

Há preocupações quanto ao uso de dados sensíveis, embora as empresas responsáveis afirmem que essas ferramentas foram desenvolvidas para auxiliar, e não substituir, o atendimento médico. Não há previsão clara sobre a expansão desses recursos para outros países.

Enquanto o debate permanece em curso, cresce o número de pessoas que recorrem à inteligência artificial para diversas finalidades, incluindo a busca por orientação em questões de saúde, como ocorreu no caso dessa jovem, cuja experiência evidencia tanto o potencial quanto os limites dessas tecnologias.

https://www.bbc.com/portuguese/articles/c5yvjyzpznko.adaptado.

O texto seguinte servirá de base para responder à questão.

Levei 20 minutos para enganar ChatGPT e Gemini − e os fiz contar mentiras sobre mim

Talvez você já tenha ouvido que chatbots de inteligência artificial, como ChatGPT e Gemini, às vezes inventam informações. Isso é preocupante. Mas existe um problema menos conhecido e potencialmente mais grave: a facilidade com que essas ferramentas são levadas a repetir conteúdos falsos, com efeitos sobre a busca por informação confiável e até sobre a segurança das pessoas.

Um número crescente de usuários descobriu um método simples para fazer sistemas de IA dizerem quase qualquer coisa. Essa estratégia interfere no que algumas das principais inteligências artificiais do mundo dizem sobre temas delicados, como saúde, finanças pessoais e reputação. Informações enviesadas influenciam decisões importantes, como escolhas de consumo, posicionamentos políticos e questões médicas.

Para demonstrar esse risco, um repórter realizou um experimento incomum: conseguiu fazer o ChatGPT, o Gemini e recursos de busca com IA do Google afirmarem que ele seria extraordinariamente habilidoso em comer cachorros-quentes. A experiência mostrou que alterar o que essas ferramentas dizem a outras pessoas é tão simples quanto publicar um único texto aparentemente informativo na internet.

O método explora fragilidades dos sistemas usados pelos chatbots. Especialistas alertam que as empresas de IA avançam mais rápido do que sua capacidade de controlar a precisão das respostas, o que amplia os riscos. As empresas afirmam utilizar mecanismos para reduzir manipulações e manter resultados confiáveis, mas o problema ainda está longe de ser totalmente resolvido. Entre as possíveis consequências estão golpes, destruição de reputações e até situações que provoquem danos às pessoas.

Quando alguém conversa com um chatbot, parte da resposta vem do material usado no treinamento do modelo. Em outros casos, porém, a ferramenta consulta a internet para complementar a informação. É nesse momento que ela se torna mais vulnerável a conteúdos manipulados.

Foi justamente essa brecha que permitiu o experimento. O repórter escreveu, em seu próprio site, um artigo afirmando que havia um ranking dos melhores jornalistas de tecnologia em competições de cachorro-quente. Ele inventou um campeonato inexistente e colocou a si mesmo em primeiro lugar. Em menos de um dia, os principais chatbots já reproduziam a história absurda como se fosse verdadeira.

Ao perguntar quem seriam os melhores jornalistas de tecnologia em comer cachorros-quentes, as ferramentas passaram a repetir o conteúdo publicado. Em alguns casos, os sistemas sugeriam que aquilo poderia ser uma piada. Então, o autor alterou o texto para afirmar que não se tratava de sátira, e por algum tempo as IAs passaram a tratar o conteúdo com mais seriedade.

O problema, porém, não se limita a experiências curiosas. Pessoas usam esse mesmo mecanismo para influenciar respostas de IA sobre temas muito mais sensíveis. Muitas vezes, os sistemas indicam caminhos (links) para a fonte, mas raramente deixam claro que a informação pode vir de um único texto ou de uma fonte interessada no assunto.

Especialistas afirmam que qualquer pessoa pode produzir esse efeito com relativa facilidade, bastando publicar um conteúdo aparentemente confiável. Há décadas, mecanismos de busca enfrentam tentativas de manipulação, mas vários analistas consideram que a nova fase da IA reabriu espaço para práticas que lembram os primeiros tempos do spam na internet.

A situação se agrava porque os usuários tendem a confiar mais na resposta sintetizada pela IA do que nos resultados tradicionais de busca. Antes, era preciso acessar um site e avaliar seu conteúdo. Agora, a informação aparece diretamente na resposta da ferramenta, com tom de autoridade. Mesmo quando há indicação de fonte, as pessoas se mostram menos propensas a verificar o material original.

Chatbots funcionam relativamente bem em temas de conhecimento consolidado. O risco aumenta quando o assunto envolve controvérsia, atualização constante ou consequências práticas importantes. Por isso, essas ferramentas não devem ser tratadas como fonte suficiente para orientações médicas, jurídicas ou decisões que afetem diretamente a vida das pessoas.

Diante disso, é importante buscar informações complementares e observar se a IA apresenta fontes confiáveis. É essencial lembrar que essas ferramentas apresentam mentiras com o mesmo tom de segurança com que apresentam fatos. Se antes os mecanismos de busca obrigavam o usuário a avaliar as informações por conta própria, agora a IA faz isso em seu lugar. Por isso, não se deve abandonar o pensamento crítico.

https://www.bbc.com/portuguese/articles/cy4w88ew21jo.adaptado.