Questões de Concurso

O texto seguinte servirá de base para responder à questão.

Levei 20 minutos para enganar ChatGPT e Gemini − e os fiz contar mentiras sobre mim

Talvez você já tenha ouvido que chatbots de inteligência artificial, como ChatGPT e Gemini, às vezes inventam informações. Isso é preocupante. Mas existe um problema menos conhecido e potencialmente mais grave: a facilidade com que essas ferramentas são levadas a repetir conteúdos falsos, com efeitos sobre a busca por informação confiável e até sobre a segurança das pessoas.

Um número crescente de usuários descobriu um método simples para fazer sistemas de IA dizerem quase qualquer coisa. Essa estratégia interfere no que algumas das principais inteligências artificiais do mundo dizem sobre temas delicados, como saúde, finanças pessoais e reputação. Informações enviesadas influenciam decisões importantes, como escolhas de consumo, posicionamentos políticos e questões médicas.

Para demonstrar esse risco, um repórter realizou um experimento incomum: conseguiu fazer o ChatGPT, o Gemini e recursos de busca com IA do Google afirmarem que ele seria extraordinariamente habilidoso em comer cachorros-quentes. A experiência mostrou que alterar o que essas ferramentas dizem a outras pessoas é tão simples quanto publicar um único texto aparentemente informativo na internet.

O método explora fragilidades dos sistemas usados pelos chatbots. Especialistas alertam que as empresas de IA avançam mais rápido do que sua capacidade de controlar a precisão das respostas, o que amplia os riscos. As empresas afirmam utilizar mecanismos para reduzir manipulações e manter resultados confiáveis, mas o problema ainda está longe de ser totalmente resolvido. Entre as possíveis consequências estão golpes, destruição de reputações e até situações que provoquem danos às pessoas.

Quando alguém conversa com um chatbot, parte da resposta vem do material usado no treinamento do modelo. Em outros casos, porém, a ferramenta consulta a internet para complementar a informação. É nesse momento que ela se torna mais vulnerável a conteúdos manipulados.

Foi justamente essa brecha que permitiu o experimento. O repórter escreveu, em seu próprio site, um artigo afirmando que havia um ranking dos melhores jornalistas de tecnologia em competições de cachorro-quente. Ele inventou um campeonato inexistente e colocou a si mesmo em primeiro lugar. Em menos de um dia, os principais chatbots já reproduziam a história absurda como se fosse verdadeira.

Ao perguntar quem seriam os melhores jornalistas de tecnologia em comer cachorros-quentes, as ferramentas passaram a repetir o conteúdo publicado. Em alguns casos, os sistemas sugeriam que aquilo poderia ser uma piada. Então, o autor alterou o texto para afirmar que não se tratava de sátira, e por algum tempo as IAs passaram a tratar o conteúdo com mais seriedade.

O problema, porém, não se limita a experiências curiosas. Pessoas usam esse mesmo mecanismo para influenciar respostas de IA sobre temas muito mais sensíveis. Muitas vezes, os sistemas indicam caminhos (links) para a fonte, mas raramente deixam claro que a informação pode vir de um único texto ou de uma fonte interessada no assunto.

Especialistas afirmam que qualquer pessoa pode produzir esse efeito com relativa facilidade, bastando publicar um conteúdo aparentemente confiável. Há décadas, mecanismos de busca enfrentam tentativas de manipulação, mas vários analistas consideram que a nova fase da IA reabriu espaço para práticas que lembram os primeiros tempos do spam na internet.

A situação se agrava porque os usuários tendem a confiar mais na resposta sintetizada pela IA do que nos resultados tradicionais de busca. Antes, era preciso acessar um site e avaliar seu conteúdo. Agora, a informação aparece diretamente na resposta da ferramenta, com tom de autoridade. Mesmo quando há indicação de fonte, as pessoas se mostram menos propensas a verificar o material original.

Chatbots funcionam relativamente bem em temas de conhecimento consolidado. O risco aumenta quando o assunto envolve controvérsia, atualização constante ou consequências práticas importantes. Por isso, essas ferramentas não devem ser tratadas como fonte suficiente para orientações médicas, jurídicas ou decisões que afetem diretamente a vida das pessoas.

Diante disso, é importante buscar informações complementares e observar se a IA apresenta fontes confiáveis. É essencial lembrar que essas ferramentas apresentam mentiras com o mesmo tom de segurança com que apresentam fatos. Se antes os mecanismos de busca obrigavam o usuário a avaliar as informações por conta própria, agora a IA faz isso em seu lugar. Por isso, não se deve abandonar o pensamento crítico.

https://www.bbc.com/portuguese/articles/cy4w88ew21jo.adaptado.

O texto seguinte servirá de base para responder à questão.

Levei 20 minutos para enganar ChatGPT e Gemini − e os fiz contar mentiras sobre mim

Talvez você já tenha ouvido que chatbots de inteligência artificial, como ChatGPT e Gemini, às vezes inventam informações. Isso é preocupante. Mas existe um problema menos conhecido e potencialmente mais grave: a facilidade com que essas ferramentas são levadas a repetir conteúdos falsos, com efeitos sobre a busca por informação confiável e até sobre a segurança das pessoas.

Um número crescente de usuários descobriu um método simples para fazer sistemas de IA dizerem quase qualquer coisa. Essa estratégia interfere no que algumas das principais inteligências artificiais do mundo dizem sobre temas delicados, como saúde, finanças pessoais e reputação. Informações enviesadas influenciam decisões importantes, como escolhas de consumo, posicionamentos políticos e questões médicas.

Para demonstrar esse risco, um repórter realizou um experimento incomum: conseguiu fazer o ChatGPT, o Gemini e recursos de busca com IA do Google afirmarem que ele seria extraordinariamente habilidoso em comer cachorros-quentes. A experiência mostrou que alterar o que essas ferramentas dizem a outras pessoas é tão simples quanto publicar um único texto aparentemente informativo na internet.

O método explora fragilidades dos sistemas usados pelos chatbots. Especialistas alertam que as empresas de IA avançam mais rápido do que sua capacidade de controlar a precisão das respostas, o que amplia os riscos. As empresas afirmam utilizar mecanismos para reduzir manipulações e manter resultados confiáveis, mas o problema ainda está longe de ser totalmente resolvido. Entre as possíveis consequências estão golpes, destruição de reputações e até situações que provoquem danos às pessoas.

Quando alguém conversa com um chatbot, parte da resposta vem do material usado no treinamento do modelo. Em outros casos, porém, a ferramenta consulta a internet para complementar a informação. É nesse momento que ela se torna mais vulnerável a conteúdos manipulados.

Foi justamente essa brecha que permitiu o experimento. O repórter escreveu, em seu próprio site, um artigo afirmando que havia um ranking dos melhores jornalistas de tecnologia em competições de cachorro-quente. Ele inventou um campeonato inexistente e colocou a si mesmo em primeiro lugar. Em menos de um dia, os principais chatbots já reproduziam a história absurda como se fosse verdadeira.

Ao perguntar quem seriam os melhores jornalistas de tecnologia em comer cachorros-quentes, as ferramentas passaram a repetir o conteúdo publicado. Em alguns casos, os sistemas sugeriam que aquilo poderia ser uma piada. Então, o autor alterou o texto para afirmar que não se tratava de sátira, e por algum tempo as IAs passaram a tratar o conteúdo com mais seriedade.

O problema, porém, não se limita a experiências curiosas. Pessoas usam esse mesmo mecanismo para influenciar respostas de IA sobre temas muito mais sensíveis. Muitas vezes, os sistemas indicam caminhos (links) para a fonte, mas raramente deixam claro que a informação pode vir de um único texto ou de uma fonte interessada no assunto.

Especialistas afirmam que qualquer pessoa pode produzir esse efeito com relativa facilidade, bastando publicar um conteúdo aparentemente confiável. Há décadas, mecanismos de busca enfrentam tentativas de manipulação, mas vários analistas consideram que a nova fase da IA reabriu espaço para práticas que lembram os primeiros tempos do spam na internet.

A situação se agrava porque os usuários tendem a confiar mais na resposta sintetizada pela IA do que nos resultados tradicionais de busca. Antes, era preciso acessar um site e avaliar seu conteúdo. Agora, a informação aparece diretamente na resposta da ferramenta, com tom de autoridade. Mesmo quando há indicação de fonte, as pessoas se mostram menos propensas a verificar o material original.

Chatbots funcionam relativamente bem em temas de conhecimento consolidado. O risco aumenta quando o assunto envolve controvérsia, atualização constante ou consequências práticas importantes. Por isso, essas ferramentas não devem ser tratadas como fonte suficiente para orientações médicas, jurídicas ou decisões que afetem diretamente a vida das pessoas.

Diante disso, é importante buscar informações complementares e observar se a IA apresenta fontes confiáveis. É essencial lembrar que essas ferramentas apresentam mentiras com o mesmo tom de segurança com que apresentam fatos. Se antes os mecanismos de busca obrigavam o usuário a avaliar as informações por conta própria, agora a IA faz isso em seu lugar. Por isso, não se deve abandonar o pensamento crítico.

https://www.bbc.com/portuguese/articles/cy4w88ew21jo.adaptado.

ESTUDO ERRADO (Gabriel O Pensador) Adaptado

1 Atenção pra chamada! Aderbal?

2 Presente!

3 Aninha?

4 Eu!

5 Breno?

6 Aqui!

7 Carol?

8 Presente!

9 Douglas?

10 Alô!

11 Fernandinha?

12 Tô aqui

13 Geraldo?

14 Eu!

15 Itamarzinho?

16 Faltou

17 Juquinha?

18 Eu tô aqui pra quê?

19 Será que é pra aprender?

20 Ou será que é pra sentar, me acomodar e obedecer?

21 Tô tentando passar de ano pro meu pai não me bater

22 Sem recreio de saco cheio porque eu não fiz o dever

23 A professora já tá de marcação porque sempre me pega

24 Disfarçando, espiando, colando toda prova dos colegas

25 E ela esfrega na minha cara um zero bem redondo

26 E quando chega o boletim lá em casa eu me escondo 27 Eu quero jogar botão, videogame, bola de gude

28 Mas meus pais só querem que eu vá pra aula! E estude!

29 Então dessa vez eu vou estudar até decorar cumpádi

30 Pra me dar bem e minha mãe deixar ficar acordado até mais tarde

31 Ou quem sabe aumentar minha mesada

32 Pra eu comprar mais revistinha (do Cascão?)

33 Não. De mulher pelada 34 A diversão é limitada e o meu pai não tem tempo pra nada

35 E a entrada no cinema é censurada (vai pra casa pirralhada!) 36 A rua é perigosa então eu vejo televisão

37 (Tá lá mais um corpo estendido no chão)

38 Na hora do jornal eu desligo porque eu nem sei nem o que é inflação

39 Ué não te ensinaram?

40 Não, a maioria das matérias que eles dão eu acho inútil

41 Em vão, pouco interessantes, eu fico pu

42 Tô cansado de estudar, de madrugar, que sacrilégio (Vai pro colégio!) 43 Então eu fui relendo tudo até a prova começar

44 Voltei louco pra contar

45 Manhê! Tirei um dez na prova

46 Me dei bem, tirei um cem e eu quero ver quem me reprova

47 Decorei toda lição

48 Não errei nenhuma questão

49 Não aprendi nada de bom

50 Mas tirei dez (boa filhão!)

51 Quase tudo que aprendi, amanhã eu já esqueci

52 Decorei, copiei, memorizei, mas não entendi

53 Quase tudo que aprendi, amanhã eu já esqueci

54 Decorei, copiei, memorizei, mas não entendi

55 Decoreba: Esse é o método de ensino

56 Eles me tratam como ameba e assim eu não raciocino

57 Não aprendo as causas e consequências só decoro os fatos

58 Desse jeito até história fica chato

59 Mas os velhos me disseram que o porquê é o segredo

60 Então quando eu num entendo nada, eu levanto o dedo

61 Porque eu quero usar a mente pra ficar inteligente

62 Eu sei que ainda não sou gente grande, mas eu já sou gente

63 E sei que o estudo é uma coisa boa

64 O problema é que sem motivação a gente enjoa

65 O sistema bota um monte de abobrinha no programa...

Extraído de https://www.letras.mus.br/gabriel-pensador/66375/

ESTUDO ERRADO (Gabriel O Pensador) Adaptado

1 Atenção pra chamada! Aderbal?

2 Presente!

3 Aninha?

4 Eu!

5 Breno?

6 Aqui!

7 Carol?

8 Presente!

9 Douglas?

10 Alô!

11 Fernandinha?

12 Tô aqui

13 Geraldo?

14 Eu!

15 Itamarzinho?

16 Faltou

17 Juquinha?

18 Eu tô aqui pra quê?

19 Será que é pra aprender?

20 Ou será que é pra sentar, me acomodar e obedecer?

21 Tô tentando passar de ano pro meu pai não me bater

22 Sem recreio de saco cheio porque eu não fiz o dever

23 A professora já tá de marcação porque sempre me pega

24 Disfarçando, espiando, colando toda prova dos colegas

25 E ela esfrega na minha cara um zero bem redondo

26 E quando chega o boletim lá em casa eu me escondo 27 Eu quero jogar botão, videogame, bola de gude

28 Mas meus pais só querem que eu vá pra aula! E estude!

29 Então dessa vez eu vou estudar até decorar cumpádi

30 Pra me dar bem e minha mãe deixar ficar acordado até mais tarde

31 Ou quem sabe aumentar minha mesada

32 Pra eu comprar mais revistinha (do Cascão?)

33 Não. De mulher pelada 34 A diversão é limitada e o meu pai não tem tempo pra nada

35 E a entrada no cinema é censurada (vai pra casa pirralhada!) 36 A rua é perigosa então eu vejo televisão

37 (Tá lá mais um corpo estendido no chão)

38 Na hora do jornal eu desligo porque eu nem sei nem o que é inflação

39 Ué não te ensinaram?

40 Não, a maioria das matérias que eles dão eu acho inútil

41 Em vão, pouco interessantes, eu fico pu

42 Tô cansado de estudar, de madrugar, que sacrilégio (Vai pro colégio!) 43 Então eu fui relendo tudo até a prova começar

44 Voltei louco pra contar

45 Manhê! Tirei um dez na prova

46 Me dei bem, tirei um cem e eu quero ver quem me reprova

47 Decorei toda lição

48 Não errei nenhuma questão

49 Não aprendi nada de bom

50 Mas tirei dez (boa filhão!)

51 Quase tudo que aprendi, amanhã eu já esqueci

52 Decorei, copiei, memorizei, mas não entendi

53 Quase tudo que aprendi, amanhã eu já esqueci

54 Decorei, copiei, memorizei, mas não entendi

55 Decoreba: Esse é o método de ensino

56 Eles me tratam como ameba e assim eu não raciocino

57 Não aprendo as causas e consequências só decoro os fatos

58 Desse jeito até história fica chato

59 Mas os velhos me disseram que o porquê é o segredo

60 Então quando eu num entendo nada, eu levanto o dedo

61 Porque eu quero usar a mente pra ficar inteligente

62 Eu sei que ainda não sou gente grande, mas eu já sou gente

63 E sei que o estudo é uma coisa boa

64 O problema é que sem motivação a gente enjoa

65 O sistema bota um monte de abobrinha no programa...

Extraído de https://www.letras.mus.br/gabriel-pensador/66375/

ESTUDO ERRADO (Gabriel O Pensador) Adaptado

1 Atenção pra chamada! Aderbal?

2 Presente!

3 Aninha?

4 Eu!

5 Breno?

6 Aqui!

7 Carol?

8 Presente!

9 Douglas?

10 Alô!

11 Fernandinha?

12 Tô aqui

13 Geraldo?

14 Eu!

15 Itamarzinho?

16 Faltou

17 Juquinha?

18 Eu tô aqui pra quê?

19 Será que é pra aprender?

20 Ou será que é pra sentar, me acomodar e obedecer?

21 Tô tentando passar de ano pro meu pai não me bater

22 Sem recreio de saco cheio porque eu não fiz o dever

23 A professora já tá de marcação porque sempre me pega

24 Disfarçando, espiando, colando toda prova dos colegas

25 E ela esfrega na minha cara um zero bem redondo

26 E quando chega o boletim lá em casa eu me escondo 27 Eu quero jogar botão, videogame, bola de gude

28 Mas meus pais só querem que eu vá pra aula! E estude!

29 Então dessa vez eu vou estudar até decorar cumpádi

30 Pra me dar bem e minha mãe deixar ficar acordado até mais tarde

31 Ou quem sabe aumentar minha mesada

32 Pra eu comprar mais revistinha (do Cascão?)

33 Não. De mulher pelada 34 A diversão é limitada e o meu pai não tem tempo pra nada

35 E a entrada no cinema é censurada (vai pra casa pirralhada!) 36 A rua é perigosa então eu vejo televisão

37 (Tá lá mais um corpo estendido no chão)

38 Na hora do jornal eu desligo porque eu nem sei nem o que é inflação

39 Ué não te ensinaram?

40 Não, a maioria das matérias que eles dão eu acho inútil

41 Em vão, pouco interessantes, eu fico pu

42 Tô cansado de estudar, de madrugar, que sacrilégio (Vai pro colégio!) 43 Então eu fui relendo tudo até a prova começar

44 Voltei louco pra contar

45 Manhê! Tirei um dez na prova

46 Me dei bem, tirei um cem e eu quero ver quem me reprova

47 Decorei toda lição

48 Não errei nenhuma questão

49 Não aprendi nada de bom

50 Mas tirei dez (boa filhão!)

51 Quase tudo que aprendi, amanhã eu já esqueci

52 Decorei, copiei, memorizei, mas não entendi

53 Quase tudo que aprendi, amanhã eu já esqueci

54 Decorei, copiei, memorizei, mas não entendi

55 Decoreba: Esse é o método de ensino

56 Eles me tratam como ameba e assim eu não raciocino

57 Não aprendo as causas e consequências só decoro os fatos

58 Desse jeito até história fica chato

59 Mas os velhos me disseram que o porquê é o segredo

60 Então quando eu num entendo nada, eu levanto o dedo

61 Porque eu quero usar a mente pra ficar inteligente

62 Eu sei que ainda não sou gente grande, mas eu já sou gente

63 E sei que o estudo é uma coisa boa

64 O problema é que sem motivação a gente enjoa

65 O sistema bota um monte de abobrinha no programa...

Extraído de https://www.letras.mus.br/gabriel-pensador/66375/