TEXTO 1

Texto-base para a questão 

UNIVERSIDADES BRASILEIRAS

DISCUTEM REGRAS DE USO DE

INTELIGÊNCIA ARTIFICIAL

Diante de incertezas por parte de estudantes e pesquisadores, instituições debatem quais seriam os limites éticos do uso dessas ferramentas na escrita e na pesquisa científica.

Sarah Schmidt, Revista Pesquisa FAPESP | 11 set 2024 - Edição 342.

Instituições científicas e de ensino superior do Brasil começam a formular recomendações para o uso de inteligência artificial (IA), especialmente a generativa, no ensino, na pesquisa e na extensão. A popularização de softwares como o ChatGPT, capazes de gerar texto, imagens e dados, tem levantado dúvidas sobre limites éticos no uso dessas tecnologias, principalmente na escrita acadêmica. Professores têm procurado novas formas de avaliar trabalhos de alunos, tentando contornar os riscos de uso indevido de IA. De maneira geral, as orientações pedem que seu uso seja transparente e alertam para o perigo de ferir direitos autorais, praticar plágio, gerar desinformação e replicar vieses discriminatórios que essas ferramentas podem reproduzir.

Em fevereiro, o centro universitário Senai Cimatec, na Bahia, publicou um guia para orientar sua comunidade acadêmica quanto à IA generativa. Ele segue três princípios: transparência; “centralidade na pessoa humana”, ou seja, que o controle humano seja preservado sobre as informações geradas por IA, já que ela deve ser usada de forma benéfica à sociedade; e atenção à privacidade de dados, sobretudo em atividades que envolvam contratos com empresas por meio de parcerias para desenvolvimento e transferência de tecnologias. Ocorre que as informações compartilhadas em plataformas de IA podem ser armazenadas pela ferramenta, quebrando o sigilo de dados. “Não podemos nos esquecer de que, se nós aprendemos com essas ferramentas, elas também aprendem com a gente”, ressalta a engenheira civil Tatiana Ferraz, pró-reitora administrativo-financeira do Senai Cimatec e coordenadora do guia. Uma atualização do regulamento disciplinar da instituição passou a prever punições para estudantes que quebrarem as regras.

O guia autoriza professores a usarem softwares de detecção de plágio quando julgarem necessário, embora não sejam 100% precisos ao indicar conteúdo produzido por IA. As ferramentas não podem ser citadas como coautoras de trabalhos acadêmicos, mas sua aplicação para auxiliar processos de pesquisa e ajustes de escrita acadêmica é permitida. Para isso, todos os comandos utilizados – as perguntas e direcionamentos dados à ferramenta, também chamados de prompts– e as informações originais geradas por IA devem ser descritos na metodologia do trabalho e anexados como material suplementar.

Outras instituições brasileiras seguem por esse caminho. “A universidade não deve proibir, mas criar orientações para utilização responsável dessas ferramentas”, observa o cientista da computação Virgílio Almeida, coordenador de uma comissão da Universidade Federal de Minas Gerais (UFMG), que propôs recomendações para o uso de tecnologias de IA na instituição, apresentadas à comunidade acadêmica em maio. As sugestões devem servir de base para a criação de uma política institucional com regras e normas e de um comitê de governança permanente.

Elas passam pelas áreas de ensino, pesquisa, extensão e administração e têm como princípios a transparência no uso dessas ferramentas, atenção à proteção e privacidade de dados, à desinformação e aos vieses discriminatórios que essas tecnologias podem reproduzir. “Uma das propostas é que a universidade invista em cursos de letramento em IA para professores, pesquisadores, funcionários e alunos”, explica Almeida. No ensino, uma das indicações é que as ementas das disciplinas de graduação e de pósgraduação da UFMG devem informar o que é permitido fazer com essas tecnologias. Na pesquisa, a ênfase está na transparência: é preciso detalhar como a IA foi usada no processo científico e quais vieses pode trazer a ele. A análise cuidadosa dos resultados gerados por IA, para que se evitem dados falsos, é outro ponto recomendado. A Universidade de São Paulo (USP) publicou um dossiê da Revista USP sobre inteligência artificial na pesquisa científica em maio e tem realizado encontros e debates sobre o assunto. “A sugestão geral é estudar como incorporar esse uso no ensino e na pesquisa e verificar quais seriam suas limitações éticas e seus potenciais”, observa a advogada Cristina Godoy, da Faculdade de Direito de Ribeirão Preto (FDRP-USP), integrante de um grupo de pesquisadores que elaborou propostas para a universidade, como a necessidade de criar guias de orientação na graduação e pós-graduação. Há alertas para o cuidado com a privacidade de dados sensíveis ou inéditos de pesquisa, como teses e dissertações, e para a necessidade de buscar novas maneiras de avaliar os trabalhos em sala de aula. As recomendações foram feitas durante um evento em março de 2023 e estão sob análise de um grupo de trabalho.

O uso de IA na pesquisa não é novo. Ferramentas de aprendizado de máquina e de processamento de linguagem natural já são usadas para analisar padrões em meio a grandes volumes de dados. Mas, com o avanço das plataformas que usam IA generativa, diversas universidades dos Estados Unidos e da Europa criaram instruções sobre o assunto, que serviram de inspiração para instituições brasileiras. No Senai Cimatec, os guias das universidades de Utah, nos Estados Unidos, de julho de 2023, e de Toronto, no Canadá, ainda preliminar, serviram de norte para o grupo de trabalho, assim como o guia rápido ChatGPT e a inteligência artificial na educação superior da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco), de abril de 2023.

Nesse cenário, há casos de professores que passaram a pedir aos alunos que fizessem apresentações orais, trabalhos dentro da sala de aula ou mesmo feitos à mão, no papel. Godoy, da USP, que costumava pedir trabalhos escritos sobre artigos estudados, passou a exigir que os alunos apresentassem esquemas com mapas mentais que mostrem as conexões entre os textos estudados em aula.

Em 2024, ela desenvolveu uma atividade de pesquisa no âmbito do Centro de Inteligência Artificial (C4AI) da USP, apoiado por IBM e FAPESP, com alunos de iniciação científica, mestrado e doutorado em computação, ciência política e direito em que eles precisaram desenvolver prompts no ChatGPT para realizar a análise de sentimentos – técnica que classifica opiniões como positivas, negativas ou neutras – de usuários do X (ex-Twitter) sobre IA. Os dados vão integrar um artigo em processo de escrita. Parte do trabalho será detalhar a metodologia e os prompts usados. Por não ser preciso criar um algoritmo específico para a atividade, a ferramenta acelerou o processo de análise dos dados – segundo Godoy, caso precisassem fazer tudo do zero, o trabalho levaria oito meses, mas com o ChatGPT levou dois meses.

Disponível em: https://revistapesquisa.fapesp.br/universidadesbrasileiras-discutem-regras-de-uso-de-inteligencia-artificial/. Acesso em 18/05/2026.