Questões de Concurso

Instrução: A questão refere-se ao texto abaixo.

Adaptado de: SOUZA, T. S. “A fila do supermercado”. In: ASSIS BRASIL, L. A. (org.) Melhor não abrir essa gaveta: contos de razão e loucura. Porto Alegre: Terceiro Selo,2014.

Adaptado de: http://revistaseletronicas.pucrs.br/ojs/index.php/belt/article/view/20197/13592

Dora Kaufman

No início de 2023, Geoffrey Hinton, considerado o “padrinho da IA” e vencedor do Prêmio Turing (Nobel da tecnologia), declarou à revista Technology review: “De repente, mudei minha opinião sobre se essas coisas (máquinas movidas por inteligência artificial) serão mais inteligentes do que nós. Acho que elas estão muito próximas disso agora e serão muito mais inteligentes do que nós no futuro.” A cientista da computação Melanie Mitchell reconhece, na revista Science, que é uma afirmação extraordinária, mas que exige evidências igualmente extraordinárias. “Nós, humanos, somos propensos ao antropomorfismo, projetando inteligência e compreensão em sistemas que fornecem até mesmo um indício de competência linguística”, pondera. Mitchell refuta cada um dos testes realizados para comprovar a semelhança entre as capacidades cognitivas da IA generativa e as dos seres humanos, concluindo que, a partir das evidências fornecidas, não é possível afirmar que os sistemas de IA em breve igualarão ou excederão a inteligência humana.

Para o Prêmio Nobel Judea Pearl, autor de The book of why: the new science of cause and effect (Basic Books,2018), estamos longe de produzir máquinas com inteligência semelhante à humana. A diferença profunda é a ausência de um modelo mental da realidade onde a imaginação acontece. Para ir mais longe, pondera Pearl, precisamos desenvolver um modelo causal, e não apenas modelos de correlação como as técnicas atuais de IA. “Se quisermos que os robôs respondam ‘por quê?’ ou mesmo que entendam o significado, devemos equipá-los com um modelo causal e ensiná-los a responder a perguntas contrafactuais”, argumenta Pearl, lembrando que as intuições humanas são organizadas em torno de relações causais, não estatísticas.

Abstraindo as controvérsias sobre o futuro da inteligência artificial, o que temos hoje é um sistema estatístico de probabilidade, fundamentalmente modelos baseados na técnica de redes neurais profundas (deep learning), com inúmeras limitações a começar pela variável de incerteza intrínseca aos sistemas estatísticos; soluções como o ChatGPT preveem o próximo token em uma sequência com base em uma lógica de probabilidade. A subjetividade humana permeia toda a cadeia de desenvolvimento da IA. São os humanos que tomam as decisões ao longo do processo, bem como são os humanos que interpretam os resultados e decidem como utilizá-los.

Ainda que limitada, a IA tem demonstrado um potencial revolucionário em diversas áreas, como saúde, transporte, educação, segurança e na otimização de processos operacionais. No entanto, seu uso também traz desafios e preocupações, como viés algorítmico discriminatório, privacidade, responsabilidade civil e impacto no mercado de trabalho. Regulamentar adequadamente a IA torna-se crucial para garantir sua aplicação ética, segura e responsável, especialmente porque as legislações existentes não abrangem a totalidade dos riscos associados a esses sistemas. Embora a regulamentação da IA seja essencial, trata-se de um desafio complexo; não por acaso ainda não temos, no mundo ocidental, um marco regulatório, o processo mais avançado é o europeu – “AI Act”, em debate público desde abril de 2021,3.000 emendas em novembro de 2022, segunda versão votada no Parlamento Europeu em 14 de julho de 2023 –, com fortes críticas tanto do mercado quanto da academia.

Regulamentar a IA não é como regular um produto ou um serviço, não é trivial pré-identificar e isolar nos sistemas os riscos e suas consequências. A eficácia da lei na efetiva proteção da sociedade depende da convergência de diretrizes compartilhadas globalmente, autorregulação e arcabouço regulatório. Regulamentação é um projeto coletivo, que inclui legisladores, partes interessadas, setor privado, academia e sociedade civil. A lacuna de conhecimento sobre IA dos reguladores é uma grande barreira na regulamentação (e posterior fiscalização/enforcement); entender como funcionam as cadeias de suprimento dos sistemas de IA, e como atribuir responsabilidades distintas demanda tempo e capacitação. Entre os especialistas, forma-se um consenso de que a efetividade de qualquer regulamentação da IA depende de estabelecer padrões (tipo ISO).

Reconhecendo o tamanho do desafio, as organizações multilaterais estão convocando os especialistas. A Organização para a Cooperação e Desenvolvimento Econômico, por exemplo, formou o grupo OECD.AI, coordenado pelo britânico Stuart Russell, com o propósito de equipar os governos com o conhecimento e instrumentos necessários para desenvolver políticas voltadas para o futuro da IA. A ONU está capitaneando diversas iniciativas gerais e setoriais, como a reunião promovida pela Unesco com 40 ministros da educação para avaliar as oportunidades, desafios e riscos no curto e longo prazo das tecnologias de IA. Pesquisa global da Unesco, em mais de 450 escolas e universidades, revelou que apenas 10% desenvolveram políticas institucionais e/ou orientações formais sobre o uso de sistemas de IA generativa.

Com base nesse cenário, o órgão está elaborando um conjunto de diretrizes políticas, bem como estruturas de competências de IA para alunos e professores, a ser lançado na “Digital Learning Week”, no segundo semestre de 2023 em sua sede em Paris.

Os governos nacionais igualmente estão se movimentando. Na Europa e nos EUA, os órgãos executivos estão formando equipes de formuladores de política com os parlamentares, agregando acadêmicos e especialistas de mercado. A administração Biden-Harris anunciou um grupo de trabalho do Instituto Nacional de Padrões e Tecnologias (AI@NIST) com voluntários, especialistas dos setores público e privado.

No Brasil, o projeto de lei para criação do Marco Regulatório da Inteligência Artificial, Projeto de Lei 2338, em tramitação no Senado, é um bom ponto de partida, mas requer aperfeiçoamentos, no geral, para: (a) reduzir os custos de conformidade que afetam negativamente a inovação e positivamente a concentração de mercado (empresas médias, pequenas e startups não terão capacidade de atender às exigências legais); e (b) especificar os direitos do usuário afetado, evitando uma enxurrada de ações judiciais. É imprescindível padronizar os critérios de avaliação para classificar o risco, o teor dos documentos de avaliação e os parâmetros a serem utilizados pela autoridade competente para reclassificar e avaliar o impacto algorítmico. A categorização de risco é inadequada para regulamentar os grandes modelos de linguagem (LLMs) ou modelos de fundação, que têm aplicações versáteis e imprevisíveis e trazem preocupações sobre proteção de dados e direito autoral.

Para ter algum protagonismo nesse novo ambiente, o Brasil precisa de investimentos em infraestrutura, plataforma de código aberto e banco de dados robusto em português. A hegemonia da língua inglesa não só compromete a eficiência e confiabilidade para usuários não falantes de inglês, mas também tende a gerar hegemonia da cultura americana (monocultura). A questão ambiental, tema fora da pauta dos reguladores de IA, é estratégica na relação do Brasil com o resto do mundo, e o caminho de avanço da IA com sistemas cada vez mais ricos em dados tem uma pegada de carbono significativa em função do consumo de energia dos data centers para rodar sistemas robustos e de emissões associadas à produção de equipamentos e dispositivos. A regulamentação da IA deve incluir obrigações para reduzir o impacto de carbono (otimização dos processos de treinamento e implantação e uso de fontes de energia renováveis). Regular a IA é urgente, mas sem açodamento. O processo é tão importante quanto o resultado final.

Disponível em https://revistacult.uol.com.br/. Acesso em: 17 out.2023. (texto adaptado)

Marcelo Augusto Vieira Graglia

Billy Turnbull era um rapaz astuto, nos seus recém-completados 14 anos de vida. Naquela manhã fria de maio de 1831, caminhava pela rua principal de Bedlington em direção à mina que ficava no lado oeste da cidade, próxima à estrada que levava ao norte. Por entre a névoa, Billy já distinguia as pedras da igreja de São Authbert. Cerca de 400 metros abaixo, virou à esquerda, após a casa de Walter Daglass. Três portas acima, havia um arco que levava a um pátio com seis residências e um pomar. As casas eram decrépitas, para dizer o mínimo. O campo de batatas ficava do outro lado da parede dos fundos, seguia por ali para cortar caminho.

Naquela manhã fria, quando Billy Turnbull finalmente chegou à entrada da mina, a querela já estava armada. Dezenas de homens, vestidos em seus farrapos e com seus rostos tingidos pelo pó preto do carvão, se aglomeravam em torno da máquina a vapor recém-adquirida pelo Sr. Stephens. Com suas pás e picaretas, amotinados, golpeavam o equipamento que respondia emitindo longos chiados. Em pouco tempo, a máquina parecia morta, imóvel e silenciosa. Assustado, Billy viu Brian Llewellin saindo do meio dos mineiros e vindo em sua direção. Quando o amigo se aproximou, perguntou: O que está havendo, Brian? Ao que este respondeu: Não sou Brian, meu nome é Ned Ludd.

A história acima foi construída a partir de personagens fictícios, mas baseada em fatos históricos. Ned Ludd era a alcunha utilizada por muitos dos trabalhadores envolvidos em protestos e sabotagens. O ludismo foi um movimento de trabalhadores iniciado na Inglaterra, no início do século 19, que utilizou a destruição de máquinas como forma de pressionar os empregadores contra as condições precárias e contra a mecanização que causava demissões e substituição de funções mais qualificadas por outras de pouca exigência técnica e mais mal remuneradas.

No campo do trabalho humano, é histórico o temor pelos efeitos potencialmente destruidores da tecnologia sobre os postos de trabalho, simbolicamente representado pelo movimento ludista. Nesta segunda década do século 21, novamente a emergência de uma nova onda de inovação tecnológica reacende a polêmica com visões diametralmente opostas: de um lado, a daqueles que vislumbram um futuro brilhante, no qual a tecnologia libertaria a humanidade da obrigação do trabalho duro, repetitivo, desestimulante, ao mesmo tempo que elimina doenças, promove a longevidade, o conforto e o deleite com novas possibilidades lúdicas e sensoriais trazidas por artefatos tecnológicos e ambientes digitais; de outro, em posição antagônica, há aqueles que temem as consequências potencialmente nefastas da proliferação da tecnologia de forma intensa por tantos campos sensíveis. Soma-se ainda o risco da desumanização das relações e da interferência voraz de sistemas de inteligência artificial (IA) em campos eminentemente humanos, num cenário de pós-humanismo cibernético.

O que alimenta esses temores? Embora a automação tenha sido historicamente confinada a tarefas rotineiras envolvendo atividades baseadas em regras explícitas, a IA está entrando rapidamente em domínios dependentes de reconhecimento de padrões e pode substituir os humanos em uma ampla gama de tarefas cognitivas não rotineiras, seja em relação ao trabalho industrial, de serviço ou de conhecimento. Nessa transformação, há aspectos claramente positivos e outros que inspiram maior reflexão.

Parafraseando a célebre frase narrada por Tucídides, na colossal obra História da Guerra do Peloponeso, quando a delegação da cidade de Corinto se empenhava em convencer os relutantes espartanos a abandonar seu temor em declarar guerra a Atenas: não devemos temer a tecnologia (Atenas), o que devemos temer são a nossa ignorância, a nossa indiferença e a nossa inércia. A ignorância, no sentido de não entendermos ou não buscarmos entender o processo histórico que ora se movimenta; a indiferença, no sentido de não nos sensibilizarmos com os efeitos deletérios possíveis, especialmente sobre grandes parcelas menos protegidas ou desfavorecidas da nossa sociedade, de ignorarmos os riscos; ademais, a inércia, traduzida pelo não agir, enquanto indivíduos, sociedade e governos não se preparam devidamente, não estabelecem estratégias adequadas, não constroem seus diques, seus programas, projetos e políticas públicas robustas e suficientes para enfrentar um mundo em transformação.

John Maynard Keynes, em Economic possibilities for our grandchildren (1930), argumentava que o aumento da eficiência técnica havia ocorrido de forma mais rápida do que seria possível para lidar com o problema da absorção da força de trabalho. A depressão mundial – consumada com a quebra da Bolsa de Nova York em 1929 e a enorme anomalia do desemprego que se estabeleceu – impedia a clareza de visão necessária para que muitos pudessem captar as tendências que se afiguravam, como a do desemprego estrutural. Para Keynes, isso significava “desemprego devido à nossa descoberta de meios de economizar o uso do trabalho ultrapassando o ritmo em que podemos encontrar novos usos para o trabalho”. O economista previa que, mantidas as taxas de crescimento da produtividade geradas pela incorporação de tecnologias nos processos produtivos, e outras condições, em 100 anos o problema econômico mundial da escassez poderia ser resolvido. Em contrapartida, esse ganho de produtividade se daria, principalmente, pela substituição do trabalho humano; portanto, não seria necessário, no futuro, um contingente tão grande de pessoas trabalhando. Dessa forma, o principal problema econômico seria de distribuição de riqueza, não mais de escassez.

A nova onda de inovação tecnológica tem características que a diferem das anteriores, como as da eletricidade, do automóvel, do computador, da internet. Entre elas, a ruptura do padrão de crescimento dos empregos concomitante ao crescimento econômico. Isso nos leva a três questões distintas. Em primeiro lugar, a questão da distribuição de renda enquanto processo a ser revisto e adequado aos novos tempos; em segundo, a questão da transição segura de uma sociedade economicamente baseada na renda do trabalho e emprego para outra em que não haja para muitos; e, por último, mas não menos importante e desafiador, a construção e a viabilização de alternativas para a falta do trabalho enquanto fonte de significado e propósito subjetivos de vida.

A chegada dos chamados modelos de IA do tipo LLM – Large Language Models –, treinados a partir de algoritmos de aprendizagem profunda, com uso de quantidades colossais de dados, permitiu o desenvolvimento de produtos surpreendentes, como o ChatGPT, o Bard e o Midjourney. Esses produtos furaram a bolha técnica onde essa tecnologia vinha sendo desenvolvida, ao possibilitar que milhões de pessoas e organizações pudessem utilizar seus recursos nas mais diferentes aplicações. Ao mesmo tempo, trouxeram a concretude das possibilidades de substituição de inúmeras tarefas e funções humanas, reacendendo antigos temores.

Neste momento, há enormes diferenças entre as pesquisas e as projeções sobre o impacto dessas tecnologias. Há argumentos frágeis, e mesmo outros desonestos, tentando desqualificar as preocupações com o risco da eliminação de muitos postos de trabalho. Alguns destes apelam para uma aritmética primitiva e descabida, de que novos empregos e profissões surgirão e compensarão aqueles perdidos. Há dois equívocos nesta lógica: a de que o futuro sempre repete o passado e a de que se trata de uma conta de subtração. A realidade põe por terra esses argumentos: por um lado, milhões de pessoas desempregadas ou subempregadas, por outro, milhares de vagas não preenchidas pelas empresas por conta da sofisticação das competências exigidas. Isto sem falar do fenômeno da precarização do trabalho, bem representado pelos modelos de plataformas digitais. O pensamento de risco sugere que deveríamos considerar um cenário de intensa substituição de postos de trabalho por sistemas, robôs e máquinas e de crescimento da oferta de postos de trabalho precarizados. Não há mal algum, nessas circunstâncias, em nos prepararmos para isto. A história nos mostra o quanto é mais sábio prevenir do que remediar. E, preparados para o adverso, sabendo que a imagem do futuro não está ainda formada, poderemos esperar pela serendipidade.

Disponível em: <https://revistacult.uol.com.br/.>. Acesso em: 03 nov.2023.