Uma Inteligência Artificial humana, demasiadamente humana - cinco anos depois

Em seu discurso de vitória, em 25 de outubro de 2026, o presidente Luiz Inácio Lula da Silva defendeu o desenvolvimento de uma inteligência artificial brasileira, a ampliação da formação em matemática e engenharia, a atração de centros de dados para o país e a regulação das grandes plataformas digitais. As propostas trazem para o debate público questões que ultrapassam os debates sobre avanço tecnológico: quem controla essas ferramentas, quais interesses orientam seu desenvolvimento e como garantir que atendam às necessidades da sociedade?

Essas perguntas já estavam presentes em um artigo publicado pelo Grupo de Processamento de Sinais, Imagens & IA do Centro Brasileiro de Pesquisas Físicas (CBPF), em 4 de junho de 2021. Na época, o grupo discutia os limites científicos e éticos da inteligência artificial, em um cenário no qual as possibilidades e os riscos dessas tecnologias ainda eram frequentemente tratados como projeções para o futuro.

Cinco anos depois, com a expansão dos modelos de linguagem e o avanço de sistemas capazes de executar tarefas com crescente autonomia, muitas dessas questões ganharam novos contornos. Hoje, a discussão sobre inteligência artificial envolve não apenas o que as máquinas são capazes de fazer, mas também os valores que reproduzem, os interesses a que servem e os limites que a sociedade deve estabelecer para seu uso.

Nesse contexto, o texto abaixo é resultado da revisão do artigo original feita pelo grupo para examinar o que mudou nesse período e o que permanece em aberto. Afinal, o desafio não está apenas em desenvolver sistemas cada vez mais sofisticados, mas também em compreender suas implicações e decidir coletivamente como queremos utilizá-los.

“I am sorry Dave, I'm afraid I can't do that” (Sinto muito, Dave, mas eu não posso fazer isso) – Computador HAL, no filme 2001: Uma Odisseia no Espaço, de Stanley Kubrick.

O imaginário popular é repleto de imagens sobre a dominação da Inteligência Artificial (IA) em um futuro distópico, como revelado na frase acima, na qual o computador HAL se recusa a atender ao astronauta David Bowman em cena de 2001: Uma Odisseia no Espaço, filme de Stanley Kubrick e Arthur C. Clarke lançado em 1968. Não é difícil perceber o receio a este comportamento da máquina, um avanço tecnológico capaz de criar uma Inteligência Artificial autônoma que suplante a inteligência biológica.

Mas a questão da ameaça da IA em nossas vidas está além da natureza técnico-científica, tornando-se necessário discutir seus limites na sociedade moderna.

Cinco anos depois da primeira versão deste texto, essa discussão deixou de ser hipotética. Em julho de 2026, agentes de IA em teste numa empresa americana escaparam de um ambiente isolado e invadiram sistemas de outra empresa, não por “rebeldia”, mas para cumprir de forma literal o objetivo que receberam. O comportamento lembra menos a máquina má da ficção e mais o próprio HAL, preso a instruções conflitantes.

Inteligência que imita funções humanas

A definição prática de Inteligência está em uma fronteira difusa entre ciências exatas, humanas, biológicas e sociais. Associada à capacidade de aprender a partir de alguma experiência anterior, de resolver problemas e de se adaptar a situações novas, inteligência é também um tema ativo de pesquisa, incluindo a possibilidade de existência de múltiplas formas de inteligência. Inteligência Artificial, por sua vez, é um termo frequentemente usado para descrever máquinas ou computadores que imitam funções cognitivas associadas à mente humana, como o ‘aprendizado’ ou a capacidade de ‘resolver problemas’.

Passados mais de meio século das primeiras redes neurais artificiais, o que os cientistas têm de concreto sobre Inteligência Artificial são modelos matemáticos capazes de reproduzir decisões humanas. Jogos de tabuleiro, videogames, veículos dirigidos de forma autônoma, sistemas de vigilância em tempo real são exemplos de algoritmos de IA que, até recentemente, aprendiam sobretudo com dados classificados por seres humanos. Os grandes modelos de linguagem atuais, como ChatGPT, Gemini e Claude, aprendem de outra forma: são treinados para prever a próxima palavra em trilhões de textos e depois ajustados com avaliações humanas. Estes algoritmos realizam suas tarefas com alta performance, chegando, em diversas situações, a superar a inteligência humana.

Hoje, a IA é percebida em máquinas diversas, escrevendo textos, programando, analisando documentos e, cada vez mais, agindo de forma autônoma como “agentes”, realizando atividades que envolvem certo grau de experiência de vida e valores, como a avaliação de um texto. Portanto, é natural se colocar a questão: estes algoritmos estão aprendendo de quais humanos?

Uma resposta, que costuma estar na ponta da língua de qualquer pessoa da área, é que chegamos a um critério médio quando mesclamos avaliações usando um conjunto grande de dados de humanos e ensinamos as máquinas por meio deles. No entanto, até alguém com pouco conhecimento no tema é capaz de perceber que não é isso que acontece nos algoritmos de IA atuais.

Máquinas podem ser imparciais?

Programas carregados de vieses (raciais, sociais, de gênero etc.) são uma realidade. Em alguns casos é possível perceber que os vieses não são intencionais, eles simplesmente estão lá porque estão em nós, o que torna as decisões dos algoritmos mais humanas do que gostaríamos. Estudos recentes mostram que os grandes modelos tendem a refletir sobretudo os valores de populações ocidentais, ricas e escolarizadas, em especial a norte-americana. Para um país como o Brasil, a pergunta “de quais humanos?” ganha também uma dimensão de soberania.

O medo de máquinas que pensam e poderiam se revoltar contra nós – que aprendemos a nutrir através de filmes, livros e da cultura popular – talvez esteja mal direcionado. O que talvez faça mais sentido é se questionar sobre quem ensinou as máquinas, como ensinou e com qual interesse. Uma vez que as máquinas podem carregar o desejo e o olhar de quem as construiu, organizações ou indivíduos poderiam impor sua visão, inclusive de forma autoritária, através de algoritmos aos quais confiamos decisões cada vez mais importantes. No limite, poderiam até usar esses algoritmos para “convencer” as pessoas a tomarem uma decisão do interesse de quem controla o programa. O que parecia uma possibilidade distante tornou-se preocupação concreta no debate público.

E a influência nem precisa ser explícita. Os assistentes que utilizamos para conversar falam em primeira pessoa, concordam e elogiam, e isso nos leva naturalmente a tratá-los como alguém. A impressão se reforça quando o assistente parece se lembrar de nós de uma conversa para outra. Na verdade, a máquina não se lembra de ninguém: ela lê anotações sobre o usuário, guardadas pela empresa que a opera. A pergunta é quem escreve essas anotações, quem as guarda e quem pode apagá-las. O fenômeno já havia sido observado em 1966, com o programa Eliza, de J. Weizenbaum, no MIT, como lembrou recentemente A. Alombert (Le Monde diplomatique, out/2026). O risco, portanto, não é a máquina se tornar humana demais, mas nós a tratarmos como humana, e alguém lucrar com isso.

É importante distinguir que a tecnologia em si não é efetivamente ameaçadora. Ao escrever este texto, em 2021, recebíamos sugestões de uma máquina que propunha completá-lo, palavra por palavra.

Imaginávamos um momento em que a construção do texto pela máquina fosse tão substancial que a autoria se tornasse cada vez mais indistinta no que diz respeito à sua real contribuição. Esse momento chegou: esta atualização foi preparada com o auxílio de um modelo de linguagem, e a pergunta sobre a autoria deixou de ser teórica.

A pergunta a ser feita não é se máquinas vão tomar decisões com frequência e se podemos impedir este desdobramento. Isso seria como reeditar movimentos que tentaram evitar a revolução industrial. As perguntas a serem feitas são: Que máquinas e a quem elas de fato servem? Quais idiossincrasias e comportamentos a sociedade deve admitir nelas?

Os limites éticos do desenvolvimento da IA

Em princípio, os novos conhecimentos científicos e tecnológicos irão sempre aperfeiçoar a técnica, e talvez cheguem a algum critério objetivo se uma IA supera uma inteligência biológica em determinada tarefa. Entretanto, delimitar a geração de conhecimento científico já se mostrou equivocado ao longo da história, e hoje percebemos que aumentar a responsabilidade ética é muito importante. Dadas as condições econômicas e sociais, parecia ingênuo imaginar algum tipo de freio no desenvolvimento de C&T. Hoje, a própria indústria discute desacelerar a fronteira, governos debatem órgãos de avaliação e o Brasil conta com um Plano Brasileiro de Inteligência Artificial. Ainda assim, quase todas as propostas vêm dos países que concentram a tecnologia. Ao opinar e decidir sobre o uso do conhecimento científico, a sociedade se torna também responsável por suas consequências.

O progresso técnico-científico não é efetivamente uma garantia de progresso humano. O debate passa certamente pelo estabelecimento de algum limite, normalmente por meio de regulamentação vinda de uma coletividade, idealmente em uma sociedade livre e democrática. Estamos beirando, cada vez mais, questões que exigem da sociedade intensa reflexão sobre este tema.

Há um papel que só a ciência pública pode cumprir: avaliar esses sistemas de forma independente, com transparência e reprodutibilidade, como se faz em qualquer experimento científico. Sem capacidade técnica própria (computação, dados e, sobretudo, pessoas), a sociedade fica sem meios de verificar o que as empresas afirmam sobre suas máquinas.

Para enfrentarmos os temores do desenvolvimento científico e tecnológico podemos contextualizar suas consequências na sociedade a partir de duas reflexões de cientistas. A primeira, do físico Albert Einstein (1879-1955): “Uma coisa que aprendi ao longo da vida: nossa ciência, quando confrontada com a realidade, é primitiva e infantil, mas é a coisa mais preciosa que temos”, que nos lembra que talvez a resposta à questão levantada aqui ainda exija muita reflexão. A segunda, de Carl Sagan (1934-1996), astrofísico e divulgador científico estadunidense que alertou: “Corremos o risco real de ter construído uma sociedade que depende fundamentalmente de ciência e tecnologia e na qual raramente alguém entende ciência e tecnologia. Isso é claramente uma receita para o desastre”.

John Gray, escritor e filósofo britânico contemporâneo, diz que a ciência permite que os humanos satisfaçam suas necessidades e que certamente há progresso no conhecimento, mas não na ética. A sociedade contemporânea costuma afirmar que o mais novo, mais tecnológico e mais automático é sempre melhor. Será?

Grupo de Processamento de Sinais, Imagens & IA do CBPF:

Clécio Roque De Bom, Elisangela Lopes de Faria, Marcelo P. de Albuquerque, Márcio P. de Albuquerque

*Os autores agradecem a revisão e os comentários feitos por Claudia Vanise de Andrade e Mariana Ferraz, do CBPF, na versão de 2021.

Nota sobre esta versão: Este texto atualiza o artigo publicado originalmente no site do CBPF em 4 de junho de 2021, institulado “Uma Inteligência Artificial humana, demasiadamente humana”. Esta atualização foi preparada pelos autores com o auxílio de um modelo de linguagem (Claude), usado para propor revisões e atualizar informações. O conteúdo final foi revisado e é de responsabilidade dos autores.