Fundaj debate a inteligência artificial e suas consequências na educação

Discutir, do ponto de vista crítico, as consequências do que vem sendo chamado de Inteligência Artificial (IA) na educação e em vários domínios do nosso cotidiano. Foi com essa proposta que a Fundação Joaquim Nabuco (Fundaj), por meio da Diretoria de Formação Profissional e Inovação (Difor), promoveu o Seminário “Inteligência Artificial e Caminhos da Educação”, realizado entre os dias 18 e 20 deste mês, na Sala Aloísio Magalhães, no Campus Ulysses Pernambucano da Fundaj, no Derby. As aulas foram ministradas pelo professor Sérgio Amadeu, da Universidade Federal do ABC (UFABC).

Na mesa de abertura, a presidenta da Fundaj, a professora doutora Márcia Angela Aguiar, reforçou a importância do debate sobre o tema. “Participar deste debate significa enfrentar os novos desafios para nossa democracia e avaliar seu impacto aqui e no mundo. O professor Sérgio Amadeu é uma referência na área e trará importante colaboração para uma análise crítica do uso da IA”, afirmou. Também fizeram parte da mesa a diretora da Difor, Ana Abranches; a coordenadora de Atividades da Pós-Graduação da Difor, Ana Paula Abrahamian; a coordenadora de Cursos de Curta Duração da Difor, Suiany Carvalho, e a coordenadora do Curso de Pós-Graduação em Gestão Educacional, Zarah Lira. O professor Marcelo Carneiro Leão, ex-reitor da Universidade Federal Rural de Pernambuco (UFRPE), também estava presente.

O professor Sérgio Amadeu começou a palestra abrindo a discussão sobre o que realmente é a Inteligência Artificial realmente existente. “Existe uma grande dependência de dados, de uma variedade de base de dados de alto poder computacional, e de modelagens estatísticas. Isso tudo porque os dados são os principais insumos da IA. E a máquina não aprende, ela extrai padrões, através de vários sistemas algoritmos que fazem parte de uma rede de práticas sociais. Sem dúvida alguma, a democracia é afetada”, explicou.

No segundo dia, uma vez que já havia sido discutido anteriormente o que era essa Inteligência Artificial, Sérgio Amadeu debateu a questão ética. Apontou que graves assimetrias acontecem, como, por exemplo, as discriminações. Como a IA extrai padrões, detalhou, o aprendizado de máquina, seja ele profundo, generativo, que é um tipo de deep learning (ramo de aprendizado de máquina baseado em um conjunto de algoritmos que tentam modelar abstrações de alto nível de dados) muito em uso hoje, trabalha extraindo esses padrões, fazendo classificações e predições com base em dados que podem conter discriminações, proposições racistas, decisões misóginas. “E aí ele consegue pegar sutilezas que o olhar humano não pega. Esses sistemas automatizados acabam projetando para frente, reproduzindo essas discriminações de gênero, de classe e étnico-raciais.”

Já no terceiro encontro, Sérgio Amadeu mostrou como está sendo desenvolvido, no contexto mundial, os grandes modelos de linguagem e o deep learning em geral, dentro do que se chama de uma divisão internacional do trabalho e do conhecimento. De acordo com o professor, se não tivermos a construção de infraestruturas com políticas públicas soberanas, de não existir uma luta contra o colonialismo de dados e o colonialismo digital, ficaremos numa posição extremamente subordinada. “Neste caso, caberá ao país, simplesmente, ser ofertante de dados de segmentos da sua população para que, depois, lá fora, seja construído, nos ambientes dos grandes data centers das Big Techs, modelos de produtos e serviços que nós vamos adquirir. Então, ficamos numa condição de usuário e, no máximo, produzindo aplicativos que vão utilizar os grandes modelos que eles treinam.”

O professor acrescentou que a IA está sendo controlada hoje, no seu desenvolvimento e no uso massivo, pelas Big Techs, que têm grandes plataformas. Segundo o professor, as democracias, e o Brasil está incluído, precisam regulamentar como essas plataformas e como a IA devem servir à sociedade. “Óbvio que a IA pode ser muito útil. Caso contrário, a gente não estaria nem discutindo. Ela tem aplicações que podem aumentar a produtividade, mas também pode gerar desemprego”, pondera. Sérgio Amadeus explica que a IA pode trazer benefícios para o professor preparar uma aula, por exemplo.

Porém pode destruir a capacidade dos estudantes aprenderem, uma vez que ela passa a ser utilizada de maneira acrítica, simplesmente fazendo coisas que eliminam a reflexão, a necessidade do aprendizado. “Então, tem ambivalências. E é nesse sentido que a gente precisa regulamentar o uso dessa IA, regulamentar as plataformas porque elas têm muito poder e por estarmos utilizando o tempo todo dispositivos tecnológicos que mediam nossas relações até com a nossa família. Então tudo isso não é neutro. Precisamos discutir quando isso pode gerar implicações negativas e nos antecipar. Acredito que a gente pode ter utilidades muito importantes com a IA. Enquanto isso não acontece, entregamos nossas almas às Big Techs”, concluiu.

CURRÍCULO

Professor doutor em Ciência Política pela Universidade de São Paulo, associado da Universidade Federal do ABC (UFABC) e membro do Comitê Científico Deliberativo da Associação Brasileira de Pesquisadores em Cibercultura (ABCiber), Sérgio Amadeu integrou o Comitê Gestor da Internet no Brasil e presidiu o Instituto Nacional de Tecnologia da Informação. É pesquisador do CNPq e autor de livros sobre o tema. Entre eles “Tudo sobre tod@s: redes digitais, privacidade e venda de dados pessoais”, “Exclusão Digital: a miséria na era da informação” e “Software Livre: a luta pela Liberdade do conhecimento”.