Governo Aberto e Equidade de Gênero: o uso de Inteligência Artificial

A Parceria para Governo Aberto (OGP) publicou, nesta terça-feira (24/01), o artigo “Three Recommendations for More Inclusive and Equitable AI in the Public Sector”. O texto indica três recomendações dos membros da Open Algorithm Network para o uso de Inteligência Artificial (IA) em prol de políticas e ações que considerem questões de gênero e de inclusão.

O artigo, escrito por Allison Merchant, Conselheira Sênior de Gênero da OGP, menciona que o uso de algoritmos é um artifício que, a depender de como é trabalhado, tem grande potencial para promover discriminação ou equidade com respeito a questões de gênero em diferentes âmbitos e áreas. A Conselheira ressalta também que tem sido crescente a busca de governos e entidades da sociedade civil para entender e abordar melhor os impactos dos algoritmos sobre questões de gênero.

Segundo o artigo, na última reunião da Open Algorithms Network, representantes do governo e da sociedade discutiram sobre as possibilidades de se integrar o uso de inteligência artificial (IA) e iniciativas de governo aberto. Após diversas reflexões, o grupo realizou recomendações para serem aplicadas nos planos de ação da OGP e em outras iniciativas de governo aberto. As recomendações pretendem indicar práticas para reduzir discriminação no processo de coleta de dados e produzir resultados mais qualificados para as políticas com o uso de dados abertos e de design de algoritmos.

Confira, a seguir, uma visão geral sobre as recomendações apontadas pelo grupo:

1. Melhorar a transparência algorítmica e a participação nas estratégias e projetos

Estabelecer medidas, por meio de políticas, leis, regulamentos ou outras reformas, para promover a transparência algorítmica. O objetivo é tornar as políticas ou estratégias algorítmicas abertas, acessíveis ao público e participativas. São incentivadas ações que promovam consulta pública, coleta de sugestões, participação ativa, de forma a envolver os atores impactados nas estratégias e projetos relativos ao design e ao uso de algoritmos. 

2. Avaliar o processo de design para evitar diferenças de gênero, falta de inclusão e outras discriminações  

Avaliar as diretrizes auxilia os atores do governo a identificar e mitigar os riscos de discriminação e outras formas de desigualdade durante a fase de concepção de um projeto. Esta avaliação deve ser feita, preferencialmente, no início do processo, para que seja possível efetuar ajustes ao longo do processo de implementação de uma política ou programa. É importante também que haja um monitoramento constante dos sistemas de IA para garantir a qualidade do projeto e que seus resultados não sejam tendenciosos relativos a dados demográficos, tais como sobre mulheres e sobre indivíduos com gêneros diversos.

3. Obter um design representativo e responsável com o uso de dados abertos

Usar dados abertos em geral e sobre gênero pode melhorar a tomada de decisões, a transparência e o accountability em relação à formulação de políticas, orçamentos e serviços públicos. Isso permite que os dados sejam mais representativos para alimentar algoritmos na melhoria dos resultados de políticas e do uso feito pela sociedade. Em relação ao uso, análise e armazenamento de dados sobre sexo, gênero e orientação sexual é importante se atentar  para as questões de privacidade envolvidas e buscar soluções nesse sentido.

O texto integral está disponível no site da OGP (em inglês).

Sobre a autora

Allison Merchant, como Consultora Sênior de Gênero da OGP, gerencia o trabalho da Parceria relativo à temática de gênero e à Iniciativa Feminista de Governo Aberto. O resultado de suas pesquisas e das iniciativas que estão sob sua responsabilidade incentiva os governos a criar compromissos que promovam a igualdade de gênero e uma melhor governança por meio de maior transparência, participação e accountability.

Sobre a Open Algorithm Network

A Open Algorithm Network é uma rede informal de governos para trabalhar com responsabilidade algorítmica. Atualmente, a rede inclui países que estão implementando reformas nos algoritmos para abertura, inclusive por meio de compromissos em seus planos de ação da OGP. São membros da rede representantes dos governos do Canadá, Finlândia, França, Nova Zelândia, Holanda, Escócia e Reino Unido.

Fonte: site da OGP