IA em pesquisas com seres humanos
O uso de inteligência artificial (IA) já é uma realidade em pesquisas em diferentes áreas e pode trazer benefícios importantes para a ciência e a saúde. No entanto, o recurso da IA apresenta questões éticas próprias, relacionadas aos dados utilizados, aos vieses, à transparência, à supervisão humana e aos possíveis impactos sobre participantes, grupos e comunidades.
Para orientar o desenvolvimento seguro e responsável desses estudos, a Inaep elaborou um conjunto de medidas que apoia pesquisadores, instituições e Comitês de Ética em Pesquisa (CEPs) na avaliação de riscos, benefícios e medidas de proteção associados ao uso da IA, de forma ética, transparente e proporcional.
Ações
Confira as iniciativas que orientam o uso ético da IA:
- Guia de Uso Ético de Inteligência Artificial em Pesquisa com Seres Humanos: sistematiza e estabelece uma referência comum para todo o país. Sem comprometer a autonomia dos CEPs, o documento fortalece a tomada de decisões, tornando-as mais consistentes, fundamentadas e alinhadas às especificidades de cada pesquisa.
- Matriz de Avaliação de Risco em Inteligência Artificial em Pesquisa com Seres Humanos (Mariah): ferramenta online desenvolvida para apoiar a identificação, análise e classificação proporcional dos riscos éticos relacionados ao uso de inteligência artificial. Saiba mais
- Caderno Referencial: apresenta os fundamentos éticos, científicos, conceituais e regulatórios que embasam as orientações do guia e da Mariah.
Atenção: Em breve, o guia e o caderno serão disponibilizados para consulta pública à sociedade, simultaneamente ao período de aplicação inicial. As manifestações serão feitas por meio de formulário eletrônico divulgado na página da Inaep. Em paralelo, os CEPs poderão usar e testar a Mariah, inicialmente, por seis meses. O propósito é avaliar a aplicação prática das diretrizes e identificar ajustes e pontos de melhoria.
Objetivo
Fortalecimento dos aspectos éticos e da proteção dos participantes
A ação parte de um princípio fundamental: a tecnologia deve permanecer a serviço das pessoas. Por esse motivo, as orientações estão voltadas à proteção de participantes de pesquisa, grupos, comunidades e demais pessoas potencialmente afetadas pelo uso da inteligência artificial.
Entre os principais aspectos éticos abordados destacam-se:
- identificação e mitigação de riscos;
- prevenção e monitoramento de vieses algorítmicos;
- representatividade e qualidade dos dados utilizados;
- transparência e explicabilidade dos sistemas de IA;
- supervisão humana adequada;
- monitoramento contínuo dos sistemas empregados em pesquisa;
- proporcionalidade entre riscos, benefícios e salvaguardas adotadas.
Segurança dos dados e privacidade
As orientações enfatizam a necessidade de adoção de medidas de governança de dados capazes de assegurar a privacidade, a confidencialidade e a proteção das informações utilizadas em pesquisas.
O material também destaca a importância da utilização responsável dos dados ao longo de todo o ciclo da pesquisa, considerando os riscos associados ao tratamento automatizado de informações e os direitos dos participantes de pesquisa no Brasil.
Orientações para pesquisadores
Os documentos disponibilizados oferecem subsídios para:
- planejamento ético de pesquisas que utilizem IA;
- identificação e avaliação de riscos;
- implementação de medidas de mitigação;
- promoção da transparência e da responsabilização;
- elaboração de estratégias de proteção dos participantes;
- apoio à submissão e à análise ética de projetos de pesquisa.