Glossário de Termos Relacionados à IA

Algoritmo: Sequência finita de instruções bem definidas e não ambíguas, executadas para obter um resultado ou solucionar um problema. (Recomendações da UNESCO sobre Ética da IA, 2021)   

Alto Impacto Adverso a Direitos Fundamentais: Situações em que sistemas de IA podem causar violações significativas aos direitos fundamentais garantidos pela Constituição Federal, incluindo privacidade, não discriminação, devido processo legal, liberdade de expressão e dignidade humana. Caracteriza-se por consequências graves, irreversíveis ou de difícil reparação que afetem a capacidade dos indivíduos de exercerem plenamente seus direitos. (Constituição Federal de 1988 e Recomendações da UNESCO sobre Ética da IA (2021)    

Alto Risco: Ambientes ou situações em que a aplicação de sistemas de IA pode gerar consequências graves, irreversíveis ou de difícil reparação para indivíduos ou grupos, como violação de direitos fundamentais, danos físicos, psicológicos ou financeiros significativos, ou comprometimento da segurança pública. A identificação de um contexto de alto risco no questionário de Avaliação de Riscos indica a necessidade de uma avaliação ética mais aprofundada. (Regulamento de IA da União Europeia - AI Act) 

Alucinação: Respostas incorretas ou fictícias geradas pela IAG que, apesar de convincentes, são erradas ou enganosas, não corresponde à realidade ou aos dados de treinamento, apresentando informações fabricadas, imprecisas ou sem fundamento factual. Esse fenômeno pode ocorrer devido às limitações nos dados de treinamento ou ao processamento do modelo.  (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Aprendizado de Máquina (Machine Learning): Subcampo da IA que se concentra no desenvolvimento de algoritmos e modelos estatísticos que permitem aos computadores melhorar seu desempenho em uma tarefa específica com base em experiência, sem serem explicitamente programados para isso. (Estratégia Brasileira de Inteligência Artificial - EBIA)  

Aprendizado Profundo (Deep Learning): Subcampo do aprendizado de máquina baseado em redes neurais artificiais com múltiplas camadas, capaz de aprender representações de dados com múltiplos níveis de abstração. (Estratégia Brasileira de Inteligência Artificial - EBIA).   

Auditoria de IAG: Processo de revisão das decisões e resultados gerados por sistemas de IAG, garantindo conformidade com normas legais e éticas. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Avaliação de Impacto Ético (AIE): Processo sistemático para identificar, avaliar e mitigar riscos éticos associados a sistemas de IA. (Recomendações da UNESCO sobre Ética da IA, 2021 e UNESCO Ethical Impact Assessment, 2023).   

Baixo Risco: Projetos de IA com potencial mínimo de impacto adverso sobre direitos fundamentais, segurança ou bem-estar dos indivíduos. Caracterizam-se por aplicações internas, experimentais ou de apoio administrativo que não envolvem tomada de decisões automatizadas sobre pessoas nem processamento de dados pessoais sensíveis em larga escala. (Regulamento de IA da União Europeia (AI Act) - Artigo 6º. 

Confidencialidade: Princípio de proteger informações sensíveis contra acessos não autorizados, crucial no uso de IAG. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Dados Anonimizados:  Dado relativo a titular que não possa ser identificado, considerando a utilização de meios técnicos razoáveis e disponíveis na ocasião de seu tratamento. (LEI Nº 13.709/18 - LGPD, art. 5º, III). 

Dados Pessoais: Informação relacionada a pessoa natural identificada ou identificável, conforme definido pela LGPD.  

Dados Pessoais Sensíveis: Dados pessoais sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a uma pessoa natural ou qualquer dado que necessite de proteção especial. (LEI Nº 13.709/18 - LGPD, art. 5º, I)  

Deepfake: Conteúdo audiovisual criado ou manipulado por IAG para parecer realista, como vídeos ou áudios simulando pessoas reais, usados frequentemente para fraudes ou desinformação. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Direitos Fundamentais: Direitos e garantias individuais e coletivas assegurados pela Constituição Federal e tratados internacionais de direitos humanos, como liberdade de expressão, privacidade, não discriminação, devido processo legal, entre outros. No contexto da IA, refere-se à capacidade dos indivíduos de exercerem plenamente seus direitos sem interferências indevidas ou prejudiciais por sistemas automatizados. (Constituição Federal de 1988, Título II, e Recomendações da UNESCO sobre Ética da IA, 2021).   

Diretrizes: As diretrizes para o uso ético de IA generativa incluem estratégias para garantir a ausência de vieses, conformidade com direitos humanos e justiça, responsabilidade pelo impacto do conteúdo gerado, proteção da privacidade e segurança das informações, transparência na geração por IA, informação sobre o uso responsável das ferramentas e relevância das soluções às necessidades do usuário e seus impactos. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Eficiência: Um dos princípios da administração pública que orienta o uso da IAG para otimizar tarefas e melhorar processos, desde que alinhado com os demais princípios éticos e legais. (Constituição Federal de 1988, artigo 37, e Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Explicabilidade: Capacidade de um sistema de IAG de explicar claramente os critérios e processos usados para tomar decisões ou gerar resultados. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Fine-tuning: Processo de ajuste fino de um modelo de IA pré-treinado com dados específicos para uma tarefa particular. (Estratégia Brasileira de Inteligência Artificial (EBIA)   

Grandes Modelos de Linguagem: Do Inglês - Large Language Models (LLM). São redes neurais de grande escala treinadas em conjuntos massivos de dados, permitindo à IAG compreender e gerar textos, áudios e imagens. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

IA Code Corporativo: Soluções de IA generativas aprovadas ou em avaliação, que garantem confidencialidade e atendem às normas, como GitHub Copilot e Gemini Code Assist. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

IA Generativa: Tecnologia que cria conteúdo (texto, áudio, imagens, vídeo) a partir de comandos do usuário, podendo ser funcionalidade principal ou integrada a aplicativos. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Impessoalidade: Princípio da administração pública que garante que decisões tomadas por ou com apoio da IAG sejam objetivas, imparciais e baseadas em critérios legais. (Constituição Federal de 1988, artigo 37 e Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Legalidade: O uso da IAG deve estar em conformidade com leis e regulamentos aplicáveis e vigentes como a LGPD e normas de direitos autorais. (Constituição Federal de 1988, artigo 37 e Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Médio Risco: Sistemas de IA que interagem com o público ou apoiam decisões com impacto moderado sobre indivíduos, ou grupos. Incluem aplicações que processam dados pessoais não sensíveis, fornecem recomendações para decisões humanas ou operam em contextos onde falhas podem causar inconvenientes significativos, mas não danos irreversíveis. (Algorithmic Impact Assessment do Canadá) 

Persona: Representação fictícia de um usuário ideal, baseada em dados reais, utilizada para orientar o desenvolvimento e a aplicação de ferramentas de IAG. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Plataformas Externas: Soluções de terceiros acessadas via API, como DeepSeek, ChatGPT e Gemini. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Princípios: Os princípios éticos geralmente buscam orientar o desenvolvimento e uso responsável de sistemas de IA. Esses princípios refletem um esforço para equilibrar o avanço tecnológico com preocupações éticas, sociais e legais na implementação da inteligência artificial. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Propriedade Intelectual: Direitos legais que protegem obras criativas, como textos, imagens e códigos, evitando seu uso não autorizado por sistemas de IAG. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Prompt: Comando de texto fornecido a um modelo de IAG para solicitar uma resposta ou realizar uma tarefa. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Racismo Algorítmico: Viés discriminatório reproduzido por sistemas de IAG devido a desigualdades presentes nos dados de treinamento, levando à perpetuação de preconceitos raciais. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Relatório de Impacto à Proteção de Dados Pessoais (RIPD): Documentação que contém a descrição dos processos de tratamento de dados pessoais que podem gerar riscos às liberdades civis e aos direitos fundamentais, bem como medidas para mitigá-los. (LEI Nº 13.709/18 - LGPD, art. 5º, XVII) 

Revisão Humana: Processo de validação e supervisão por especialistas para garantir que os conteúdos gerados por IAG sejam precisos, éticos e adequados ao contexto. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Risco Excessivo: Sistemas de IA que apresentam potencial de dano inaceitável à sociedade, violando princípios legais ou éticos fundamentais de forma sistemática. Incluem aplicações que manipulam comportamento humano de forma prejudicial, exploram vulnerabilidades de grupos específicos, ou operam com autonomia total em contextos críticos sem supervisão humana adequada. Projetos classificados neste nível devem ser imediatamente suspensos para reavaliação. (AI Act da União Europeia - Artigo 5º) 

Riscos: Os riscos associados ao uso de IA variam de acordo com a especificidade da aplicação. Uma medida adotada para mitigá-los compreende a classificação dos sistemas de IA em relação ao que pode ou não ser usado na prática, considerando níveis de riscos definidos por parâmetros legais ou normas específicas. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Serviços Essenciais: Serviços públicos ou privados cuja interrupção ou falha pode comprometer gravemente a saúde, segurança, bem-estar ou o funcionamento da sociedade. Exemplos incluem saúde, educação, segurança pública, transporte, energia, saneamento básico e acesso à justiça. (Constituição Federal de 1988 e Lei nº 7.783/1989, artigo 10º)   

Supervisão Humana Significativa: Capacidade efetiva e informada de supervisores humanos qualificados de compreender o funcionamento do sistema de IA, monitorar suas decisões em tempo real, intervir quando necessário, e reverter ou modificar resultados antes que causem impacto adverso. Inclui a disponibilidade de informações suficientes para tomada de decisão informada e autoridade real para anular o sistema. (AI Act da União Europeia (Artigo 14º) e  OCDE AI Principles)   

Transparência: O dever de informar claramente quando conteúdo ou decisões são gerados por IAG, permitindo auditoria e contestação, caso necessário. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Transparência Algorítmica: Princípio que exige que o funcionamento de sistemas algorítmicos seja compreensível e verificável por usuários, especialistas e reguladores. Recomendações da UNESCO sobre Ética da IA (2021).   

Viés Algorítmico: Tendências nos dados de treinamento, design do modelo ou decisões humanas durante o desenvolvimento que podem induzir a IA generativa a comportamentos indesejáveis e antiéticos. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro - adaptado do termo “Viés de Modelo”) 

Viés de Automação: Tendência de aceitar cegamente as respostas fornecidas por sistemas automatizados, ignorando a análise crítica e o bom senso humano. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Viés de Exclusão: Falha nos modelos de IAG causada pela sub-representação ou ausência de certos grupos nos dados de treinamento, o que resulta em discriminação ou interpretações erradas. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro) 

Viés de Resultado: Resultado enviesado gerado pela IAG devido a tendências presentes nos dados de treinamento ou nos algoritmos do modelo. 

Viés do Modelo: Tendências nos dados de treinamento, design do modelo ou decisões humanas durante o desenvolvimento que podem induzir a IA generativa a comportamentos indesejáveis e antiéticos. (Cartilha "IA Generativa no Serviço Público: Glossário de Termos Relacionados à IA" - MGI/SGD e Serpro)