Matriz RACI

O GuIA e a Matriz RACI para sistemas de IA compõem uma ferramenta de apoio aos órgãos para organizar a governança de soluções de Inteligência Artificial (IA) para serviços públicos digitais da administração pública federal. O objetivo é oferecer um modelo que demonstre como as decisões e as atividades devem ocorrer durante todo o ciclo de vida de um sistema de IA, desde o momento inicial, em que se identificam os desafios públicos (fase de Prospecção), até o momento em que a tecnologia deixa de ser utilizada e deve ser desligada de forma segura (fase de Desativação). O GuIA busca destacar quais papéis são responsáveis por desenvolver, aprovar, monitorar e responder pelos erros desses sistemas de IA e abrange tanto os sistemas de IA desenvolvidos internamente à administração pública federal quanto aqueles adquiridos de fornecedores.

Sua aplicação é recomendada para qualquer órgão ou entidade da Administração Pública Federal que esteja adotando, desenvolvendo ou já operando um sistema de IA, independentemente de o órgão ter realizado ou não a Avaliação de Impacto Ético (AIE).

Embora seu uso seja amplo, o GuIA é o instrumento indicado em contextos específicos da AIE: quando o órgão realiza sua autoavaliação e identifica que há lacunas na definição de quem faz o quê (papéis) ou que os mecanismos para que o cidadão possa contestar as decisões da IA ainda não estão claros, este guia fornece a estrutura necessária para organizar esses processos e garantir uma governança ética e segura.

O GuIA e a Matriz RACI para sistemas de IA foram baseados na Metodologia de Desenvolvimento de sistemas de IA desenvolvida pelo CPQD no âmbito do Projeto INSPIRE, fruto de um convênio entre o Ministério da Gestão e da Inovação em Serviços Públicos (MGI) e a Finep. Essa metodologia foi criada para orientar os órgãos da Administração Pública Federal na adoção de sistemas de IA, em alinhamento ao Plano Brasileiro de Inteligência Artificial (PBIA), e está representada no GuIA.

A Matriz RACI é um modelo que define o nível de envolvimento de cada área em uma tarefa. Ela se divide em quatro papéis:

• Responsável (R): Quem efetivamente executa a tarefa técnica ou administrativa.
• Aprovador (A): Autoridade responsável por aprovar e responder pela decisão.
• Consultado (C): Quem fornece suporte, informações ou é ouvido antes da execução da tarefa ou da decisão.
• Informado (I): Quem precisa apenas ser notificado sobre a decisão ou andamento do processo.

Recomendamos um fluxo de cinco passos:

• Conheça as 7 etapas do ciclo de vida da IA (da Prospecção à Desativação), disponíveis na Introdução do GuIA.
• Identifique as pessoas/áreas internas ou parceiros externos/fornecedores que ocupam ou ocuparão os papéis sugeridos, disponíveis na Introdução do GuIA.
• Utilize a Matriz RACI em anexo para entender o nível de envolvimento necessário de cada papel em cada etapa.
• Adapte a Matriz RACI à realidade específica do seu órgão, respeitando os papéis e atividades previstos.
• Apresente a Matriz RACI às áreas envolvidas para garantir que todos concordem com suas atribuições.

A aplicação do GuIA e da Matriz RACI começa pelo entendimento das etapas do ciclo de vida do sistema de IA previstas na Metodologia. São elas:

• Prospecção e priorização — Visa alinhar a aplicação de IA para maximizar seu valor e impacto nos serviços públicos. O objetivo é identificar, apurar e selecionar criteriosamente os desafios e necessidades que possuam o maior potencial de resolução através de IA, garantindo que os recursos e esforços sejam aplicados onde são mais necessários, tendo o Plano Brasileiro de Inteligência Artificial (PBIA) como direcionador.
• Enquadramento — O foco principal é garantir a compreensão profunda do desafio para estruturar uma proposta de solução viável (MVP). Envolve uma análise detalhada da viabilidade técnica, financeira e dos dados, além da avaliação de riscos (éticos, de segurança e privacidade) e a definição de métricas claras de sucesso, culminando na elaboração de um plano de experimentação.
• Experimentação — Desenvolver protótipos e realizar testes técnicos rigorosos. Busca-se validar o desempenho (acurácia, precisão etc.), a segurança e a viabilidade econômica do sistema de IA proposta, seja ela um desenvolvimento interno ou uma solução adquirida no mercado.
• Implementação — Objetiva integrar, configurar e implantar o sistema de IA de forma robusta e escalável. Nesta etapa, define-se a arquitetura com foco em segurança desde a concepção (security by design) e são realizados testes de carga e segurança, além de se estabelecerem mecanismos de contingência e monitoramento antes do lançamento oficial.
• Implantação (rollout) — Execução do plano de rollout e validação do processo de Gestão de Mudança (GMUD) para assegurar que a entrada em produção (deploy) ocorra de maneira segura. É nesta etapa que a solução é formalmente transferida e aceita pela equipe responsável pela sua sustentação.
• Sustentação e monitoramento — Tem como objetivo garantir que o sistema de IA continue gerando valor, mantendo estabilidade técnica, segurança e precisão. Isso é alcançado através do monitoramento contínuo em tempo real (para detectar falhas, drift de dados ou anomalias) e de ciclos de melhoria contínua, gestão de incidentes e retreinamento do modelo.
• Desativação — Visa assegurar que um modelo ou algoritmo desatualizado seja removido ou substituído de forma controlada. Garante que o desligamento não cause impactos negativos nos sistemas dependentes e foca na preservação da memória técnica, rastreabilidade (auditoria) e conformidade legal após o encerramento do uso da solução.

Os papéis das partes interessadas envolvidas no ciclo de vida de sistemas de IA são:

• Demandante: unidade de um órgão ou órgão demandante para solução de um desafio.
• Curador de dados: servidor (ou função organizacional) do órgão, definido na Governança de Dados desse órgão, como responsável por garantir a qualidade, confiabilidade, conformidade e uso adequado dos dados ao longo de todo o seu ciclo de vida. Atua como um guardião dos dados, assegurando que sejam corretos, atualizados, bem documentados, acessíveis a quem precisa e utilizados de forma ética e conforme normas legais.
• Alta Gestão: na administração pública, a alta gestão é o nível superior de liderança e decisão, responsável por definir diretrizes estratégicas, tomar decisões institucionais relevantes e responder política, administrativa e legalmente pelos resultados do órgão.
• Gestor de TIC (Tecnologia da Informação e Comunicação): responsável por planejar, executar e monitorar projetos tecnológicos, alinhando-os à Estratégia de Federal Governo Digital (EFGD) e ao Plano Diretor de TIC (PDTIC) do órgão.
• Facilitador: pessoa jurídica, servidor público do órgão ou parceiro com capacidade de executar a fase de descoberta de hipóteses e de solução na etapa de enquadramento do desafio.
• Encarregado pelo tratamento de dados pessoais (Encarregado de Dados): pessoa indicada pelo controlador como braço técnico consultivo para atuar como canal de comunicação (intermediador), orientador sobre boas práticas, fiscalizador de normas e relator sobre riscos e necessidades de melhorias na proteção de dados pessoais, conforme a Lei Geral de Proteção de Dados (LGPD, Lei nº 13.709/2018). Não toma decisões sobre as finalidades do tratamento de dados.
• Gestor de Segurança da Informação: responsável por orientar, conduzir diagnósticos, planejar e monitorar todas as medidas de segurança da informação do órgão. No GuIA, ele atua como a principal autoridade técnica que aprova o mapeamento de riscos cibernéticos, valida os testes de segurança antes da implantação e garante a supervisão ininterrupta do sistema durante a operação.
• Responsável Setorial pela Gestão de Integridade (RSGI): responsável por coordenar e gerir riscos para a integridade institucional relacionados ao projeto. Ele atua como um guardião ético e moral, atuando nas fases iniciais de avaliação de risco para garantir que o algoritmo desenvolvido não resulte em vieses discriminatórios, falhas de compliance, corrupção algorítmica ou qualquer impacto que manche a reputação e a integridade do serviço público.
• CISC gov.br (Centro Integrado de Segurança Cibernética): equipe principal para prevenção, tratamento e resposta a incidentes cibernéticos do Governo Digital, sendo que devem ser notificados imediatamente, por parte dos órgãos, caso ocorra algum problema (como um vazamento de dados gerado por uma IA). Também é responsabilidade dessa equipe executar os testes de intrusão (penetration tests) e os testes estáticos e dinâmicos de segurança nas aplicações; realizar análises contínuas e investigações de inteligência sobre novas ameaças cibernéticas e monitorar padrões maliciosos no tráfego de rede; elaborar e publicar alertas, e emitir determinações com prazos rígidos para que os órgãos corrijam falhas e vulnerabilidades que sejam classificadas como de alta criticidade.
• Executor (Parceiro executor): entidade, órgão ou empresa responsável por desenvolver uma solução de IA (denominado Produtor de IA na ABNT NBR ISO/IEC 22989:2023, 5.19). Este papel pode ser desempenhado por um parceiro ou o próprio órgão.
• Sustentador (Parceiro de sustentação): entidade, órgão ou empresa responsável por sustentar a solução de IA, após sua implantação. Este papel pode ser desempenhado por um parceiro ou o próprio órgão.
• Comitê de IA / Ética: responsável por orientar, avaliar e supervisionar o uso de IA assegurando conformidade legal, ética, técnica e institucional. No setor público, esse comitê é particularmente relevante para garantir interesse público, transparência, direitos fundamentais e accountability (responsabilidade).

Dependendo do contexto do órgão ou do modelo de contratação, os papéis de Executor e Sustentador podem ser exercidos por uma única entidade ou equipe. Nesses casos, é fundamental que as atividades estejam claramente previstas em seu escopo de atuação.

O Projeto de Lei nº 2338/2023 define sistemas de IA de alto risco como aqueles com grande potencial de causar danos materiais, morais ou discriminatórios, afetando direitos fundamentais ou serviços essenciais. Para esses casos, o texto exige governança rigorosa, incluindo avaliações de impacto algorítmico contínuas, mitigação de vieses, transparência total e supervisão humana obrigatória. Na Administração Pública, as exigências são ampliadas para, entre outras coisas, garantir interoperabilidade de dados, registros detalhados de acesso e uso e canais acessíveis de revisão para o cidadão. Persistindo riscos inelimináveis, o sistema deve ser obrigatoriamente descontinuado.

As finalidades e contextos de uso que configuram alto risco estão listadas no art. 14 do Projeto de Lei nº 2338/2023, enquanto as medidas de governança para sistema de alto risco estão na seção II e as medidas de governança aplicadas para o Poder Público estão na seção III.

A responsabilidade solidária é um conceito jurídico que estabelece que, quando vários agentes contribuem para um dano, todos eles podem ser obrigados a reparar a totalidade do prejuízo causado. No contexto da Inteligência Artificial, essa regra busca mitigar as dificuldades decorrentes da fragmentação de responsabilidades ao longo da cadeia de valor, assegurando que a complexidade técnica na identificação exata da falha não impeça a pronta indenização do cidadão.

De acordo com o texto do Projeto de Lei nº 2338/2023, em tramitação na Câmara dos Deputados, nos sistemas de alto risco, a responsabilidade é dividida igualmente entre quem desenvolve e sustenta a tecnologia (Executor/Sustentador) e o órgão que a utiliza (Demandante). Se houver algum dano, ambos respondem pelo prejuízo sem a necessidade de comprovar culpa, bastando demonstrar que o problema foi causado pela operação da IA. Para os sistemas que não são de alto risco, a responsabilidade depende da análise de falha na conduta. Nesses casos, a vítima tem o benefício da inversão do ônus da prova, e os envolvidos podem responder juntos se ficar demonstrado que ambos contribuíram para o erro. Em qualquer cenário, quem pagar uma indenização por um erro causado por falha técnica de um parceiro externo tem o direito de regresso. Isso permite a recuperação do valor pago processando o real responsável, utilizando para isso os registros de auditoria e monitoramento do ciclo de vida do sistema de IA como prova.