Por que Inteligência Artificial?


Por que Inteligência Artifical?
A inteligência artificial foi escolhida como tema para a primeira edição porque já é usada para produzir recomendações, avaliações e decisões que podem afetar diretamente a vida das pessoas por exemplo, no acesso a serviços, na análise de riscos, na saúde ou no transporte. Esses sistemas utilizam grandes volumes de dados pessoais e, muitas vezes, seu funcionamento é complexo, o que torna difícil explicar por que determinada resposta foi produzida ou demonstrar que os direitos das pessoas estão sendo respeitados.
O sandbox permitiu que a ANPD observasse essas dificuldades em situações concretas, junto a quem desenvolve e utiliza a tecnologia. Assim, a Agência pode reunir evidências para orientar temas como transparência, explicabilidade e decisões automatizadas, ajudando a construir regras e orientações que conciliem inovação, proteção de dados e respeito aos direitos.
Um exemplo prático é o uso de inteligência artificial em um hospital para auxiliar na análise de exames. O sistema compara uma imagem médica com milhares de casos anteriores e indica sinais que merecem atenção. Pode também utilizar de estudos previamente selecionados em curadoria para aumentar o arcabouço e dar maior robustez à análise. A decisão final continua sendo do profissional de saúde, mas a IA ajuda a priorizar casos e identificar padrões com mais rapidez.
Nesse contexto, o sandbox regulatório poderia testar como o hospital deve explicar o uso da IA ao paciente, quais dados foram utilizados, como proteger essas informações e o que fazer quando a recomendação do sistema estiver errada ou for questionada. Assim, é possível avaliar a tecnologia na prática sem deixar de lado a proteção de dados e os direitos das pessoas.