Transparency challenges of AI implementation in public administrationa law enforcement case study

Resumo

Esta dissertação examina os desafios de transparência levantados pelo uso da IA na administração pública, utilizando law enforcement como estudo de caso, a fim de responder à seguinte pergunta: “Como os desafios de transparência levantados pelo uso da IA na aplicação da lei podem lançar luz sobre as incertezas jurídicas colocadas pela implementação da IA em vários domínios da administração pública?”. A pesquisa revela uma tendência crescente de adoção de IA em law enforcement em níveis federal e estadual no Brasil, destacando os riscos de sistemas de IA imprecisos que levam a prisões falsas e discriminação. Baseando-se no trabalho de Lawrence Lessig, e Crootof e Ard, o estudo enfatiza os desafios colocados pela opacidade algorítmica, que impede a compreensão e o escrutínio de decisões automatizadas, prejudicando assim a confiança dos cidadãos na administração pública. Para abordar essas questões, esta dissertação propõe uma abordagem abrangente para promover a transparência como confiança, incluindo a transparência algorítmica, a superação do sigilo comercial em matéria criminal e o questionamento dos argumentos de sigilo de segurança pública. A pesquisa também analisa frameworks regulatórios internacionais, como o EU AI Act e a Lei da República Digital Francesa, para identificar melhores práticas e potenciais lacunas na regulação da IA no Brasil. Finalmente, a dissertação apresenta propostas concretas para aumentar a transparência, incluindo a expansão do papel das instituições existentes, a concessão de diferentes níveis de acesso à informação sobre IA para diferentes partes interessadas e a priorização de medidas de construção de confiança. Embora reconhecendo que a transparência por si só não pode mitigar todos os riscos associados ao uso da IA na administração pública, esta pesquisa pretende contribuir para a conversa em curso sobre a regulação e gestão de tecnologias de IA no setor público.

Ficha do documento

Tipo

Dissertação

Ano

2024

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Inglês

Acesso

Acesso aberto

Identificador

oai:repositorio.fgv.br:10438/36542

Temas

Gestão PúblicaConcessõesAdministração PúblicaTecnologiaGovernança

Palavras-chave

Inteligência artificialAdministração públicaTransparência algorítimicaSigilo industrialArtificial intelligencePublic administrationLaw enforcementAlgorithmic transparencyTransparencyBlack boxTrade secrecyDireitoAdministração pública - Inovações tecnológicasAplicação da leiTransparência na administração públicaSegredos industriais - Legislação