Frameworks para a governança de inteligência artificialuma análise comparativa

Resumo

Nos últimos anos, tem sido crescente a preocupação com os impactos sociais causados por sistemas de Inteligência Artificial (IA) ao redor do mundo, o que tem gerado uma verdadeira corrida na tentativa de regular essa temática, principalmente por meio de propostas executivas (ex.: estratégias nacionais) ou legislativas (ex.: projetos de lei). Mas, para além desses instrumentos regulatórios clássicos, diversos atores têm contribuído para as tentativas de desenvolvimento de sistemas de IA mais confiáveis, éticos e responsáveis, notadamente por meio da criação e adoção de frameworks que se preocupam com elementos importantes durante todo o ciclo de vida da tecnologia. Dentro desse contexto, este trabalho objetiva entender como os frameworks existentes podem auxiliar no processo de construção de sistemas de IA com ética e responsabilidade, principalmente na ausência de uma regulação sobre o tema. Esse objetivo será atingido através da análise e comparação de três frameworks elaborados por diferentes atores e que trazem pontos de vista diversos, a saber: “Assessment List for Trustworthy AI” (setor público), “Confronting Bias: BSA’s Framework to Build Trust in AI” (setor privado) e “capAI: A procedure for conducting conformity assessment of AI systems in line with the EU Artificial Intelligence Act” (academia). Para tanto, no primeiro capítulo, serão abordados os dilemas e desafios da intersecção entre Direito e IA, incluindo os conceitos e os possíveis modelos para sua normatização, com a análise das três principais propostas brasileiras de regulação dessa temática. No segundo capítulo, questões relacionadas à governança digital e sua aplicação no campo da IA serão abordadas, a partir do artigo “Soft Ethics and the Governance of the Digital”. No terceiro capítulo, será compreendido o contexto no qual se inserem os frameworks desenvolvidos pelos diversos atores ao redor do mundo, com a posterior análise, classificação e comparação de cada um dos três frameworks selecionados para o trabalho. Na conclusão, verificou-se, em síntese, que os frameworks existentes podem auxiliar no processo de construção de sistemas de IA ao sugerir a adoção de medidas objetivas (ex.: ações práticas ou respostas a perguntas específicas) envolvendo regulações vigentes sobre temas específicos que se relacionam com IA, governança e ética, aliando a proteção aos direitos fundamentais das pessoas impactadas pela tecnologia com outros interesses envolvidos.

Ficha do documento

Tipo

Dissertação

Ano

2023

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Português

Acesso

Acesso aberto

Identificador

oai:repositorio.fgv.br:10438/34470

Temas

Gestão PúblicaTecnologiaGovernança

Palavras-chave

GovernançaÉticaRegulaçãoInteligência artificialGovernanceEthicsRegulationArtificial intelligenceFrameworksDireitoTecnologia e direitoFramework (Programa de computador)