Machine learninguma proposta de guia orientativo para o exercício do direito de revisão das decisões automatizadas

Resumo

O direito de revisão surgiu para atender à preocupação da sociedade contemporânea com relação aos impactos e riscos decorrentes de decisões automatizadas no cotidiano da vida moderna. Há dúvidas com relação aos limites de seu exercício diante da ausência de regulação, somada à complexidade técnica dos sistemas de aprendizagem de máquina e da proteção legal dos segredos de negócio. Este trabalho analisa os limites do direito de revisão e propõe uma solução para atender os interesses envolvidos de forma equilibrada, durante o hiato regulatório sobre o tema no Brasil. Foi adotado o modelo de pesquisa para resolução dos problemas identificados, com proposição de procedimento para atendimento de pedidos de revisão, dentro dos limites identificados. Restou apurado que o exercício do direito de revisão depende das peculiaridades da técnica adotada, dos modelos e paradigmas, e da existência e grau de envolvimento e dependência do sistema automatizado com relação à intervenção humana. Restou apurado que o Brasil é mais permissivo e ameno aos controladores por não estabelecer regra de proibição geral, tal como no GDPR. Por ausência de previsão legal, a revisão humana das decisões automatizadas não é obrigatória no Brasil, cabendo ao controlador optar por adotála ou utilizar de outro sistema automatizado. Faz-se necessário um aprofundamento técnico das etapas de desenvolvimento e de tomada de decisões automatizadas por sistemas de aprendizagem de máquina, considerando o grau de influência e intervenção humana e seus possíveis impactos aos titulares, para que seja possível elucidar os resultados obtidos e permitir o exercício do direito de revisão de forma efetiva, com preservação dos segredos de negócio.

Ficha do documento

Tipo

Dissertação

Ano

2023

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Português

Acesso

Acesso aberto

Identificador

oai:repositorio.fgv.br:10438/33968

Temas

TecnologiaDadosGovernança

Palavras-chave

Automated decisionAutomationAlgorithmMachine learningRight of reviewPersonal dataData miningRight to explanationTransparencyOpacityBusiness secretDecisão automatizadaAutomaçãoAlgoritmoAprendizagem de máquinaDireito de revisãoDados pessoaisBig dataMineração de dadosDireito de explicaçãoTransparênciaOpacidadeSegredo de negócioDireitoTecnologia e direitoRevisão judicialProcesso decisórioSistemas de suporte de decisãoAprendizado do computador