Algoritmos que discriminamuma análise jurídica da discriminação no âmbito das decisões automatizadas e seus mitigadores

Resumo

O presente estudo visa apresentar e discutir o conceito de “discriminação algorítmica” no contexto das tomadas de decisões automatizadas no âmbito do ordenamento jurídico brasileiro; bem como apresentar os mecanismos jurídicos hoje existentes para evitar e mitigar a ocorrência de tal discriminação. O primeiro capítulo traz a discussão sobre o que é a discriminação algorítmica, passando pela análise em abstrato do conceito de discriminação e das normativas presentes no ordenamento jurídico brasileiro (disposições constitucionais, tratados internacionais incorporados pelo Brasil e leis infraconstitucionais) que definem discriminação, entendendo-se que um algoritmo pode apresentar resultados discriminatórios na medida em que oferece tratamentos injustos a indivíduos por meio do resultado de suas decisões. Já o segundo capítulo faz uma discussão dos mecanismos de governança algorítmica que podem mitigar a ocorrência de discriminações por algoritmos. Os focos de análise são as garantias individuais dispostas em regulamentações estatais, sendo tais garantias traduzidas no “direito à explicação” e no “direito à revisão” introduzidas pela General Data Protection Regulation (GDPR) e pela Lei Geral de Proteção de Dados Pessoais (LGPD). Mesmo havendo ainda muitas discussões com relação à existência desses direitos e de como sua aplicação deve ocorrer, é possível afirmar que esses direitos – principalmente os definidos e dispostos na LGPD - são bons mecanismos para incentivar a divulgação de informações relacionadas às tomadas de decisão automatizadas, e, portanto, podem ajudar a evitar a ocorrência de discriminações algorítmicas.

Ficha do documento

Tipo

Outro

Ano

2020

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Português

Acesso

Acesso aberto

Identificador

oai:repositorio.fgv.br:10438/29878

Temas

DadosGovernança

Palavras-chave

Algorithmic discriminationAutomated decision-makingRight to explanationRight to reviewGDPRLGPDDiscriminação algorítmicaTomada de decisões automatizadasDireito à explicaçãoDireito à revisãoDireitoBrasil. [Lei geral de proteção de dados pessoais (2019)]Processo decisório