Delegating business decisions to AIa controversial dilemma

Resumo

O surgimento de ferramentas avançadas baseadas em IA (ex.: IA generativa, agentes de IA e sistemas de agentes de IA) não apenas destacou a importância da delegação nos ambientes de negócios atuais, mas também revolucionou o trabalho e a vida humana, permitindo confiar nessa tecnologia para realizar tarefas que antes dependiam exclusivamente da inteligência humana. Agentes de IA com autonomia limitada – ou seja, sistemas artificiais que possuem cognição automatizada incorporada em uma relação de agência – podem aliviar a complexidade da tomada de decisões, liberando os humanos para se concentrarem em questões que exigem abordagens mais criativas e intuitivas. No entanto, apesar dos benefícios evidentes da delegação de decisões a agentes de IA, existem preocupações significativas em relação à (a) relutância humana em abrir mão do controle, podendo gerar decisões subótimas, (b) resistência humana em seguir resultados previstos pela IA, podendo comprometer os ganhos dos investimentos em IA, e (c) incerteza sobre o papel adequado que humanos e IA devem desempenhar na tomada de decisões, podendo gerar ameaças à identidade e ansiedade no ambiente de trabalho. Para abordar essas questões nebulosas, esta dissertação visa desvendar as complexidades da transferência de direitos e responsabilidades de decisão para agentes de IA em contextos de tomada de decisão empresarial, por meio de três artigos interconectados que examinam o fenômeno em contextos de decisão que tendem ao julgamento humano, utilizando diferentes lentes teóricas e uma abordagem metodológica de aprofundamento progressivo. No total, 702 decisores dos Estados Unidos forneceram dados para construir uma estrutura robusta de descobertas. Enquanto o primeiro artigo revela potenciais fatores que impulsionam e inibem a disposição humana para delegar, bem como cadeias de mediação que levam a uma maior ou menor disposição de delegação, o segundo artigo identifica quatro configurações de condições causais que levam à resistência humana em seguir resultados previstos pela IA, bem como os mecanismos causais pelos quais esses resultados ocorrem. O terceiro artigo demonstra que a complexidade da tarefa leva os humanos a preferirem que os agentes de IA desempenhem um papel consultivo, em vez de autônomo, na tomada de decisão, refletindo o declínio da confiança na IA quando o risco percebido é alto, embora essa relação seja atenuada por uma alta autoeficácia relacionada à tarefa. Por meio desses resultados, a pesquisa contribui para aprimorar o conhecimento acadêmico em diferentes linhas de pesquisa – delegação de decisões, delegabilidade de tarefas, automação cognitiva, interação humano-IA, sistemas sociotécnicos e aversão a algoritmos – e oferece aos profissionais insights valiosos para lidar com as deficiências humanas e as limitações da IA. Além de ampliar o conhecimento sobre a delegação de decisões, de uma perspectiva humano-humano para uma perspectiva humano-IA, esta dissertação desvenda algumas das complexidades inerentes à delegação de decisões a agentes de IA em contextos de tarefas empresariais subjetivas, por meio de diferentes abordagens.

Ficha do documento

Tipo

Tese

Ano

2026

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Inglês

Acesso

Acesso restrito

Identificador

oai:repositorio.fgv.br:10438/38524

Temas

TecnologiaDados

Palavras-chave

AI agentsDecision authorityDelegationTask complexityResistance to AIAgentes de IAAutoridade de decisãoDelegaçãoComplexidade da tarefaResistência à IAAdministração de empresasInteligência artificialAdministração de empresas - Processo decisórioSistemas de suporte de decisãoDelegação de autoridade