Relatório de Inteligência Digital #12 - A disseminação de deepfakes íntimos não consensuais nas redes sociais

Resumo

A ascensão das inteligências artificiais generativas trouxe novas possibilidades de manipulação de imagens e vídeos, incluindo a criação de imagens e vídeos sintéticos, que simulam situações ou pessoas reais. Essas imagens produzidas a partir de fotos reais, ou totalmente geradas por IA, têm se tornado um fenômeno crescente nas redes sociais e em plataformas digitais. No entanto, sua popularização levanta preocupações sobre consentimento, desinformação e a exploração de imagem dos indivíduos nas redes, especialmente quando são usadas para criar conteúdos íntimos sem a autorização das pessoas envolvidas. Entre os deepfakes íntimos mais populares nas redes, estão abraços e beijos românticos - estes últimos muitas vezes acompanhados de teor sexual implícito. Ambas essas modalidades de deepfakes íntimos são analisadas neste estudo a partir de duas abordagens principais: 1) os temas associados aos deepfakes íntimos com maior circulação nas redes sociais, especificamente a rede social X, e 2) os anúncios veiculados por plataformas de IA na Biblioteca de Anúncios da Meta para divulgar serviços de produção desse tipo de conteúdo. Os dados coletados apontam para um cenário em que deepfakes íntimos são utilizados tanto para fins lúdicos quanto para reforçar narrativas enganosas ou desinformativas. No X, foi observada uma ampla gama de usos: desde vídeos e imagens criados por fãs que inserem artistas e personagens fictícios em interações românticas até postagens que utilizam deepfakes para manipular a percepção do público sobre relacionamentos de figuras públicas, inclusive no âmbito do debate político. Já na análise dos anúncios da Meta, houve um volume expressivo de campanhas promovendo plataformas que geram deepfakes íntimos sem consentimento, com estímulo a montagens com ex-namoradas, “crushes” e figuras públicas.

Ficha do documento

Tipo

Outro

Ano

2025

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Português

Acesso

Não informado

Identificador

oai:repositorio.fgv.br:10438/37879

Temas

TecnologiaDados

Palavras-chave

DeepfakesInternetComunicação digitalCiência políticaCiências sociaisComunicaçãoTecnologiaInteligência artificialRedes sociaisFake news