Cellular sheaves in machine learning

Resumo

Graph Neural Networks (GNNs) são projetadas para realizar tarefas em dados relacionais não euclideanos, com uma miríade de aplicações. Entretanto, a maioria das arquiteturas de GNN são construídas sobre o paradigma de message passing, que pode levar a baixo desempenho em configurações heterofílicas e representações indistinguíveis à medida que mais camadas são adicionadas, um fenômeno conhecido como oversmoothing. Sheaf Neural Networks (SNNs) podem ser vistas como extensões naturais de GNNs, habilitando a modelagem de vieses indutivos topológicos e geométricos inerentes a dados estruturados. O mecanismo modulado de message passing dentro da estrutura do feixe celular permite interações mais expressivas entre os nós, que pode contornar a suposição de homofilia e mitigar o oversmoothing, problemas que comumente surgem em grafos. Este trabalho visa introduzir algumas das principais arquiteturas de SNNs desenvolvidas recentemente, explorando novas versões de modelos conhecidos de GNN, convolucionais e atencionais, assim como novos modelos de difusão baseados em feixe. Também fornecemos um vislumbre de como feixes estão sendo utilizados em outros contextos além de tarefas tradicionais em grafos.

Ficha do documento

Tipo

Dissertação

Ano

2025

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Inglês

Acesso

Acesso aberto

Identificador

oai:repositorio.fgv.br:10438/36776

Temas

Modelagem EconômicaTecnologiaDados

Palavras-chave

Machine LearningGraph Neural NetworksSheaf Neural NetworksSheaf TheoryAprendizado de MáquinasRedes Neurais em GrafoRedes Neurais em FeixesTeoria de FeixesTecnologiaAprendizado do computadorTopologia algébricaRedes neurais (Computação)Teoria de feixe