Random Gradient-Free Optimization in Infinite Dimensional Spaces

Resumo

Nesta dissertação, propomos um método aleatório livre de gradiente para otimização em espaços de Hilbert de dimensão infinita, aplicável à otimização funcional em diversos contextos. Embora tais problemas sejam frequentemente resolvidos por meio de descida de gradiente em dimensão finita sobre uma parametrização das funções, como redes neurais, uma alternativa interessante é realizar a descida de gradiente diretamente no espaço de funções, explorando sua estrutura de espaço de Hilbert, o que permite garantias teóricas demonstráveis e convergência rápida. No entanto, gradientes em dimensão infinita frequentemente são difíceis de computar na prática, o que limita a aplicabilidade desses métodos. Para superar essa limitação, nosso arcabouço requer apenas o cálculo de derivadas direcionais e uma pré-base para o domínio do espaço de Hilbert, isto é, um conjunto linearmente independente cujo fecho do span é denso no espaço de Hilbert. Isso resolve completamente a questão da tratabilidade, pois pré-bases são muito mais fáceis de obter do que bases ortonormais completas ou núcleos reprodutores — que podem nem sequer existir — e derivadas direcionais individuais podem ser facilmente computadas usando diferenciação automática escalar em modo forward. Por fim, demonstramos o uso do método para resolver equações diferenciais parciais no estilo das physics-informed neural networks (PINNs), onde ele permite efetivamente garantir convergência demonstrável.

Ficha do documento

Tipo

Dissertação

Ano

2026

Instituição

Fundação Getulio Vargas

Fonte

Repositório da FGV

Idioma

Inglês

Acesso

Não informado

Identificador

oai:repositorio.fgv.br:10438/38633

Palavras-chave

Random gradient-free methodsInfinite dimensional optimizationPartial differential equationsMétodos aleatórios livres de gradienteOtimização em dimensão infinitaEquações diferenciais parciaisMatemática