Work

Implementation of Annealed Importance Sampling for Restricted Boltzmann Machines in CUDA

Year: 2026
Type: dissertation
Abstract: El avance de los modelos generativos profundos, tales como las Máquinas de Boltzmann Restringidas (RBM), depende críticamente de la evaluación de su log-verosimilitud. Para ello, resulta indispensable calcular la Función de Partición (Z), una operación matemática cuyo coste computacional asintótico resulta intratable de forma exacta. Aunque el algoritmo estocástico Annealed Importance Sampling (AIS) se ha consolidado como el estándar para estimar esta constante sin sesgo mediante Cadenas de Markov Monte Carlo (MCMC), su ejecución estrictamente secuencial en procesadores tradicionales (CPU) impone latencias prohibitivas que impiden su uso iterativo durante el entrenamiento. Este Trabajo de Fin de Grado aborda esta limitación mediante el diseño, optimización y validación empírica de una arquitectura de estimación paralela basada en GPU (NVIDIA CUDA). Alejándose de la sobrecarga (overhead) de los frameworks de propósito general del Estado del Arte, se ha diseñado un ecosistema híbrido en Python que confina los tensores estocásticos de forma persistente en la memoria VRAM. A través de la orquestación de micro-kernels Just-InTime (Numba) y la delegación del álgebra matricial densa al paradigma SIMT (CuPy/cuBLAS), se suprime el cuello de botella del bus PCI-Express y se implementan salvaguardas de estabilidad numérica nativas. El benchmarking intensivo demuestra la corrección analítica de la arquitecturay una superioridad estructural frente a librerías del estado del arte en cuanto a la gestión jerárquica de memoria. La solución propuesta alcanza un factor de aceleración (speedup) superior a 200x frente al estado del arte secuencial, reduciendo el tiempo de validación de topologías masivas de horas a minutos. En conclusión, este proyecto dota a la comunidad científica de una herramienta ágil, escalable y sostenible, democratizando la evaluación en tiempo real de modelos generativos estocásticos.
Language: Spanish
Open Access status: green
OpenAlex ID: W7171752131
Cites: 14
Cited by:
Related to: 10