La IA y los problemas difíciles del mundo · Informática teórica · arXiv · 2026-10-23
Un enfoque de control óptimo para el entrenamiento de Transformers
Título original: An Optimal Control Approach To Transformer Training
El estudio trata el entrenamiento de los Transformers como un problema de control óptimo que respeta restricciones estructurales, entre ellas la ejecución independiente de la entrada y la dependencia posicional. Los autores elevan el modelo a un proceso de decisión de Markov totalmente observado sobre medidas de probabilidad, demuestran que existen políticas globalmente óptimas y proponen un procedimiento de entrenamiento triplemente cuantizado que cuantiza los espacios de estados, de medidas y de acciones. Muestran que cualquier política óptima para el modelo cuantizado es casi óptima para el problema de entrenamiento original, lo que ofrece una alternativa teórica al entrenamiento basado en gradientes que no requiere suavidad ni convexidad.