AI与世界难题 · 理论计算机科学 · arXiv · 2026-10-23
Transformer训练的最优控制方法
原标题: An Optimal Control Approach To Transformer Training
该研究将 Transformer 训练视为一个遵循结构性约束（包括与输入无关的执行和位置依赖性）的最优控制问题。作者将模型提升为概率测度上的完全可观测马尔可夫决策过程，证明了全局最优策略的存在性，并提出了一种三重量化训练方法，对状态空间、测度空间和动作空间进行量化。他们证明，量化模型的任何最优策略对于原始训练问题都是近似最优的，从而为基于梯度的训练提供了一种无需光滑性或凸性的理论替代方案。