ИИ и сложнейшие проблемы мира · Теоретическая информатика · arXiv · 2026-10-23
Подход оптимального управления к обучению трансформеров
Оригинальное название: An Optimal Control Approach To Transformer Training
В исследовании обучение Transformer рассматривается как задача оптимального управления, учитывающая структурные ограничения, включая независимость выполнения от входных данных и позиционную зависимость. Авторы переводят модель в полностью наблюдаемый марковский процесс принятия решений над вероятностными мерами, доказывают существование глобально оптимальных политик и предлагают трижды квантованную процедуру обучения, квантующую пространства состояний, мер и действий. Они показывают, что любая оптимальная политика для квантованной модели близка к оптимальной для исходной задачи обучения, что даёт теоретическую альтернативу градиентному обучению, не требующую гладкости или выпуклости.