AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · arXiv · 2026-10-23
Pendekatan Kendali Optimal untuk Pelatihan Transformer
Judul asli: An Optimal Control Approach To Transformer Training
Studi ini memperlakukan pelatihan Transformer sebagai masalah kontrol optimal yang menghormati batasan struktural, termasuk eksekusi yang tidak bergantung pada input dan ketergantungan posisi. Para penulis mengangkat model tersebut menjadi proses keputusan Markov yang sepenuhnya teramati atas ukuran probabilitas, membuktikan bahwa kebijakan optimal global itu ada, dan mengusulkan prosedur pelatihan terkuantisasi tiga kali yang mengkuantisasi ruang keadaan, ukuran, dan aksi. Mereka menunjukkan bahwa setiap kebijakan optimal untuk model terkuantisasi mendekati optimal untuk masalah pelatihan aslinya, sehingga menawarkan alternatif teoretis bagi pelatihan berbasis gradien yang tidak memerlukan kemulusan maupun konveksitas.