AI dan Masalah-Masalah Sulit Dunia · Fisika · arXiv · 2026-10-22
Fine-Tuning Model Penalaran Kecil untuk Teori Medan Kuantum
Judul asli: Fine-Tuning Small Reasoning Models for Quantum Field Theory
Para penulis melakukan perbandingan akademis pertama antara reinforcement learning (RL) dan supervised fine-tuning (SFT) untuk LLM pada tugas pemecahan masalah yang dapat diverifikasi dalam fisika teoretis, dengan memilih teori medan kuantum (QFT) sebagai domain utama. Karena data pelatihan yang dapat diverifikasi langka, mereka membangun pipeline pembuatan data yang sekaligus menciptakan lebih dari 2,500 masalah sintetis dan mengadaptasi masalah buatan manusia yang sudah ada dari arXiv serta sumber pedagogis standar untuk pelatihan. Kedua metode memberikan peningkatan dibandingkan model dasar pada setiap dataset, tetapi keuntungan SFT terkonsentrasi pada tugas sintetis in-distribution sementara RL lebih baik dalam generalisasi dan mengungguli SFT pada dataset hasil adaptasi manusia dan TPBench, dan para penulis merilis pipeline data mereka, data pelatihan QFT yang dapat diverifikasi, dan sekitar 200M token jejak penalaran QFT beserta analisis tentang bagaimana kesalahan chain-of-thought berevolusi selama pelatihan.