KI und die schwierigen Probleme der Welt · Physik · arXiv · 2026-10-22
Feinabstimmung kleiner Reasoning-Modelle für die Quantenfeldtheorie
Originaltitel: Fine-Tuning Small Reasoning Models for Quantum Field Theory
Die Autoren führen den ersten akademischen Vergleich von Reinforcement Learning (RL) und Supervised Fine-Tuning (SFT) für LLMs bei überprüfbaren Problemlösungsaufgaben in der theoretischen Physik durch und wählen die Quantenfeldtheorie (QFT) als primäre Domäne. Da überprüfbare Trainingsdaten knapp waren, bauten sie eine Pipeline zur Datengenerierung, die sowohl über 2.500 synthetische Aufgaben erstellt als auch vorhandene, von Menschen verfasste Aufgaben aus arXiv und gängigen didaktischen Quellen für das Training anpasst. Beide Methoden übertreffen das Basismodell auf jedem Datensatz, doch die SFT-Zugewinne konzentrieren sich auf synthetische In-Distribution-Aufgaben, während RL besser generalisiert und SFT auf den menschenadaptierten Datensätzen und TPBench übertrifft; die Autoren veröffentlichen zudem ihre Datenpipeline, überprüfbare QFT-Trainingsdaten und rund 200 Mio. Token an QFT-Reasoning-Traces zusammen mit einer Analyse, wie sich Chain-of-Thought-Fehler während des Trainings entwickeln.