AI 與世界的難題 · 理論資訊科學 · arXiv · 2026-10-20
動態批次處理：類別循環訓練如何塑造神經網路的內部結構
原標題: Dynamical Batching: How Class-Cycling Training Shapes the Internal Structure of Neural Networks
作者提出動態批次化（Dynamical Batching，DB），在保持損失函數與最佳化器不變的情況下，於訓練小批次中週期性地強調每個類別，並與均勻類別批次化進行比較。在三臂螺旋資料集上，容量受限的多層感知器在均勻批次化下會陷入停滯，但在 DB 下能擬合訓練資料。在 CIFAR-10 上，DB 使通道縮減的 ResNet-10 以及另一個容量受限的卷積網路的測試準確率小幅提升。