La IA y los problemas difíciles del mundo · Informática teórica · arXiv · 2026-10-20
Procesamiento por lotes dinámico: cómo el entrenamiento cíclico por clases moldea la estructura interna de las redes neuronales
Título original: Dynamical Batching: How Class-Cycling Training Shapes the Internal Structure of Neural Networks
Los autores presentan Dynamical Batching (DB), que enfatiza periódicamente cada clase en los minilotes de entrenamiento manteniendo sin cambios la función de pérdida y el optimizador, y lo comparan con el muestreo uniforme de clases por lote. En una espiral de tres brazos, un MLP de capacidad limitada que se estanca con lotes uniformes se ajusta a los datos de entrenamiento con DB. En CIFAR-10, DB mejoró modestamente la precisión en prueba de una ResNet-10 con canales reducidos y de una segunda red convolucional de capacidad limitada.