La IA y los problemas difíciles del mundo · Informática teórica · arXiv · 2026-10-21
LEAF: atención eficiente consciente de LUT en FPGA
Título original: LEAF: LUT-aware Efficient Attention on FPGAs
Desplegar transformadores en FPGA que sean precisos, compactos y lo bastante rápidos para sistemas en tiempo real de submicrosegundo, como los del CERN, es difícil, porque el mecanismo de atención que hace expresivos a estos modelos es costoso de implementar en hardware. LEAF convierte las proyecciones de query, key y value y la capa feed-forward de salida en capas nativas de FPGA mediante un entrenamiento consciente de las LUT, tabulando las multiplicaciones constantes matriz-vector del bloque de atención. En un benchmark estándar de etiquetado de jets mejora la precisión en 1.8 puntos porcentuales usando 2.9 veces menos LUTs que el anterior estado del arte de submicrosegundo, y su linformer más eficiente alcanza una precisión de clasificación de 80.4% con 28k LUTs y 35ns con 64 partículas de entrada.