Intelligence SynthesisJAEN

IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · arXiv · 2026-10-21

LEAF: Atenção Eficiente Ciente de LUT em FPGAs

Título original: LEAF: LUT-aware Efficient Attention on FPGAs

Implantar transformers em FPGAs que sejam precisos, compactos e rápidos o suficiente para sistemas de tempo real de submicrossegundo, como os do CERN, é difícil, porque o mecanismo de atenção que torna esses modelos expressivos é custoso de implementar em hardware. O LEAF converte as projeções de query, key e value e a camada feed-forward de saída em camadas nativas de FPGA por meio de treinamento LUT-aware, tabulando as multiplicações matriz-vetor constantes do bloco de atenção. Em um benchmark padrão de jet tagging, ele melhora a precisão em 1.8 pontos percentuais usando 2.9 vezes menos LUTs do que o estado da arte submicrossegundo anterior, e seu linformer mais eficiente atinge 80.4% de precisão de classificação com 28k LUTs e 35ns com 64 partículas de entrada.

Ler o original ↗

Todos os itens →