AIが解く世界の難問 · 計算機科学の理論 · arXiv · 2026-10-21
LEAF：FPGA向けのLUT対応型効率的アテンション
原題: LEAF: LUT-aware Efficient Attention on FPGAs
CERNなどのリアルタイムシステムが要求するサブマイクロ秒の時間尺度に合うTransformerをFPGAに搭載することは、アテンションのハードウェア実装コストが高いため難しい。LEAFはクエリ・キー・値の射影と出力側のフィードフォワード層をLUT対応の学習でFPGAネイティブな層へ変換し、アテンション・ブロックの定数の行列ベクトル積をテーブル化することで超低遅延推論を実現した。標準的なジェットタグ付けベンチマークでは従来のサブマイクロ秒Transformerより精度を1.8ポイント高めつつLUT数を2.9分の1に抑え、最も効率的なLEAFベースのlinformerは64入力粒子で28k LUT・35ナノ秒の条件下80.4%の分類精度に達した。