AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-09-28
Generalisasi LLM dengan fungsi pengaruh
Judul asli: LLM generalization with influence functions
Penelitian ini memperluas skala influence functions, yang memperkirakan bagaimana contoh pelatihan memengaruhi perilaku suatu model, ke LLM dengan hingga 52 miliar parameter menggunakan aproksimasi EK-FAC. Metode ini mencapai akurasi yang serupa dengan estimator tradisional sambil membuat komputasi inverse-Hessian-vector product jauh lebih cepat, hingga beberapa orde besarnya. Para penulis menggunakannya untuk mempelajari pola generalisasi dan menemukan bahwa pengaruh turun hingga mendekati nol ketika urutan frasa kunci dibalik.