ИИ и сложнейшие проблемы мира · Науки о жизни · Nature (machine learning) · 2026-10-26
Эффективная интеграция структурной информации в языковые модели белков с помощью неявной смеси экспертов ProBEiT
Оригинальное название: Efficient structural information integration into protein language models with implicit mixture-of-experts ProBEiT
Белковые языковые модели способны предсказывать функцию и эффекты мутаций по последовательности, но лишь немногие из них учитывают структурную информацию, определяющую функцию. Авторы предлагают ProBEiT, которая совместно кодирует аминокислотные последовательности и токенизированные структуры с помощью параметрически эффективной неявной схемы смеси экспертов с детерминированной маршрутизацией. Модель с 400 миллионами параметров, обученная на 1,7 миллиона белков из AlphaFoldDB, превосходит более крупные базовые модели на шести задачах по приспособленности и функциональной аннотации и корректно выявляет оптимизированные варианты с положительными эпистатическими эффектами в задаче инженерии термостабильности глицерол-3-фосфатоксидазы.