Отчёты по ИИ · MIT CSAIL · 2026-11-19 · Блог / комментарии
Чтобы адаптировать ИИ-модель к небольшому устройству, делайте записи об её обучении лаконичными | MIT CSAIL
Оригинальное название: To adapt an AI model to a small device, keep its training notes concise | MIT CSAIL

Исследователи из MIT CSAIL и Гарвардского университета разработали метод Low-memory Activation Rank Subspace (LARS), который сжимает промежуточные данные активаций во время обучения вместо хранения каждого вычисления. По сравнению с лучшими методами PEFT, как сообщается, он сокращает объём занимаемой памяти более чем на 23% на GPU и примерно на 47% на CPU. Метод предназначен для обучения на устройстве с ограниченными вычислительными ресурсами, таком как смартфоны и носимые медицинские устройства.