Ученые МФТИ разработали алгоритм HARP для эффективного сжатия языковых моделей. Технология позволяет вдвое ускорить работу нейросетей и значительно снизить нагрузку на вычислительные ресурсы.
Исследователи из Московского физико-технического института создали инновационный алгоритм HARP, направленный на эффективное уменьшение нагрузки на центры обработки данных. Как сообщает газета «Известия», данная технология обеспечивает сжатие языковых моделей при сохранении их высокой точности.
Внедрение этого метода способен в два раза повысить быстродействие систем искусственного интеллекта, одновременно сокращая затраты оперативной памяти и вычислительных ресурсов. В ходе тестирования алгоритма на моделях Llama и Qwen ученые подтвердили его эффективность: даже при максимально агрессивном сжатии показатель ошибки всего на 15% снизился.
