ByteDance открывает исходный код мультимодальной модели 3B Lance, обученной на 128 GPU A100

По данным Beating, ByteDance Research открыла исходный код Lance — единой мультимодальной модели с 3 миллиардами параметров, обученной всего на 128 GPU A100. Lance поддерживает понимание, генерацию и редактирование изображений и видео в рамках одной системы, демонстрируя, что продвинутые мультимодальные возможности можно реализовать при минимальных вычислительных ресурсах, используя двухпотоковую архитектуру mixture-of-experts и модально-осведомлённое rotary position encoding.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев