ByteDance запускает обучение большой модели ИИ до 10 трлн параметров

Китайская компания ByteDance начала обучение большой модели ИИ с потенциально до 10 трлн параметров, чтобы сократить отставание от американских разработчиков. Модель в настоящее время находится на этапе предварительного обучения, а ее окончательный размер будет определен позже. Такой масштаб может сделать ее одной из крупнейших в мире, превышая китайскую Kimi K3 в три раза. Предварительное обучение обычно длится от трех до шести месяцев, после чего планируется дополнительная настройка. Самые мощные модели Anthropic имеют около 8 трлн параметров. Количество параметров определяет способность модели обрабатывать информацию, но не гарантирует более высокого качества. Китайские разработчики усиливают конкуренцию с американскими лабораториями, в частности модели Moonshot и Alibaba демонстрируют высокие результаты. ByteDance менее открыто делится информацией о своих проектах, развивая закрытые модели. Ее видеогенеративная модель Seedance является одной из самых мощных в мире, а потребительская модель Doubao имеет около 324 млн активных пользователей в месяц. ByteDance активно инвестирует в ИИ, расширяя сеть дата-центров и привлекая исследователей. Компания не использует дистилляцию чужих систем, считая, что независимая разработка позволит создать конкурентоспособную модель.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.