اعلام حلقه 3.0 فلش گروه آنت، فعال‌سازی 5.1 میلیارد توکن در هر توکن

گروه آنت (Ant Group) سازمان هوش مصنوعی خود به نام InclusionAI را معرفی کرده است که حلقه 3.0 فلش را ارائه می‌دهد که تنها 5.1 میلیارد توکن از مجموع 124 میلیارد پارامتر را فعال می‌کند. ظرفیت نسخه کم‌وزن FP8 به حدود 128 گیگابایت، نصف نسخه BF16 گزارش شده است. نسخه اصلی BF16 و نسخه کم‌وزن FP8 حلقه 3.0 فلش تحت مجوز MIT در هاب‌های Hugging Face و ModelScope قرار گرفته و می‌توانند با SGLang یا vLLM توزیع شوند. این مدل از ساختار ترکیبی متخصصان (Mixture-of-Experts·MoE) استفاده می‌کند که تنها برخی از شبکه‌های متخصص را بسته به ورودی فراخوانی می‌کند تا بار محاسباتی را کاهش دهد. به‌طور پایه، این مدل از یک پنجره زمینه 256K پشتیبانی می‌کند و می‌تواند تا 1M توکن گسترش یابد. در کارهای با فرکانس بالا، هدف این است که حداکثر سرعت استنتاج 1000 توکن در ثانیه و زمان پاسخ اولین توکن کمتر از 100 میلی‌ثانیه باشد. طبق مستندات رسمی، حلقه 3.0 فلش از ساختار توجه خطی هیبریدی استفاده می‌کند که لایه‌های KDA و MLA را به نسبت 5 به 1 متقاطع قرار می‌دهد. حلقه 3.0 فلش از ساعت 1 بامداد 23 ژوئیه به وقت کره جنوبی تا 0:59:59 بامداد 7 اوت به‌صورت رایگان ارائه می‌شود و در ماه اوت با 75 درصد تخفیف، قیمت عادی برای هر 1 میلیون توکن ورودی 0.40 یوان و برای هر 1 میلیون توکن خروجی 1.20 یوان خواهد بود.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.