نویسندگان NVIDIA، AMD و Intel به همراه 9 شرکت دیگر، اتحادیه SGLang را برای توسعه منبع باز ایجاد کردند

By: x.com|
0
اشتراک‌گذاری
copy
امتیازدهی ما در گوگلامتیازدهی ما در گوگل

در اولین اجلاس SGLang، NVIDIA، AMD و Intel به طور نادر با هم اتحادیه SGLang را تأسیس کردند و به عنوان 9 عضو بنیان‌گذار در تعیین نقشه راه آینده موتور استنتاج هوش مصنوعی منبع باز شرکت کردند. این اجلاس بیش از 2000 نفر را به صورت حضوری جذب کرد. SGLang نرم‌افزار زیرساختی برای زمان اجرای مدل‌های بزرگ است که مسئول پردازش درخواست‌های کاربر، زمان‌بندی GPU، مدیریت حافظه و بازاستفاده از نتایج محاسباتی است و به طور مستقیم بر سرعت و هزینه اجرای مدل‌های هوش مصنوعی تأثیر می‌گذارد. پس از تأسیس اتحادیه، تولیدکنندگان تراشه به طور سیستماتیک‌تری در توسعه شرکت خواهند کرد و مهندسان و منابع آزمایش را به کار خواهند گرفت تا به بهینه‌سازی عملکرد سخت‌افزار کمک کنند. اعضای اتحادیه هر سال دو بار جلسات نقشه راه برگزار می‌کنند و تصمیمات فنی و حق ادغام کد تحت کنترل تیم نگهداری SGLang است. در حال حاضر 332 نهاد از SGLang استفاده می‌کنند و Meta اعلام کرده است که پس از انتقال به SGLang، منابع GPU در محیط تولید بزرگ‌مقیاس آن‌ها بیش از نیمی صرفه‌جویی شده است. اجلاس همچنین جهت‌گیری توسعه SGLang v1.0 را اعلام کرد که بر بهبود ثبات و سازگاری در محیط تولید تمرکز دارد و نسخه رسمی هنوز در حال توسعه است. در عین حال، SGLang پیش‌نمایش عمومی از پشتیبانی تراشه AWS Trainium را راه‌اندازی کرده و با Intel برای بهینه‌سازی CPU، GPU و شتاب‌دهنده‌های آن همکاری کرده است و همچنین چارچوب یادگیری Miles v0.2 نیز منتشر شده است.

قیمت --

--
--
--

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.

ممکن است شما نیز علاقه‌مند باشید

بیت‌کوین: کلیدهای به‌طور نادرست تولید شده ۱۰۶ میلیون دلار را در معرض دزدان قرار دادند

محققان دانشگاه لیژ ربات‌های دزد بیت‌کوین را به دام انداختند: ۱۰۶ میلیون دلار در معرض خطر به دلیل کلیدهای خصوصی به‌طور نادرست تولید شده.

آینده سهام انویدیا در 20 سال آینده کجا خواهد بود؟ پاسخ ممکن است شما را شگفت‌زده کند.

آینده انویدیا به اندازه‌ای که فکر می‌کنید دشوار نیست.

میلیاردر دیوید تپر به تازگی یک چرخش بزرگ در تراشه‌های هوش مصنوعی انجام داد --- آیا این کار سود خواهد داد؟

تپر در سه‌ماهه سوم، سهام AMD، Broadcom و Alphabet را فروخت و در عوض سهام Nvidia و Micron را خرید.

از دست دادن هوان رن شون، هزینه‌ای فراتر از ۲.۵ تریلیون دلار

از ابتدای اکتبر، ۲۰ غول مرتبط با هوش مصنوعی در بازار سهام ایالات متحده مجموعاً بیش از ۸.۴ تریلیون دلار از ارزش خود را از دست داده‌اند.

ایلان ماسک هشدار می‌دهد که صنعت هوش مصنوعی در سال آینده با کمبود شدید نقدینگی مواجه خواهد شد

اگر تراشه‌های هوش مصنوعی کالایی شوند، انویدیا بیشترین ضرر را خواهد کرد، در حالی که این ۳ سهام در حال افزایش هستند

انویدیا در معرض خطر زیادی قرار دارد زیرا تراشه‌های هوش مصنوعی به کالایی تبدیل می‌شوند، در حالی که این سهام می‌توانند سود ببرند.
...

جدیدترین مقالات

بیشتر

آخرین لیست سکه ها در WEEX

iconiconiconiconiconiconiconicon
پشتیبانی مشتری:@weikecs
همکاری تجاری:@weikecs
معاملات کمّی و بازارسازی:bd@weex.com
برنامه VIP:support@weex.com