متا، انتشار مقالهای درباره کاهش هزینههای آموزش LLM
امتیازدهی ما در گوگلتحقیقات متا FAIR به محدودیتهای پیشبینی مقیاس آموزش مدلهای زبانی بزرگ (LLM) اشاره کرده و مدل تصحیحی "Skaling" را پیشنهاد کرده است. در این مقاله، "کاهش ۱۰ برابری محاسبات" به معنای کاهش هزینههای کلی آموزش نیست، بلکه به کاهش هزینههای آزمایش اشاره دارد. محققان بیان کردند که فرضیههای موجود مبنی بر اینکه اندازه مدل و دادههای آموزشی به طور مستقل بر مقدار خطا تأثیر میگذارند، در برخی بازهها خطاهایی را ایجاد کرده است. قانون Skaling هدفش کاهش خطای پیشبینی با انعکاس تأثیر مشترک اندازه مدل N و توکنهای آموزشی D است. محققان اعلام کردند که Skaling در ۷۶٪ از ترکیبات آزمایش شده دقت بیشتری نسبت به چنچیلای موجود دارد و بهبود خطا بر اساس میانه به ۲.۲ برابر رسیده است. خطای درصدی مطلق میانگین (MAPE) بسته به شرایط آزمایش بین ۱.۵ تا ۳ برابر کاهش یافته است. مقاله توضیح میدهد که با استفاده از یک شبکه پروفایلینگ "L" شکل برای بازههای کمهزینه، میتوان با استفاده از تقریباً ۱۰ برابر محاسبات کمتر، دقت پیشبینی مشابهی نسبت به روش پیمایش یکنواخت کل شبکه به دست آورد. این به معنای کاهش هزینههای کلی آموزش به یک دهم نیست. متا اعلام کرد که پس از آموزش مدل ۸B در سال ۲۰۲۴ با حداکثر ۱۵ تریلیون توکن، عملکرد بهبود یافته است. این مقاله به عنوان پیشچاپ در آرشیو منتشر شده و بر کارایی آموزش AI و بحثهای مربوط به تصحیح قانون مقیاسگذاری تمرکز دارد.
این محتوا صرفاً برای اطلاعرسانی عمومی ارائه شده است و بهمنزله مشاوره مالی، سرمایهگذاری، حقوقی یا مالیاتی تلقی نمیشود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید بهعنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر داراییهای رمزارزی تلقی شود. داراییهای رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.
ممکن است شما نیز علاقهمند باشید
BRICS+ تغییر: جزئیات پنهانی که حاکمیت اقتصادی را بازتعریف میکند
بایننس به میدان نبرد جدید بازارهای سهام آخر هفته تبدیل میشود: استفاده از پرپ برای تصاحب قدرت قیمت و bStocks برای مدیریت موجودی و سیستم اصلاح خطا
مروری بر شرکتهای نوپای همجوشی که بیش از ۱۰۰ میلیون دلار تأمین مالی کردهاند
امروز، جهان بالاخره فهمید چرا "خدای سهام AI" سقوط کرد
آزمایش استرس 16.3 میلیارد دلاری بیتکوین در وال استریت به چهار الگوی موقعیتی تقسیم میشود
مایکل سیلور: بیتکوین در تلاش است تا کمیابی دیجیتال را به پول تبدیل کند و ذخیره ثروت و انتقال ارزش را بازتعریف کند
شفافیت به سختی زنده میماند، استراتژی بیتکوین میفروشد و داستان ناگفته معامله ۱.۸ میلیارد دلاری مسترکارت: هفته کریپتو در ۵ داستان
توقف برنامه IPO بورس آمریکا RedotPay به دلیل شکایت Binance، ممکن است به ۲۰۲۷ موکول شود
استراتژی بهینه در حباب هوش مصنوعی: خرید سهام فناوری و داراییهای افتکرده و فروش اوراق قرضه هوش مصنوعی
ChatGPT بهترین ارز دیجیتال برای 2026 را پیشبینی میکند – بیتکوین، XRP یا سولانا؟
وسواس بلاکچین خصوصی وال استریت یک "مسابقه به سمت پایین" است، رمان هشدار میدهد
کاهش ۱۵ درصدی داراییهای ETF رمزارز دارتموث در سهماهه دوم
محقق Delphi Digital: چگونه میتوان تعیین کرد که آیا یک پروژه واقعاً undervalued است؟
وب 3: نزدیک شدن محاسبات کوانتومی، صنعت رمزنگاری در حال آمادهسازی برای مهاجرت گسترده
سپرده ثابت، هر روز بیشتر مورد سوال قرار میگیرد: هر آنچه باید درباره این ابزار بدانید
پیگیری پول: نزدیک به ۴.۵ میلیارد دلار در Web3، «حمله سرمایهگذاری به هوش مصنوعی» و گسترش eToro در ایالات متحده
صندوق سرمایهگذاری ۲۲۵.۵ میلیون دلاری رابینهود زیر قیمت IPO باز میشود
بیتکوین: آیا هوش مصنوعی خطرناکتر از محاسبات کوانتومی است؟ 2 توسعهدهنده همه چیز را برای ما توضیح میدهند
آیا یک هوش مصنوعی غیرقابل کنترل در دو سال آینده؟ برایان آرمسترانگ از Coinbase به این باور است
نازداک میخواهد راهاندازی گزینههای مربوط به ETFهای رمزارز را ساده کند
[مصاحبه نهایی SCAN 2026] ②J0y_B0y: چهار دانشجوی دانشگاه علوم کاربردی اردن گرد هم آمدهاند
۶ نفر از ۱۰ سرمایهگذار XRP در ضرر هستند – آیا خرید XRP اکنون هوشمندانه است یا زود است؟
خطرات در رگهای حیاتی تجارت جهانی: ۲۷ گلوگاه کلیدی دریایی بخش عمدهای از جریان تجارت را حمل میکنند، بحران هرمز زنگ خطر را به صدا درآورده است
سرمایهگذاری خطرپذیر در ارزهای دیجیتال به زیرساختهای آماده برای کوانتوم در سال ۲۰۲۷ اولویت خواهد داد، بنیانگذار Moon Pursuit میگوید
راهنمای رسمی صرف توکن Claude Code: 11 نکته برای استفاده طولانیتر از اعتبار
رشد 6 درصدی تولید ناخالص داخلی در سهماهه دوم: مالزی چگونه در برابر شوکهای خارجی مقاومت میکند
ETF بیت کوین با سه برابر اهرم به آمریکا میآید: آنچه که بزرگتر از سود است
هک سایت مالیات - انتظار میرود کمپینهای گسترده کلاهبرداری آغاز شود
وال استریت ژورنال: چگونه تجارت هوش مصنوعی توجهات را از ارزهای دیجیتال میرباید؟
مدلهای قابل تعویض، ابزارهای قابل اتصال: DeepSeek رقابت عاملها را از "مغز" به "سیستمعامل" منتقل میکند
BRICS+ تغییر: جزئیات پنهانی که حاکمیت اقتصادی را بازتعریف میکند
بایننس به میدان نبرد جدید بازارهای سهام آخر هفته تبدیل میشود: استفاده از پرپ برای تصاحب قدرت قیمت و bStocks برای مدیریت موجودی و سیستم اصلاح خطا
مروری بر شرکتهای نوپای همجوشی که بیش از ۱۰۰ میلیون دلار تأمین مالی کردهاند
امروز، جهان بالاخره فهمید چرا "خدای سهام AI" سقوط کرد
آزمایش استرس 16.3 میلیارد دلاری بیتکوین در وال استریت به چهار الگوی موقعیتی تقسیم میشود
مایکل سیلور: بیتکوین در تلاش است تا کمیابی دیجیتال را به پول تبدیل کند و ذخیره ثروت و انتقال ارزش را بازتعریف کند
جدیدترین مقالات
آخرین لیست سکه ها در WEEX
