Writer مدل جدید Palmyra X6 را با تمرکز بر کاهش هزینه‌ها منتشر کرد

وب‌سایت CoinWorld گزارش می‌دهد:

مشتریان شرکتی به طور فزاینده‌ای به هزینه‌های پیاده‌سازی هوش مصنوعی توجه می‌کنند، به‌ویژه در شرایطی که میزان استفاده از مدل‌های بزرگ به طور مداوم در حال افزایش است. مدل جدید و ابزارهای همراهی که Writer منتشر کرده، به‌دنبال کاهش این فشار است: تلاش برای کاهش هزینه‌های اجرایی بدون تغییر عادات استفاده شرکت‌ها.

Palmyra X6 برای پیاده‌سازی در شرکت‌ها

Writer روز پنجشنبه مدل پرچمدار جدید خود، Palmyra X6 را منتشر کرد. این مدل بر اساس نسخه پس‌آموزشی مدل متن‌باز Z.ai به نام GLM-5.2 ساخته شده و هدف آن استفاده مستقیم در شرکت‌ها است، نه صرفاً دستیابی به نتایج آزمون‌های معیار.

این شرکت اعلام کرد که Palmyra X6 به‌صورت موازی با سایر مدل‌های Writer و مدل‌های خارجی که از طریق Azure یا Amazon Bedrock متصل می‌شوند، ارائه خواهد شد و مشتریان نیازی به بازسازی سیستم کلی خود حول یک مدل واحد ندارند.

به‌روزرسانی‌های همراه برای کاهش هزینه توکن‌ها

همراه با مدل جدید، یک دور به‌روزرسانی مهم برای harness استاندارد agentic Writer نیز منتشر شده است. تمرکز فقط بر روی مدل نیست، بلکه بر روی زمان‌بندی، فراخوانی و فرآیند استدلال هنگام اجرای وظایف چند مرحله‌ای مدل نیز می‌باشد.

• مدل جدید: Palmyra X6
• مدل پایه: GLM-5.2
• هزینه‌های پایه وظایف تا 50% کاهش می‌یابد

Writer پیش‌بینی می‌کند که با این مدل جدید و تنظیمات زیرساختی، هزینه مشتریان در وظایف پایه تا 50% کاهش یابد. این شرکت تأکید می‌کند که اگر وظایف پیچیده با توکن‌های کمتری و با سرعت بیشتری انجام شوند، هزینه‌های کل پیاده‌سازی به‌طور قابل توجهی کاهش خواهد یافت.

تحقیقات نشان می‌دهد که بهینه‌سازی فرآیند مؤثرتر است

تیم تحقیقاتی Writer اخیراً مقاله‌ای منتشر کرده که این قضاوت را تأیید می‌کند. این مقاله تغییرات هزینه مدل‌های مختلف را در فرآیندهای اجرایی مختلف آزمایش کرده و نتایج نشان می‌دهد که در بسیاری از موارد، بهینه‌سازی کارایی harness پایدارتر از صرفاً تعویض مدل است و به‌طور متوسط حدود 40% کاهش هزینه را به همراه دارد.

مدیرعامل Writer، May Habib، اظهار داشت که علاقه مشتریان شرکتی به دنبال کردن مداوم آزمون‌های معیار جدید در حال کاهش است و توجه آن‌ها به این موضوع معطوف شده که آیا هزینه‌ها می‌توانند پایدار بمانند. او همچنین گفت که برخی از مسئولان فناوری شرکت‌ها به اعتماد به آزمایشگاه‌های بزرگ هوش مصنوعی کاهش یافته‌اند، یکی از دلایل آن این است که مدل تجاری آن‌ها به شدت به میزان استفاده از توکن‌ها وابسته است.