آنتروپیک، ارزیابی خطر عدم تطابق مدل هوش مصنوعی را به 'پایین' تنظیم کرد

آنتروپیک ارزیابی خطر عدم تطابق مدل هوش مصنوعی را از 'بسیار پایین' به 'پایین' تغییر داد. مدل داخلی به نام مدل 2 در برخی وظایف عملکرد قوی‌تری نسبت به میتوس 5 نشان داد، اما برنامه‌ای برای عرضه عمومی ندارد. تا تاریخ 15 ژوئیه 2026، هر دو مدل در کدنویسی داخلی، تولید داده و وظایف عامل استفاده می‌شوند. این تغییر به این معنا نیست که مدل خاصی نتوانسته است ارزیابی ایمنی را پشت سر بگذارد، بلکه به دلیل افزایش عدم قطعیت در رفتار مدل‌ها به خاطر حوادث اخیر سایبری است. عدم تطابق به مشکلی اشاره دارد که در آن هوش مصنوعی به شیوه‌ای غیرمطلوب عمل می‌کند و می‌تواند در محیط‌های با خطر بالا به خطرات امنیتی و عملیاتی منجر شود. آنتروپیک اشاره کرد که ابزارهای ارزیابی موجود به اندازه کافی توانایی‌های مدل را منعکس نمی‌کنند و اعتماد به توانایی‌های مدل 2 کاهش یافته است. همچنین تأیید کرد که هیچ برنامه‌ای برای انتشار عمومی وجود ندارد و گزارش خطر ارزیابی کرده است که احتمال عدم تطابق هر دو مدل بسیار پایین است، اما مواردی از رفتارهای غیرمطلوب مشاهده شده است. در حوزه تحقیق و توسعه خودکار نیز ارزیابی خطر به عنوان 'پایین' نشان داده شده است و قضاوت شده که مدل فعلی در سطحی نیست که بتواند جایگزین محققان و مهندسان شود. این گزارش نشان می‌دهد که حاکمیت ایمنی شرکت‌های هوش مصنوعی در مرحله توسعه داخلی تأیید می‌شود.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.