رقابت در زمینه عامل‌های هوش مصنوعی، از عملکرد مدل‌ها به سیستم‌های عملیاتی شرکت‌ها منتقل می‌شود

رقابت در زمینه عامل‌های هوش مصنوعی به سمت سیستم‌های عملیاتی که می‌توانند به‌طور ایمن در کارهای شرکتی به‌کار گرفته شوند، منتقل شده است. تحلیل‌ها نشان می‌دهد که برای واگذاری کارهای واقعی، نه‌تنها عملکرد مدل‌ها بلکه مدیریت زمینه و مجوزهای شرکتی، بازیابی خطاها و سیستم‌های اعتبارسنجی نیز باید در نظر گرفته شوند.

اندریسن هورویتز (Andreessen Horowitz) در مطلبی که در تاریخ ۲۸ اوت ۲۰۲۵ منتشر کرد، اعلام کرد که عامل‌های مبتنی بر استفاده از کامپیوتر در حال گسترش دامنه اتوماسیون کاری با تعامل مستقیم با مرورگرها و محیط‌های دسکتاپ هستند. در محیط‌های شرکتی، طراحی زمینه و قابلیت اعتماد نسبت به مدل‌های عمومی اهمیت بیشتری دارد و هماهنگی کارهای طولانی‌مدت نیز از اهمیت بالایی برخوردار است.

عامل‌های مبتنی بر استفاده از کامپیوتر، سیستم‌های هوش مصنوعی هستند که می‌توانند صفحه‌نمایش‌های مورد استفاده انسان را شناسایی کرده و اقداماتی مانند کلیک، ورودی و جابجایی صفحه را انجام دهند. این عامل‌ها پس از دریافت هدف، ابزارهای لازم را انتخاب کرده و مراحل مختلف را به‌طور متوالی پردازش می‌کنند که این امر آن‌ها را از ربات‌های فرآیند اتوماسیون (RPA) که تنها مراحل مشخصی را تکرار می‌کنند، متمایز می‌کند.

موارد کاربرد شامل جستجوی اسناد، ورودی به سیستم‌های مدیریت مشتری، اعلان‌های پیام‌رسان داخلی و تهیه گزارش‌ها است که نیاز به جابجایی بین چندین برنامه دارد. در کارهای شرکتی، مجوزهای دسترسی، پردازش استثنائات، سوابق حسابرسی و مراحل تأیید انسانی وجود دارد که تنها با توانایی جابجایی صفحه نمی‌توان کل فرآیند را به‌طور خودکار انجام داد.

طبق مقاله رسمی OSWorld، نرخ انجام کارهای واقعی توسط انسان‌ها ۷۲.۳۶٪ و نرخ موفقیت بهترین مدل در آن زمان ۱۲.۲۴٪ بود. OSWorld معیاری برای اندازه‌گیری توانایی کار با فایل‌ها، برنامه‌های کاربردی و صفحات وب در محیط‌های واقعی سیستم‌عامل است.

OpenAI در تاریخ ۲۳ ژانویه ۲۰۲۵ اعلام کرد که عامل‌های مبتنی بر استفاده از کامپیوتر (Computer-Using Agent·CUA) در OSWorld نرخ ۳۸.۱٪، در WebArena نرخ ۵۸.۱٪ و در WebVoyager نرخ ۸۷٪ را ثبت کرده‌اند. این اعداد نشان‌دهنده این است که مدل‌هایی که به‌طور مستقیم با کامپیوتر کار می‌کنند، از مرحله تحقیق به مرحله تولید وارد شده‌اند.

با این حال، حتی اگر توانایی‌های مشابهی در استفاده از کامپیوتر اندازه‌گیری شود، مقایسه نتایج ساده نیست زیرا نسخه‌های معیار، ساختار کار و نحوه اجرای آن‌ها متفاوت است. مقالات اصلی و ارزیابی‌های تأیید شده OSWorld و ارزیابی‌های مجدد شرکت‌های مختلف شرایط متفاوتی را اعمال می‌کنند، بنابراین باید معیارهای ارزیابی را نیز در کنار اعداد عملکرد مشخص کرد.

دلیل اینکه نمی‌توان گلوگاه‌های عامل‌های هوش مصنوعی شرکتی را تنها با نمرات مدل توضیح داد، همین است. حتی اگر مدل قوی‌تری داشته باشید، اگر نتوانید زمینه‌های لازم را به‌موقع ارائه دهید و نتایج اجرا را اعتبارسنجی کنید و سیستم بازیابی برای کارهای ناموفق نداشته باشید، نمی‌توان به‌طور پایدار در محیط تولید عمل کرد.

مایکروسافت (Microsoft·$MSFT) در مطلبی که در تاریخ ۲ ژوئن ۲۰۲۶ منتشر کرد، اعلام کرد که آنچه شرکت‌ها به آن نیاز دارند، تنها مدل‌های قوی یا منابع محاسباتی نیست، بلکه سیستم‌هایی برای ساخت، توزیع، نظارت و کنترل عامل‌ها است. این شرکت چهار شرط اصلی برای ورود به محیط تولید را مطرح کرد: ۱. زمینه ۲. حکمرانی ۳. قابلیت مشاهده ۴. بهبود مستمر.

OpenAI نیز در مطلبی که در تاریخ ۲۵ ژوئن ۲۰۲۶ منتشر کرد، توضیح داد که نحوه استفاده از عامل‌ها از پرسش‌های تک‌باره به سمت واگذاری کارهای طولانی‌مدت تغییر می‌کند. هرچه زمان کار طولانی‌تر شود، اهمیت اعتبارسنجی نتایج میانی، محدودیت‌های مجوز و مراحل واگذاری به انسان در صورت شکست نیز بیشتر می‌شود.

امنیت یکی دیگر از چالش‌هایی است که عامل‌های شرکتی باید حل کنند. زمانی که عامل‌ها قادر به خواندن و نوشتن اسناد داخلی و سیستم‌های کاری شوند، توانایی استفاده از زمینه‌های لازم و خطر افشای اطلاعات حساس نیز افزایش می‌یابد.

تحقیق CI-Work مایکروسافت ریسرچ (Microsoft Research) نرخ نقض حریم خصوصی عامل‌های بزرگ‌زبان شرکتی (LLM) را بین ۱۵.۸ تا ۵۰.۹٪ و نرخ افشای اطلاعات را حداکثر ۲۶.۷٪ اعلام کرد. محققان نتیجه‌گیری کردند که تنها افزایش اندازه مدل یا عمق استنتاج نمی‌تواند مشکل افشای اطلاعات متناسب با زمینه را حل کند.

در صنعت، برخی بر این باورند که عامل‌هایی که از طریق صفحه‌نمایش و مرورگر کار می‌کنند، رویکردی گذرا برای اتصال به نرم‌افزارهای موجود هستند، در حالی که برخی دیگر معتقدند که عامل‌ها به‌طور مستقیم ابزارهای موجود را مانند انسان‌ها مدیریت خواهند کرد. هر دو دیدگاه در این نکته که برای ورود واقعی به بازار نیاز به کنترل دسترسی، نوارهای حفاظتی و اعتبارسنجی نتایج اجرا وجود دارد، توافق دارند.

در داخل شرکت‌ها نیز تلاش‌هایی برای ایجاد ساختارهای عملیاتی عامل‌ها در حال انجام است. سیستم داخلی AI کوین‌بیس (Coinbase) از ساختار هماهنگی زیرعامل‌ها و ایجاد کارهای خودکار در یک فضای ابری استفاده می‌کند و این طراحی سیستم، پایه‌ای برای تفکیک دامنه‌های اجرایی و مسئولیت‌ها در فرآیند انجام کارهای چند مرحله‌ای است.

در حوزه دارایی‌های مجازی، طراحی هویت، مجوزها و سیستم‌های حسابرسی برای عامل‌های هوش مصنوعی از اهمیت بیشتری نسبت به مزایای قیمت برخوردار است. با آغاز تحقیقات مشترک برای اعتبارسنجی هویت و دامنه‌های مجاز عامل‌های تجاری خودکار، اهمیت سیستم‌های کنترل با ورود عامل‌ها به کارهای شرکتی و زیرساخت‌های دارایی‌های دیجیتال افزایش می‌یابد.