رسانه‌های خارجی: سه پیشگام AI مخالف محدودیت‌های کامل مدل‌های باز هستند

با افزایش بحث‌های امنیتی در زمینه AI، رسانه‌های خارجی گزارش می‌دهند که جفری هینتون، لی فی فی و اندرو انگ اخیراً در کنفرانس Ai4 در لاس وگاس به موضوع مدل‌های باز پرداخته‌اند. این سه نفر نظرات کاملاً یکسانی ندارند، اما همگی مخالف تسلط چند شرکت بزرگ فناوری بر روند توسعه AI هستند.

مخالفت با تسلط چند شرکت بر ورودی‌ها

این مقاله بیان می‌کند که این سه محقق نگران هستند که اگر AI تحت کنترل چند شرکت قرار گیرد، فضای نوآوری ممکن است محدود شود. انگ به صراحت گفت که او نمی‌خواهد در زمینه AI "نگهبانانی" وجود داشته باشند، زیرا این امر نحوه دسترسی توسعه‌دهندگان، شرکت‌ها و عموم مردم به AI را محدود می‌کند.

او معتقد است که شرکت‌های بزرگ به طور طبیعی از مزایای خود محافظت می‌کنند و ممکن است بر شکل‌گیری قوانین صنعت تأثیر بگذارند. نتیجه ممکن است این باشد که تنها شرکت‌هایی که از نظر مالی قوی‌ترین و از نظر محاسباتی بهترین هستند، قادر به ساخت سیستم‌های پیشرفته باقی بمانند. انگ راه‌حلی که ارائه می‌دهد این است که سعی شود چندین ارائه‌دهنده مدل در کنار هم وجود داشته باشند و مدل‌ها و شرکت‌ها در بازار رقابت کنند، نه اینکه چند پلتفرم محدود برتری داشته باشند.

هینتون تفکیک بین کد منبع باز و وزن‌های باز را انجام می‌دهد

با این حال، هینتون "نرم‌افزار منبع باز" و "مدل‌های وزن باز" را یکسان نمی‌داند. به گفته او، نرم‌افزار منبع باز کد را به صورت عمومی منتشر می‌کند، که به دیگران اجازه می‌دهد نقص‌ها را بررسی کرده و اصلاحاتی پیشنهاد دهند؛ در حالی که وزن‌های باز به معنای ارائه مستقیم پارامترهای مدل‌های بزرگ آموزش‌دیده به دیگران است که به طور قابل توجهی مانع توسعه مجدد را کاهش می‌دهد.

او بیان کرد که در گذشته مخالف وزن‌های باز بوده است، زیرا این امر به برخی افراد اجازه می‌دهد تا مدل‌های پایه را با هزینه کمتر به ابزارهایی برای حملات سایبری تبدیل کنند. اما او همچنین اعتراف کرد که این بحث در واقعیت به سختی قابل بازگشت است. با ادامه ظهور مدل‌های وزن باز، مانع هزینه‌های آموزش به وضوح کاهش یافته است.

با این حال، هینتون به توقف توسعه AI تأکید نکرد. این مقاله می‌گوید که او هنوز معتقد است AI می‌تواند بهره‌وری را افزایش دهد و در زمینه‌های آموزش و بهداشت و درمان بهبود ایجاد کند، اما نمی‌توان به همین دلیل خطرات بالقوه را نادیده گرفت. او همچنین بیان کرد که ناعادلانه است که همه کسانی که نگران خطرات AI هستند را به عنوان "ترس‌افکنان" دسته‌بندی کنیم.

لی فی فی بر لزوم باز بودن لایه‌ای تأکید می‌کند

برخلاف تأکید انگ بر رقابت باز و تأکید هینتون بر خطرات امنیتی، لی فی فی مخالف ساده‌سازی بحث به دو گزینه "کاملاً باز" یا "کاملاً بسته" است. او معتقد است که سیستم‌های نرم‌افزاری و تحقیقاتی پیچیده به طور طبیعی دارای سطوح مختلفی هستند و مراحل مختلف می‌توانند از درجات مختلفی از باز بودن استفاده کنند.

او به عنوان مثال به فیزیک هسته‌ای اشاره کرد و گفت که مقالات علمی می‌توانند به صورت عمومی منتشر شوند، اما مواد اورانیوم تحت نظارت شدید قرار دارند و مراحل آزمایش در بین این دو قرار دارد. او بر این اساس معتقد است که AI نیز می‌تواند از رویکرد مشابهی پیروی کند: در سطح کشفیات علمی، آموزش و همکاری‌های بین‌المللی باید مقداری باز باشد، در حالی که به شرکت‌ها اجازه داده می‌شود سیستم‌های بسته و مدل‌های تجاری خود را حفظ کنند.

این مقاله همچنین به نقل از لی فی فی اشاره می‌کند که برنامه ژنوم انسانی نشان می‌دهد که پلتفرم‌های دانش پایه‌ای که از همکاری بین مؤسسات عمومی و بخش خصوصی تشکیل شده‌اند، می‌توانند همزمان از پیشرفت‌های علمی، سودآوری شرکت‌ها و کاربردهای اجتماعی حمایت کنند. او معتقد است که زیرساخت‌های AI نیز باید به این سمت توسعه یابند و نه اینکه در بحث‌های دوگانه گرفتار شوند.

هر سه نفر بر لزوم نظارت تأکید دارند

اگرچه سه نفر در قضاوت درباره مرزهای مدل‌های باز متفاوت هستند، اما در مورد مسائل نظارتی نزدیک به هم هستند. این مقاله می‌گوید که آن‌ها همگی معتقدند AI هنوز به مقداری از قوانین و مقررات نیاز دارد تا به سمت توسعه‌ای که به نفع جامعه باشد، پیش برود.

هینتون بیان کرد که نمی‌توان توسعه AI را به طور کامل به کارآفرینان واگذار کرد. بحث‌های مربوط به مدل‌های باز اکنون تنها یک بحث فنی نیست، بلکه به توزیع قدرت در صنعت، رقابت بین‌المللی و جهت‌گیری مدیریت امنیت AI مربوط می‌شود.