رهبران صنعت هشدار می‌دهند که عوامل هوش مصنوعی می‌توانند هک‌های میلیارد دلاری امروز را به 'پنی' تبدیل کنند

خلاصه سریع

• پنلیست‌ها اعتماد، توهمات و مسئولیت قانونی نامشخص را به عنوان بزرگ‌ترین موانع پذیرش عاملان هوش مصنوعی می‌بینند.
• عوامل هوش مصنوعی می‌توانند اصطکاک را در سیستم‌های غیرمتمرکز کاهش دهند در حالی که خطرات جدیدی در زمینه حریم خصوصی و امنیت معرفی می‌کنند.

عوامل هوش مصنوعی به عنوان پاسخی برای حذف اصطکاک موجود در ناوبری ارزهای دیجیتال و خدمات مالی نسل بعدی تبلیغ می‌شوند، اما رهبران صنعت هشدار می‌دهند که این عوامل می‌توانند همین کار را برای بازیگران بدی که به دنبال اهداف بعدی خود هستند، انجام دهند.

"ما طوری عمل می‌کنیم که گویی عوامل همیشه خوب هستند و فکر می‌کنم این یک نقص بسیار جدی در تقریباً همه چیزهای عامل‌محور امروز است،" رایان کرکلی، مدیرعامل شبکه تسویه جهانی، روز چهارشنبه در یک پنل که توسط استیو چونگ، مدیرعامل بلاک، در سمپوزیوم بلاک‌چین وایومینگ ۲۰۲۶ مدیریت می‌شد، گفت.

کرکلی گفت که عوامل هوش مصنوعی می‌توانند به هکرها اجازه دهند تا به شبکه‌های Wi-Fi، رمزهای عبور و کیف پول‌ها به مقیاسی که قبلاً غیرعملی بوده، نفوذ کنند.

"ما فکر می‌کنیم این هک‌های پل بد هستند،" کرکلی گفت. "اینها پنی هستند. هیچ چیز نیستند."

"قبلاً هک کردن یک فرد با ارزش ۲۰,۰۰۰ دلار بسیار دشوار بود، زیرا چرا باید تمام آن زمان را صرف یک نفر می‌کردید؟" او افزود. "اکنون می‌توانم یک عامل داشته باشم که به دنبال همه باشد."

بیل لابون، معاون عملیات فنی بنیاد Web3، با این نظر موافق بود و گفت که کارایی‌هایی که سیستم‌های غیرمتمرکز را آسان‌تر می‌کنند، دو طرفه هستند.

"این همچنین به این معنی است که برای افراد بد نیز اصطکاک کمتری وجود دارد،" لابون گفت. "برای افراد خوب، افراد بد و افراد بی‌طرف."

چه کسی عامل را کنترل می‌کند؟

پنلیست‌ها همچنین درباره اینکه کاربران باید چه مقدار اختیار به عوامل هوش مصنوعی خود واگذار کنند، بحث کردند.

فحمی سید، رئیس بنیاد میدنایت، استدلال کرد که عوامل نیاز به پارامترهای مشخصی دارند و نباید به اطلاعات شخصی و مالی کاربران دسترسی نامحدود داشته باشند.

"مفهوم دادن تمام آن قدرت به یک عامل برای دسترسی به اطلاعات کارت اعتباری من، امنیت شخصی من، اطلاعات تأمین اجتماعی من، تمام اطلاعات شخصی من، و همچنین دسترسی به تمام حساب‌های مختلف من، یک مفهوم ترسناک است بدون اینکه پارامترهایی تعیین شود،" سید گفت.

کرکلی تعیین اختیار یک عامل را یکی از مشکلات آسان‌تر برای حل می‌داند و اضافه می‌کند که تأمین امنیت سیستم زیرین نگرانی بسیار بزرگ‌تری است.

"آیا ما در حال ایجاد یک وکتور حمله نیستیم که یک عامل می‌تواند تحت کنترل قرار گیرد و یک کیف پول کامل را خالی کند؟" کرکلی گفت.

لابون همچنین نگرانی‌هایی در مورد حریم خصوصی مطرح کرد و گفت که حتی با سیستم‌هایی که برای حفظ حریم خصوصی تراکنش‌ها طراحی شده‌اند، نشت‌های متادیتا می‌توانند به وسیله هوش مصنوعی برای کنار هم قرار دادن اطلاعاتی که کاربران فکر می‌کردند امن است، استفاده شوند.

"این واقعاً چیزی است که من نگران آن هستم: این نشت‌های متادیتا که مردم فکر می‌کنند خصوصی هستند زیرا از یک زنجیره خصوصی استفاده می‌کنند،" لابون گفت.

اعتماد و پذیرش

سپس مسئله اعتماد وجود دارد که پنلیست‌ها عمدتاً بر این باور بودند که یکی از بزرگ‌ترین موانع پذیرش عمومی عوامل هوش مصنوعی است.

لابون به تمایل مدل‌های زبانی بزرگ به توهم زایی اشاره کرد و این را دلیلی برای این دانست که اکثر مردم احساس راحتی نمی‌کنند که کنترل مالی خود را به یک عامل بسپارند.

"مدل‌های زبانی من هنوز گاهی اوقات توهم می‌زنند،" لابون گفت. "من نمی‌خواهم 401k خود را به دست آن بسپارم."

ریچارد شورتن، بنیان‌گذار مشاوران سرمایه‌گذاری سیلورماین، به طور مشابه گفت که فناوری هوش مصنوعی عامل‌محور "بیشتر و سریع‌تر" از آنچه مردم قادر به پردازش آن بوده‌اند، پیش رفته است.

"سؤال این است که چگونه از اعتماد عبور کنیم،" شورتن گفت. "این به نوعی تبدیل کردن آن ابزار، آن قابلیت، به چیزی است که من اعتماد دارم تا آن را بر روی بخش‌هایی از کسب‌وکار یا زندگی‌ام رها کنم."

کرکلی گفت که مقررات می‌تواند مانع دیگری باشد، به ویژه در مورد اینکه چه کسی مسئولیت را بر عهده می‌گیرد زمانی که عوامل خودکار اشتباه می‌کنند یا حتی قانون را نقض می‌کنند.

"اگر عامل شما کاری غیرقانونی انجام دهد، یا کاری انجام دهد که پولی را خرج کند که شما نمی‌توانید داشته باشید، چگونه می‌توانید آن را پس بگیرید؟ تصمیم‌گیرنده نهایی کجاست؟" کرکلی گفت. "همه چیز به این بستگی دارد که در کجا واقعاً مسئولیت قانونی وجود دارد؟"