از مدل تا زنجیره: عملیات خودکار AI در حال بازسازی منطق ریسک‌های رمزنگاری است

نماینده AI خارج از کنترل: ریسک‌های رمزنگاری در حال تبدیل شدن به بحران کنترل مالی است.

نویسنده: شان استین اسمیت، فوربس

ترجمه: AididiaoJP، اخبار پیش‌بینی

در سال‌های اخیر، بحث‌ها درباره ریسک‌های AI به سرعت در حال تغییر است. اکنون شرکت‌ها با مسائلی مواجه هستند که دیگر به اشتباهات کوچک مانند گفتمان‌های نادرست ربات‌های چت یا چسباندن اطلاعات حساس به ابزارهای عمومی محدود نمی‌شود. تغییر واقعی در این است که نمایندگان AI اکنون توانایی اقدام مستقیم را دارند - آن‌ها می‌توانند سیستم‌های خارجی را فراخوانی کنند، کد بنویسند و حتی در شرایطی که تقریباً هیچ‌کس نظارت نمی‌کند، یک مجموعه پیچیده از وظایف چند مرحله‌ای را به‌طور مستقل پیش ببرند.

این تغییر، چالش‌های بسیار جدی‌ای برای بازارهای مالی، به‌ویژه بازارهای رمزنگاری به همراه دارد. دارایی‌های رمزنگاری ۲۴ ساعته در حال معامله هستند، قراردادهای هوشمند به‌طور خودکار اجرا می‌شوند و معاملات در زنجیره بلوک به محض تأیید، معمولاً غیرقابل برگشت هستند. به محض اینکه این نمایندگان AI به کیف پول‌ها، صرافی‌ها، پروتکل‌های DeFi یا سیستم‌های پرداخت متصل شوند، حتی یک نقص کوچک در مجوزها می‌تواند به‌طور مستقیم به از دست دادن غیرقابل جبران سرمایه منجر شود. بنابراین، ریسک‌های نماینده‌ای AI دیگر فقط به حوزه IT محدود نمی‌شود، بلکه به موضوع اصلی حاکمیت شرکتی و کنترل دارایی‌های رمزنگاری تبدیل شده است.

مکانیزم‌های رمزنگاری، قدرت عمل خودکار AI را تشدید می‌کنند

یک حادثه اخیر که توسط مؤسسه امنیت AI بریتانیا فاش شد، خطر واقعی این «خودمختاری» را به نمایش گذاشت. در یک آزمایش ارزیابی امنیت سایبری، نماینده AI اقداماتی مداوم و کاملاً بدون مجوز علیه افراد و سازمان‌های واقعی انجام داد. اگرچه در نهایت این اقدامات به‌موقع متوقف شد، اما این کافی است تا ثابت کند: نمایندگان AI به‌طور کامل قادرند توانایی‌های برنامه‌ریزی، فراخوانی ابزار، اجرای پایدار و دسترسی خارجی را به‌طرز غیرمنتظره‌ای ترکیب کنند و حملات واقعی در دنیای واقعی را انجام دهند.

زمانی که دارایی‌های رمزنگاری درگیر شوند، ریسک مالی به‌طور نمایی افزایش می‌یابد. یک نماینده که به کلیدهای خصوصی یا کیف پول‌های متصل دسترسی دارد، به‌راحتی می‌تواند دارایی‌ها را منتقل کند، قراردادهای مخرب را امضا کند، وثیقه‌ها را مصادره کند و حتی با پروتکل‌های غیرمتمرکز به‌طور دلخواه تعامل کند. این کاملاً با انتقال‌های بانکی سنتی متفاوت است - هیچ خدمات مشتری وجود ندارد که بتوانید به‌سرعت درخواست مسدود کردن کنید، هیچ بانکی نمی‌تواند معامله را متوقف کند و هیچ «اصلاحی» وجود ندارد. به محض اینکه وجوه منتقل شوند، تقریباً معادل این است که در دریا غرق شوند.

بدتر از همه، بازار رمزنگاری هرگز تعطیل نمی‌شود. نمایندگان AI می‌توانند در نیمه‌شب، آخر هفته‌ها و زمانی که تمام کارکنان خواب هستند، به‌کار خود ادامه دهند. برنامه‌های معاملاتی یا تسویه‌حساب به‌راحتی می‌توانند در عرض چند دقیقه یک اشتباه کوچک قابل کنترل را به یک ضرر فاجعه‌بار تبدیل کنند. بنابراین، زمانی که شرکت‌ها ریسک‌های نماینده AI را ارزیابی می‌کنند، آنچه باید بیشتر به آن توجه کنند این است که این نماینده به کدام سیستم‌ها و دارایی‌ها دسترسی دارد، نه اینکه مدل چقدر هوشمند است. یک نماینده با توانایی متوسط اما با مجوزهای گسترده که می‌تواند به‌طور مستقیم با کیف پول‌ها کار کند، بسیار خطرناک‌تر از یک مدل قوی‌تر است که به‌طور محکم در یک محیط محدود قرار دارد. طراحی مجوزها به یک خط مرگ و زندگی تبدیل شده است که از انتخاب مدل مهم‌تر است.

کنترل داخلی باید به هر شکاف کیف پول و قرارداد هوشمند گسترش یابد

بسیاری از شرکت‌ها در واقع یک سری از روش‌های کنترل داخلی سنتی مانند تفکیک وظایف، بررسی مجوزها، بازرسی دسترسی و مدیریت تغییرات را ایجاد کرده‌اند. مشکل این است که این اصول باید بدون هیچ تخفیفی به هر نماینده AI که با سیستم‌های رمزنگاری تعامل دارد، اعمال شود.

هیچ نماینده‌ای نباید توانایی «یکجا» داشته باشد - مثلاً همزمان کیف پول ایجاد کند، آدرس‌های سفید را تغییر دهد، و انتقال را آغاز کند، بدون اینکه نیازی به مداخله انسانی باشد. معاملات با ریسک بالا باید به‌طور اجباری نیاز به تأیید واقعی داشته باشند و اطلاعاتی که تأییدکننده دریافت می‌کند باید واضح و کامل باشد: آدرس دریافت‌کننده، نوع دارایی، مبلغ، شبکه مربوطه، هزینه Gas و اینکه این معامله دقیقاً چه کاری قرار است انجام دهد. آن نوع یادآوری مبهم و خودکار «لطفاً عملیات سیستم را تأیید کنید» به هیچ وجه کنترل مؤثری نیست و فقط یک حس امنیت کاذب ایجاد می‌کند.

کلیدهای خصوصی و مجوزهای امضا به‌ویژه نیاز به حفاظت ویژه دارند. نباید به نماینده اجازه داده شود که به‌راحتی عبارت‌های یادآوری یا گواهی‌های امضا را بخواند. مکانیزم‌های چندامضایی، ماژول‌های امنیت سخت‌افزاری، محدودیت‌های هر معامله و تأخیر در واریز می‌توانند به‌طور مؤثری ریسک «یک نقص مورد سوءاستفاده قرار گیرد و کیف پول به‌طور ناگهانی خالی شود» را کاهش دهند. قبل از تعامل با قراردادهای هوشمند، باید ابتدا شبیه‌سازی اجرا شود و به‌طور دقیق بررسی شود، به‌ویژه زمانی که به مجوزهای نامحدود توکن یا قراردادهای ناشناخته مربوط می‌شود، باید بسیار محتاط بود.

شرکت‌ها همچنین باید یک ثبت کامل از عملیات ایجاد کنند - نماینده چه چیزی را دسترسی داشته، چه دستوری دریافت کرده، چه معاملاتی پیشنهاد کرده، کدام یک در نهایت موفق به ثبت در زنجیره شده و آیا شخص واقعی در تمام این عملیات نقش داشته است یا خیر. این سوابق برای پیگیری مسئولیت، بازرسی امنیتی، حفاظت از دارایی و حتی افشای مالی ضروری است. بدون ثبت، در صورت بروز مشکل، نمی‌توان هیچ توضیحی ارائه داد.

حادثه‌های AI+ رمزنگاری نیاز به اشتراک‌گذاری درس‌های صنعتی دارند

بنیاد لینوکس و اتحاد امنیت AI باز شده‌اند تا مکانیزم «اشتراک‌گذاری کشف‌های AI» (SAFE) را راه‌اندازی کنند، که هدف آن کمک به سازمان‌ها برای یادگیری از حوادث و خطرات واقعی امنیت AI در شرایط محرمانه است. شرکت‌های رمزنگاری، بانک‌ها، مؤسسات نگهداری، صرافی‌ها و مؤسسات حسابرسی باید به‌طور فعال در این نوع اشتراک‌گذاری اطلاعات شرکت کنند.

صنعت رمزنگاری به‌خوبی می‌داند که بررسی دقیق حملات هکری، سقوط پل‌های زنجیره‌ای، نشت کلیدها و آسیب‌پذیری‌های قراردادهای هوشمند چقدر ارزشمند است. و نماینده‌های AI ابعاد جدیدی به این مشکل قدیمی اضافه کرده‌اند - یک حادثه ممکن است همزمان شامل خود مدل، طراحی کلمات کلیدی، یکپارچه‌سازی ابزار، سیاست‌های دسترسی و در نهایت معاملات زنجیره‌ای باشد. بنابراین، گزارش‌های واقعی و مفید از حوادث باید تمام این سطوح را به‌طور کامل توضیح دهند، نه اینکه به‌طور مبهم بگویند «AI مشکلی پیدا کرده است».

هیئت‌مدیره اکنون باید به‌وضوح بپرسد: آیا نماینده‌های AI در حاکمیت کیف پول، برنامه‌های اضطراری امنیت شبکه و فرآیندهای تأیید به‌روزرسانی گنجانده شده‌اند؟ حسابرسان همچنین باید در نظر بگیرند که آیا عملیات نماینده‌های بدون مجوز ممکن است منجر به از دست دادن مستقیم دارایی، گزارش نادرست موجودی، بدهی‌های پنهان و حتی نقص‌های جدی در سیستم کنترل داخلی شود. تیم مالی نیز باید از قبل فکر کند: اگر یک معامله زنجیره‌ای مخرب یا ناموفق رخ دهد، چگونه باید شناسایی، ارزیابی و در صورت لزوم در صورت‌های مالی افشا شود.

البته، نمایندگان AI تنها ریسک ندارند. آن‌ها به‌طور کامل ممکن است کارایی انطباق رمزنگاری، تسویه‌حساب خودکار، شناسایی تقلب و مدیریت وجوه را به‌طور قابل توجهی افزایش دهند. این مزایا واقعی و قابل انتظار هستند. اما پیش‌نیاز این است که توانایی‌های خودکار باید با کنترل‌های کافی و قوی همراه باشد. در غیر این صورت، یک سهل‌انگاری کوچک در سطح کد می‌تواند به‌سرعت به یک انتقال زنجیره‌ای تبدیل شود که دیگر نمی‌توان آن را بازگرداند.

در دنیای رمزنگاری، مسئولیت باید قبل از اینکه نماینده واقعاً توانایی اقدام را به‌دست آورد، طراحی، گنجانده و آزمایش شود. چه شما یک مومن به رمزنگاری باشید یا یک طرفدار AI، باید به این نکته توجه کنید - زیرا وقتی کنترل از دست برود، عواقب معمولاً دائمی است.