تویچ به طور پیش‌فرض از محتوای زنده برای آموزش هوش مصنوعی استفاده می‌کند: چرا یک "دکمه خروج" نتوانسته است مشکل اعتماد را حل کند

خبرگزاری بی‌جیه:

تویچ به تازگی یک تنظیم جدید برای حساب کاربری اضافه کرده است که به استریمرها اجازه می‌دهد از آموزش مدل‌های هوش مصنوعی تولیدی آمازون خارج شوند. مشکل اینجاست که این تنظیم به طور پیش‌فرض در حالت مجاز قرار دارد و استریمرها باید به طور فعال آن را غیرفعال کنند. توضیحات کمک تویچ نشان می‌دهد که دامنه محتوایی که ممکن است برای بهبود مدل‌های آینده استفاده شود، تنها شامل تصاویر زنده نمی‌شود، بلکه ممکن است شامل چت زنده، ضبط‌ها، کلیپ‌ها، بخش‌های منتخب و همچنین متن و تصاویر موجود در کانال باشد. برای بسیاری از خالقانی که دارایی‌های اصلی آن‌ها صدا، تصویر و تعامل است، این تنها یک ترجیح محصول نیست، بلکه مرزهای استفاده از محتوا تغییر کرده است.

اختلافات در این مورد پس از ۱۲ اوت به سرعت گسترش یافت. پشتیبانی تویچ در ابتدا گزینه خروج را از طریق پلتفرم‌های اجتماعی معرفی کرد و سپس تأکید کرد که "تویچ خود مدل‌ها را آموزش نمی‌دهد"، بلکه از آموزش مدل‌های هوش مصنوعی تولیدی آمازون خارج می‌شود. این بیان ممکن است از نظر سازمانی معتبر باشد، اما نگرانی اصلی خالقان را تغییر نمی‌دهد: آیا محتوای موجود در پلتفرم به آموزش مدل‌های متعلق به همان شرکت مادر وارد می‌شود و آیا حالت پیش‌فرض نمایانگر رضایت واقعی است.

توضیحات مسئول محصول تویچ در مورد "اگر به حالت فعال تغییر کند، ممکن است هیچ‌کس تمایل به پیوستن نداشته باشد"، به طور بیشتری واکنش‌ها را تشدید کرد. این به طور ناخواسته ارزش گزینه پیش‌فرض را نشان می‌دهد: پلتفرم نمی‌داند که کاربران ممکن است رد کنند، بلکه از این واقعیت استفاده می‌کند که کاربران ممکن است تنظیمات را بررسی نکنند، تغییرات را درک نکنند یا نتوانند به موقع اقدام کنند و به این ترتیب یک مجموعه بزرگتر از داده‌های آموزشی را به دست می‌آورد. حتی اگر کاربران دکمه خروج داشته باشند، انتخاب ساختار هنوز هم تأثیر قابل توجهی بر نتیجه نهایی خواهد داشت.

باید به دقت بین بخش‌های تأیید شده و هنوز نامشخص تمایز قائل شد. آنچه تأیید شده این است که تویچ تنظیمی برای خروج از آموزش هوش مصنوعی تولیدی آمازون ارائه داده و محتوای ممکن را فهرست کرده است؛ آنچه هنوز نامشخص است این است که محتوای تاریخی برای کدام مدل‌های خاص استفاده شده است، خروج چه زمانی به طور کامل مؤثر خواهد بود، آیا داده‌هایی که قبلاً وارد فرآیند آموزش شده‌اند می‌توانند حذف شوند و محتوایی که استریمرها در چت‌های دیگر کانال‌ها تولید می‌کنند چگونه پردازش می‌شود. توضیحات عمومی پلتفرم به همه سوالات مربوط به چرخه حیات داده‌ها پاسخ نمی‌دهد.

اجازه دادن به "رضایت" به یک وظیفه‌ای تبدیل شده که کاربران باید آن را کشف کنند

پلتفرم‌های دیجیتال اغلب از گزینه‌های پیش‌فرض برای مدیریت تنظیمات پیچیده استفاده می‌کنند، زیرا غیرممکن است که از کاربران بخواهند هر جزئیات فنی را به طور جداگانه تصمیم‌گیری کنند. اما وقتی هدف از "ارائه خدمات زنده" به "آموزش مدل‌هایی که می‌توانند متن، تصویر، صدا یا ویدیو تولید کنند" گسترش می‌یابد، هدف استفاده به وضوح تغییر کرده است. استریمرها محتوا را برای تعامل با بینندگان و کسب درآمد بارگذاری می‌کنند، که به معنای رضایت طبیعی برای استفاده از محتوا در آموزش یک نوع محصول دیگر نیست.

مکانیسم خروج به نظر می‌رسد که کنترل را حفظ کرده است، اما در واقع تمام هزینه‌های کشف، درک و اقدام را به کاربران واگذار کرده است. استریمرها باید بدانند که سیاست تغییر کرده است، صفحه تنظیمات را پیدا کنند، معنی سوئیچ را درک کنند و سپس تصمیم بگیرند که آیا آن را خاموش کنند یا نه. کاربرانی که به حساب‌های رسمی توجه نمی‌کنند، در دوره‌های استراحت هستند یا زبان متفاوتی دارند، ممکن است به مدت طولانی حالت پیش‌فرض را حفظ کنند. رضایت واقعی باید به پلتفرم اجازه دهد که ابتدا هدف را توضیح دهد و سپس کاربر به وضوح انتخاب کند، نه اینکه سکوت را به عنوان مجوز تفسیر کند.

محتوای زنده همچنین دارای پیچیدگی‌هایی است که متن‌های وب معمولی ندارند. در یک پخش زنده ممکن است همزمان استریمر، مهمانان متصل، صداهای بازی، موسیقی، چت بینندگان و مواد شخص ثالث وجود داشته باشد. استریمر می‌تواند تنظیمات حساب خود را کنترل کند، اما ممکن است حق نمایندگی از همه شرکت‌کنندگان برای مجوز آموزش را نداشته باشد. حتی اگر شرایط پلتفرم حق استفاده گسترده‌ای را اعطا کند، قابلیت انطباق از نظر قانونی به معنای منطقی بودن در روابط خالقان نیست.

برای استریمرهای حرفه‌ای، صدا، چهره، عادات زبانی و سبک محتوا خود به خود مواد تولید هستند. اگر مدل در آینده بتواند عبارات مشابه را تقلید کند یا به طور خودکار بخش‌های زنده را تولید کند، نگرانی خالقان تنها به حریم خصوصی محدود نمی‌شود، بلکه شامل جایگزینی و حق مذاکره نیز می‌شود. پلتفرم داده‌های آموزشی را به دست می‌آورد، شرکت مادر توانایی مدل را به دست می‌آورد، اما آیا خالقان اصلی جبران، نام‌گذاری یا گزارش استفاده دریافت می‌کنند، در حال حاضر مشخص نیست.

اگر پلتفرم بخواهد اعتماد را بازسازی کند، نیاز به چیزی بیشتر از حفظ یک سوئیچ دارد

گام اول باید ارائه اطلاعیه‌های مستقل و قابل درک باشد. تغییرات مهم در هدف نباید فقط در تنظیمات حساب یا حساب‌های پشتیبانی پنهان شود، بلکه باید در پس‌زمینه خالقان به وضوح نمایش داده شود، توضیح دهد که کدام محتوا شامل می‌شود، به کدام مدل‌ها خدمت می‌کند، از چه زمانی شروع می‌شود و چگونه می‌توان آن را لغو کرد. اطلاعیه همچنین باید بین محتوای آینده و محتوای تاریخی تمایز قائل شود تا از این که کاربران تصور کنند که خاموش کردن سوئیچ می‌تواند به طور خودکار داده‌های گذشته را پاک کند، جلوگیری کند.

گام دوم ایجاد مرزهای اجرایی قابل تأیید است. پس از خاموش کردن، پلتفرم باید توضیح دهد که داده‌ها در مراحل جمع‌آوری، پیش‌پردازش، مجموعه آموزشی و ارزیابی مدل چگونه متوقف می‌شوند. اگر برخی داده‌ها وارد فرآیند آموزشی غیرقابل برگشت شده‌اند، باید به وضوح اطلاع‌رسانی شود، نه اینکه با عبارت کلی "دیگر در آینده استفاده نخواهد شد" محدودیت‌های فنی را پنهان کند. برای خالقان حرفه‌ای، بهتر است سوابق وضعیت و زمان مؤثر ارائه شود.

گام سوم بحث در مورد تبادل ارزش است. اگر پلتفرم معتقد باشد که محتوای زنده برای مدل ارزش تجاری دارد، دشوار است که همزمان بر این تأکید کند که خالقان نیازی به دریافت هیچ گونه بازگشتی ندارند. مکانیزم‌های ممکن شامل پیوستن به برنامه‌های فعال، تقسیم درآمد، محدود کردن استفاده از مدل یا استفاده فقط از محتوای مجوز گرفته شده است. همه آموزش‌ها نباید هزینه داشته باشند، اما هر چه به استفاده از هویت و سبک خالقان نزدیک‌تر باشد، نیاز به مجوز و جبران قوی‌تری دارد.

این اختلاف نشان می‌دهد که مسئله داده‌های آموزشی هوش مصنوعی از جمع‌آوری وب به داخل پلتفرم‌های بسته منتقل شده است. پلتفرم دارای مزایای سرور، حساب و شرایط است، اما هنوز به تولید مداوم محتوا توسط خالقان وابسته است. اجازه دادن به حالت پیش‌فرض می‌تواند در کوتاه‌مدت حجم داده‌ها را افزایش دهد، اما در بلندمدت ممکن است کاربران هر به‌روزرسانی محصول را به عنوان تصرف داده‌های بالقوه در نظر بگیرند. آنچه تویچ واقعاً باید حل کند این نیست که چگونه بیشتر مردم را وادار به فراموش کردن دکمه خاموش کند، بلکه این است که چگونه ثابت کند که پلتفرم هنوز خالقان را به عنوان شرکای خود می‌داند، نه به عنوان یک دسته از مواد آموزشی که به طور پیش‌فرض قابل استفاده هستند.