انتروپیک، روش واترمارک متنی کلود را منتشر کرد

انتروپیک (Anthropic) روش قرار دادن واترمارک غیرقابل مشاهده برای انسان در متون تولید شده توسط کلود (Claude) را منتشر کرد. این اقدام به عنوان پاسخی به الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا (EU) انجام شده است، اما در میان کاربران نگرانی‌هایی وجود دارد که آثار ترجمه، ویرایش و کد نیز ممکن است نشانه‌های "پردازش هوش مصنوعی" را به همراه داشته باشد.

انتروپیک در بیانیه‌ای که در تاریخ 15 به وقت کره جنوبی منتشر کرد، اعلام کرد که واترمارک متنی کلود بر اساس رویکرد SynthID-Text گوگل دیپ مایند (Google DeepMind) طراحی شده است. این شرکت توضیح داد که واترمارک تأثیر قابل توجهی بر کیفیت یا محتوای خروجی ندارد و همچنین توکن‌های اضافی تولید نمی‌کند، بنابراین هزینه‌ها نیز افزایش نمی‌یابد.

روش کار به استفاده از احتمال انتخاب کلمات بستگی دارد. مدل‌های زبان بزرگ هنگام تولید جملات، گزینه‌های کلمات بعدی را انتخاب می‌کنند و زمانی که چند گزینه با تفاوت معنایی کم وجود دارد، واترمارک معیارهای انتخاب را تنظیم کرده و الگوهای آماری را باقی می‌گذارد. خواننده این را متوجه نمی‌شود، اما سیستم‌های تشخیص دارای کلید می‌توانند با تحلیل ترتیب جملات احتمال دخالت کلود را محاسبه کنند.

انتروپیک اعلام کرد که این علامت به شناسایی افراد، سازمان‌ها یا محتوای مکالمات خاص نمی‌پردازد. آنچه واترمارک نشان می‌دهد، "احتمال دخالت کلود در پردازش متن" است و نه اثبات اینکه نویسنده اصلی کیست. این شرکت همچنین قصد دارد API تشخیص واترمارک را ارائه دهد.

این اقدام با قانون هوش مصنوعی اتحادیه اروپا مرتبط است. کمیسیون اروپا در دستورالعملی که در تاریخ 20 ژوئیه منتشر کرد، اعلام کرد که الزامات شفافیت ماده 50 قانون هوش مصنوعی از 2 اوت 2026 به اجرا در می‌آید. این ماده نیاز به نشانه‌گذاری قابل خواندن توسط ماشین برای خروجی‌های صوتی، تصویری، ویدیویی و متنی تولید شده توسط هوش مصنوعی دارد.

SynthID تکنولوژی واترمارک‌گذاری است که نشانه‌هایی غیرقابل شناسایی برای انسان در محصولات تولید شده توسط هوش مصنوعی قرار می‌دهد و سیستم‌های تشخیص پس از تولید برای شناسایی آن طراحی شده‌اند. در متن، این روش به جای پنهان کردن کاراکترهای جداگانه در داخل جملات، الگوهایی را در فرآیند انتخاب توکن‌ها قرار می‌دهد. به همین دلیل، برای خواننده متن، جملات تقریباً غیرقابل تشخیص از جملات عادی به نظر می‌رسند.

گوگل دیپ مایند توضیح داده است که SynthID تکنیکی است که در فرآیند تولید متن، احتمال توکن‌ها را تنظیم می‌کند تا واترمارک را اضافه کند. OpenAI نیز در به‌روزرسانی 19 مه خود در مورد نشانه‌گذاری منابع محتوا، واترمارک‌گذاری مبتنی بر C2PA و SynthID گوگل را به تصاویر اعمال کرده و در 31 ژوئیه آن را به صوت گسترش داده است. روند گسترش سیستم‌های نشانه‌گذاری منابع توسط شرکت‌های بزرگ هوش مصنوعی تأیید شده است.

در گزارش قبلی ما نیز تأیید شده است که متون تولید شده توسط کلود شامل واترمارک داخلی هستند و فایل‌های پشتیبانی دارای متادیتای منبع به صورت امضای دیجیتال هستند. روش C2PA که به فایل‌ها پیوست می‌شود، به ثبت منبع در متادیتای خروجی نزدیک‌تر است و واترمارک متنی به الگوهای انتخاب محتوای خود به عنوان موضوع تحلیل می‌پردازد.

واکنش‌ها متفاوت بوده است. طرفداران تقویت شفافیت بر این باورند که به یک دستگاه فنی نیاز است که محصولات تولید شده توسط هوش مصنوعی را از آثار انسانی متمایز کند. این منطق وجود دارد که در شرایطی که محصولات هوش مصنوعی با جستجو، آموزش، اسناد کاری و آثار خلاقانه ترکیب می‌شوند، عدم وجود سیستم نشانه‌گذاری منابع می‌تواند هزینه‌های تأیید را افزایش دهد.

طرف مقابل نگران است که واترمارک نتواند در عمل "نوشتن" و "کمک" را از یکدیگر متمایز کند. Business Insider گزارش داده است که برخی از کاربران کلود به دلیل وجود واترمارک، اشتراک خود را لغو کرده‌اند. کاربران به این نکته اشاره کرده‌اند که حتی در مواردی که هوش مصنوعی تنها بخشی از کارهای انسانی مانند نوشتن کد، ترجمه، ویرایش و سازماندهی پیش‌نویس را انجام داده باشد، ممکن است نشانه‌ای باقی بماند.

انتروپیک توضیح داد که در این موارد نیز واترمارک حق نشر یا مالکیت را تغییر نمی‌دهد. تشخیص واترمارک تنها نشانه‌ای است که احتمال دخالت کلود در پردازش متن را نشان می‌دهد و به نتیجه‌گیری در مورد اینکه کل سند توسط کلود نوشته شده است، منجر نمی‌شود. در محل کار، این نکته مورد توجه قرار گرفته است که نتایج تشخیص باید همراه با تاریخچه نوشتن سند تفسیر شوند.

محدودیت‌های فنی نیز وجود دارد. انتروپیک اعلام کرد که در نمونه‌های کوتاه یا جملات مبتنی بر واقعیت، مانند ویرایش، جایی که گزینه‌های کلمات برای مدل محدود است، تشخیص ممکن است به خوبی عمل نکند. همچنین به این نکته اشاره کرد که بازنویسی کامل می‌تواند واترمارک را تضعیف یا حذف کند.

این بدان معناست که واترمارک یک ابزار کمکی برای تأیید منبع است و نه یک ابزار قضاوت مستقل. در خروجی‌هایی مانند متون طولانی که گزینه‌های مدل زیاد است، الگوها به راحتی باقی می‌مانند، اما در متون با اعداد، نام‌های خاص و جملات قالبی، سیگنال‌ها ممکن است ضعیف شوند. در صورتی که نتایج تشخیص به عنوان مبنای مستقیم برای مجازات یا قضاوت حق نشر استفاده شود، احتمال بروز اختلاف وجود دارد.

این موضوع بر کاربران داخلی نیز تأثیر زیادی دارد. در مواردی که از کلود برای ترجمه، ویرایش، کمک به توسعه و نوشتن اسناد شرکتی استفاده می‌شود، ممکن است نیاز باشد توضیح داده شود که آیا خروجی نهایی یک محصول تولید شده توسط هوش مصنوعی است یا یک کار کمکی هوش مصنوعی. به ویژه در سازمان‌هایی مانند مدارس، رسانه‌ها و بخش‌های امنیتی شرکت‌ها که به تاریخچه نوشتن توجه می‌کنند، باید معیارهای تشخیص و فرآیندهای توضیحی جداگانه‌ای تعیین شود.

این موضوع به مسأله تعادل بین شناسایی محصولات تولید شده توسط هوش مصنوعی و اعتماد کاربران محدود می‌شود. الزامات شفافیت تقویت شده است، اما اینکه واترمارک چگونه در عمل نوشتن و کمک را از یکدیگر متمایز می‌کند، همچنان یک چالش باقی مانده است. انتروپیک قصد دارد API تشخیص واترمارک را ارائه دهد و الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا از 2 اوت 2026 به اجرا درآمده است.