واترمارک نامرئی ChatGPT در اروپا فعال شد؛ آیا می‌توان آن را حذف کرد؟
قوانین شفافیت قانون هوش مصنوعی اتحادیه اروپا که از دوم آگوست (یازدهم مرداد) لازم‌الاجرا شد، شرکت‌های هوش مصنوعی را ملزم می‌کند محتوای تولید شده توسط هوش مصنوعی را به گونه‌ای علامت‌گذاری کنند که سایر سیستم‌ها بتوانند آن را شناسایی کنند.
OpenAI اعلام کرد که این واترمارک طی هفته‌های آینده برای کاربران واجد شرایط ChatGPT و Codex در تمام طرح‌ها، اما فقط در اتحادیه اروپا، فعال خواهد شد. توسعه‌دهندگانی که از API OpenAI در هر کجای دنیا استفاده می‌کنند، می‌توانند از امروز آن را برای مدل‌های منتخب فعال کنند؛ این قابلیت به طور پیش‌فرض غیرفعال است. OpenAI اعلام کرد که واترمارک متن را در زمان راه‌اندازی به عنوان پیش‌فرض جهانی قرار نمی‌دهد.
این واترمارک نمادی واقعی نیست، اما با شکل‌دهی نامحسوس کلمات مدل، الگویی را ایجاد می‌کند که خوانندگان نمی‌توانند آن را ببینند، اما یک آشکارساز می‌تواند آن را تشخیص دهد. از آنجا که این واترمارک در خود کلمات وجود دارد، هنگام کپی و پیست کردن متن، همراه آن حرکت می‌کند. OpenAI اعلام کرد که این واترمارک کاربر را شناسایی نمی‌کند و با روشن بودن آن، هیچ تغییر معناداری در عملکرد مدل‌هایش مشاهده نکرده است.
OpenAI همچنین در کنار این اطلاعیه، یک گزارش فنی برای روش خود به نام textGrain منتشر کرد. این گزارش که با همکاری محققان دانشگاه پنسیلوانیا و ییل نوشته شده است، مثالی از استفاده از یک کلید مخفی برای مرتب‌سازی پیش‌بینی‌های کلمه بعدی برای تکمیل جمله را شرح می‌دهد. صدها مورد از این نشانه‌ها را به هم اضافه کنید و آشکارساز می‌تواند محتوای تولید شده توسط هوش مصنوعی را تنها با استفاده از متن و کلید تشخیص دهد.
آیا می‌توان واترمارک را با ویرایش حذف کرد؟ آزمایش‌های OpenAI نشان می‌دهد که بله. در یک آزمایش، جایگزینی ۱۰٪ از کلمات با مترادف‌ها، تشخیص را از حدود ۹۲٪ به ۶۶٪ کاهش داد. این شرکت همچنین اعلام کرد که تشخیص متون کوتاه، پاسخ‌های ریاضی و متن ترجمه شده دشوارتر است.
این شرکت اعلام کرد: «این محدودیت‌ها در تصمیم ما برای ارائه دسترسی اولیه به آشکارساز فقط به محققان و سازمان‌های متخصص مورد تأیید، که می‌توانند به ما در ارزیابی قابلیت اطمینان و استفاده‌های مسئولانه کمک کنند، نقش دارد.»
OpenAI همچنین هشدار داد که نبود واترمارک «تالیف انسانی را ثابت نمی‌کند.» متن می‌تواند خیلی کوتاه یا خیلی ویرایش شده باشد، یا می‌تواند از هوش مصنوعی شرکت دیگری باشد.
این شرکت اعلام کرد: «واترمارک‌ها می‌توانند نشان دهند که یک سیستم OpenAI بخشی از یک متن را تولید یا پردازش کرده است، اما نمی‌توانند نشان دهند که چقدر قضاوت، ویرایش یا خلاقیت انسانی در آن به کار رفته است.»
بنا بر گزارش Techcrunch، این اعلامیه دو ماه پس از آن منتشر می‌شود که شرکت Anthropic اعلام کرد متن تولید شده توسط کلود را واترمارک خواهد کرد، اقدامی که در سراسر جهان اعمال می‌شود. این تصمیم با واکنش منفی برخی از کاربران کلود مواجه شد که استدلال می‌کردند آنها «دستورالعمل‌ها، زمینه و تصمیمات» را ارائه داده‌اند در حالی که کلود فقط «ابزار» بوده است.
وال استریت ژورنال در سال ۲۰۲۴ گزارش داد که OpenAI پیش از این یک واترمارک متنی ساخته بود، اما انتشار آن را به تعویق انداخت، تا حدودی به این دلیل که نگران بودند کاربران به رقبایی که واترمارک ندارند، روی بیاورند.
شرکت‌هایی مانند آنتروپیک، گوگل، متا، مایکروسافت و اوپن‌ای‌آی از جمله شرکت‌هایی هستند که متعهد به پیروی از آیین‌نامه اتحادیه اروپا در مورد محتوای تولید شده توسط هوش مصنوعی شده‌اند.
