OpenAI اقدام به مختلسازی تعدادی از حسابهای کاربران چینی کرد!
«اوپنایآی» اعلام کرده است که حسابی که اکنون غیر فعال شده و ریشه آن در چین بوده، از ChatGPT به منظور کمک به طراحی محتواهای تبلیغاتی و برنامههای پروژهای برای ابزاری مربوط به نظارت بر رسانههای اجتماعی استفاده میشده است.
برخی منابع اذعان دارند که این فعالیتها به طور ظاهری برای یک مشتری دولتی صورت گرفته است. این ابزار، که به عنوان یک «کاوشگر» معرفی شده، قادر بوده است تا محتوای خاص سیاسی، قومی یا مذهبی را که توسط اپراتور تنظیم شده، بر روی پلتفرمهایی نظیر ایکس، فیسبوک، اینستاگرام، ردیت، تیکتاک و یوتیوب دستکاری کند. با این حال، این شرکت اعلام نموده که نمیتواند به طور مستقل تأیید کند که آیا این ابزار در واقع توسط یک نهاد دولتی ذاتا چینی مورد استفاده قرار گرفته است یا خیر.
در اوایل سال جاری، «اوپنایآی» نیز اقدام به انجام تلاشهای مشابهی کرد.
علاوه بر این، این شرکت به مسدود کردن حسابی پرداخت که از ChatGPT برای طراحی پیشنهادی درباره ابزاری استفاده میکرد که به عنوان «مدل هشدار جریان ورودی پرخطر مرتبط با اویغورها» شناخته میشود و به پیگیری حرکات افراد مرتبط با منطقه اویغور کمک میکند. چین به مدت طولانی متهم به نقض حقوق بشر علیه مسلمانان اویغور در این سرزمین شده است.
از فوریه 2024، «اوپنایآی» شروع به انتشار گزارشهایی در این زمینه کرده و سعی در افزایش آگاهی نسبت به افرادی که به دولتها وابسته هستند و از مدلهای زبانی بزرگ برای اصلاح کدهای مخرب، طراحی کلاهبرداریهای فیشینگ و موارد دیگر بهره میبرند، داشته است. آخرین پست وبلاگی این شرکت، خلاصهای از تهدیدات قابل توجه و حسابهای بستهشده در سه ماه اخیر را ارائه میدهد.
این شرکت همچنین توسعهدهندگان چینیزبان، کرهای و روسی را که از ChatGPT برای اصلاح بدافزار استفاده میکردند شناسایی کرده و کل شبکههای فعال در کامبوج، میانمار و نیجریه را که با استفاده از این چتبات به کلاهبرداری از کاربران پرداخته بودند، برملا کرده است. بر اساس تخمینهای «اوپنایآی»، ChatGPT سه برابر بیشتر از آنکه برای ساخت کلاهبرداریها استفاده شود، در شناسایی آنها به کار گرفته میشود.
«اوپنایآی» اذعان دارد که در تابستان سال جاری، عملیاتهایی را در ایران، روسیه و چین مختل کرده که از ChatGPT برای تولید پستها، نظرها و ترویج تعارضات در چارچوب کمپینهای نفوذ آنلاین بهره میبردند. محتوای تولید شده توسط هوش مصنوعی در انواع مختلف رسانههای اجتماعی، چه در محلهای اصلی و چه به صورت جهانی، مورد استفاده قرار گرفته است.
