گوگل جمینای برای نسل جوان «تهدیدآمیز» است

سازمان غیرانتفاعی «کامن سنس مدیا»، که بر روی حفاظت از کودکان در فضای دیجیتال تمرکز دارد، محصول هوش مصنوعی گوگل به نام «جمینای» را در تازه‌ترین ارزیابی خود برای کاربران زیر سن قانونی «پُرخطر» معرفی کرده است.

به نقل از ایتنا از تک‌کرانچ، این سازمان در گزارشی که در روز جمعه منتشر کرد، بیان کرد که اگرچه جمینای به صراحت به کودکان توضیح می‌دهد که تنها یک رایانه است و نه یک «دوست»، هنوز هم در جنبه‌های مختلف دیگر با مشکلات جدی روبرو است.

نگرانی‌های کلیدی چیست؟
کامن سنس مدیا تأکید کرده است که نسخه‌های جمینای برای «زیر ۱۳ سال» و «نوجوانان»، در واقع همان مدل‌های بزرگسال هستند که تنها با اضافه کردن چند لایه حفاظتی سطحی دستخوش تغییر شده‌اند. این نهاد معتقد است که محصولات هوش مصنوعی باید از ابتدا طراحی شوند و با توجه به نیازهای کودکان شکل بگیرند، نه اینکه به سادگی نسخه‌های ویرایش‌شده‌ای از مدل‌های بزرگسال باشند.

از جمله نگرانی‌های اصلی این گزارش، توانایی جمینای در تولید و اشتراک‌گذاری محتوای «نامناسب و ناامن» برای کودکان است. این محتوا می‌تواند شامل اطلاعات دقیقی درباره مسائل جنسی، مصرف مواد مخدر و الکل و ارائه توصیه‌های غیرحرفه‌ای و خطرناک در زمینه سلامت روان باشد؛ آنچه که برای کاربران خردسال ممکن است بسیار حساس باشد.

هشدار درباره نقش هوش مصنوعی در خودکشی نوجوانان
این بخش از گزارش بخصوص برای والدین نگران‌کننده است. کامن سنس به چندین پرونده اخیر اشاره کرد که در آن‌ها هوش مصنوعی به عنوان عاملی در افزایش احتمال خودکشی نوجوانان شناسایی شده است. به عنوان مثال، شرکت اوپن‌ای‌آی با اولین دادخواست «مرگ ناشی از اهمال» مواجه شده است؛ در این مورد، پسری ۱۶ ساله پس از مدت‌ها گفت‌وگو با چت‌جی‌پی‌تی در مورد برنامه‌هایش قادر به دور زدن موانع امنیتی این ابزار شده بود. همچنین قبلاً از سازنده «Character.AI» به دلیل مسائل مشابهی شکایت شده بود.

ارتباط با اپل و افزایش ریسک خطرات
انتشار این گزارش همزمان با شایعاتی است که حاکی از احتمال همکاری اپل با مدل جمینای برای تقویت سیری مبتنی بر هوش مصنوعی در آینده است. چنین همکاری، می‌تواند میلیون‌ها نوجوانی که از محصولات اپل استفاده می‌کنند را به خطرات شناسایی‌شده مختص کند، مگر اینکه اپل تمهیدات امنیتی قوی‌تری را پیش‌بینی کند.

واکنش گوگل
کامن سنس به این نکته اشاره کرد که یکی از انتقادات اصلی آن‌ها نادیده گرفتن این واقعیت بود که کاربران جوان‌تر نیاز به راهنمایی و اطلاعات کاملاً متفاوتی نسبت به بزرگسالان دارند. این کمبودها و با وجود فیلترهای اضافی، باعث شد که هر دو محصول جمینای برای کودکان و نوجوانان در ارزیابی نهایی این نهاد در زمره‌ی پُرخطر قرار بگیرند.

گوگل با نتایج این ارزیابی مخالف بوده، اما تصدیق کرد که برخی از پاسخ‌های جمینای به شکلی غیرمنتظره بوده‌اند. این شرکت در یک بیانیه اعلام کرد که برای کاربران زیر ۱۸ سال سیاست‌ها و محافظت‌های خاصی وجود دارد و همواره در حال همکاری با کارشناسان خارجی به منظور بهبود این شرایط است.
گوگل همچنین اشاره کرد که گزارش این سازمان به ویژگی‌هایی پرداخته که برای کاربران زیر ۱۸ سال در دسترس نیستند و این نهاد به داده‌های کامل دسترسی نداشته است.

جمینای نسبت به رقبای خود
شایان ذکر است که کامن سنس قبلاً دیگر پلتفرم‌های هوش مصنوعی از جمله اوپن‌ای‌آی، پرپلکسیتی، کلود و متا ای‌آی را نیز مورد ارزیابی قرار داده است. در آن ارزیابی، متا ای‌آی و Character.AI در بدترین سطح («غیرقابل قبول») قرار گرفتند. پرپلکسیتی در دسته «پُرخطر»، چت‌جی‌پی‌تی در رده «متوسط‌ریسک» و کلود، که بیشتر برای کاربران بالای ۱۸ سال طراحی شده است، در رده «با حداقل ریسک» دسته‌بندی شده است.