اتهام سنگین نیویورک علیه تیک‌تاک؛ کودکان ظاهراً نسخه جعلی قابلیت ایمنی را دریافت کردند
بر اساس ادعاهای مطرح‌شده در یک دادخواست که به‌تازگی از حالت محرمانه خارج شده، یکی از این قابلیت‌ها Algo Refresh بوده است. این ابزار به کاربران اجازه می‌دهد توصیه‌های الگوریتمی تیک‌تاک را بازتنظیم کنند تا فید ویدئوهای پیشنهادی آنها از محتوای ناخواسته یا بالقوه مضر فاصله بگیرد.
اما طبق این دادخواست، برخی از کاربران شرکت‌کننده در آزمایش به جای نسخه واقعی، نسخه‌ای موسوم به «شبح» یا پلاسبو دریافت کرده‌اند. در این حالت، کاربر تصور می‌کرده Algo Refresh را فعال کرده است، اما فید توصیه‌های او در عمل تغییر نمی‌کرد. در مقابل، کاربرانی که در گروه آزمایشی قرار نداشتند، به نسخه واقعی و فعال این قابلیت دسترسی داشتند.
آزمایش روی هزاران کاربر کودک و نوجوانان
درخواست نیویورک می‌گوید تیک‌تاک از این آزمایش‌ها برای بررسی تأثیر قابلیت‌های ایمنی بر رفتار کاربران، میزان حضور آنها در پلتفرم و درآمد تبلیغاتی استفاده می‌کرده است.
بر اساس ادعاهای دادخواست، آزمایش‌ها شامل هزاران کاربر بوده و در میان آنها کودکان و نوجوانان نیز حضور داشته‌اند. حتی ادعا شده است که یکی از مدیران محصول تیک‌تاک درباره ماهیت گمراه‌کننده آزمایش‌های پلاسبو نگرانی‌هایی را مطرح کرده بود، اما این هشدارها نادیده گرفته شدند.
دادخواست همچنین تیک‌تاک را متهم می‌کند که درباره نحوه عملکرد Algo Refresh به کاربران اطلاعات گمراه‌کننده داده و در برخی آزمایش‌ها قابلیت‌های ایمنی را به‌صورت تصادفی برای گروهی از کاربران غیرفعال کرده است.
این اتهام اهمیت ویژه‌ای دارد، زیرا Algo Refresh از ابتدا با هدف تغییر محتوای توصیه‌شده به کاربران طراحی شده است. بنابراین، اگر نسخه‌ای از این قابلیت بدون اطلاع کاربر غیرفعال بوده باشد، کاربر ممکن است تصور کند که الگوریتم پیشنهاددهی تغییر کرده، در حالی که عملاً همان نوع محتوا را دریافت می‌کرده است.
ارتباط آزمایش‌ها با محتوای آسیب‌زا
در یکی از جدی‌ترین بخش‌های دادخواست، نیویورک به مورد یک نوجوان اشاره کرده است که پس از قرار گرفتن در معرض حجم زیادی از محتوای مرتبط با خودآزاری، بر اثر خودکشی جان باخته است. دادستانی این موضوع را در چارچوب ادعاهای خود درباره نحوه عملکرد الگوریتم و آزمایش‌های ایمنی تیک‌تاک مطرح کرده است. این ادعاها در دادگاه باید بررسی و اثبات شوند و به‌معنای اثبات مسئولیت تیک‌تاک در این مرگ نیستند.
بنا بر گزارش Techcrunch، این پرونده در شرایطی مطرح شده که تیک‌تاک با موج گسترده‌ای از پرونده‌های قضایی درباره تأثیر پلتفرم بر کودکان و نوجوانان روبه‌رو است. بیش از دو دوجین ایالت آمریکا این شرکت را متهم کرده‌اند که طراحی پلتفرم خود را به‌گونه‌ای انجام داده که استفاده اعتیادآور را در میان کاربران کم‌سن‌وسال افزایش دهد و هم‌زمان درباره اقدامات ایمنی خود اطلاعات گمراه‌کننده ارائه کند.
پاسخ تیک‌تاک: قابلیت‌ها دائماً آزمایش می‌شوند
تیک‌تاک در پاسخ به گزارش رویترز اعلام کرد که این شرکت به‌طور مداوم پلتفرم خود را بهبود می‌دهد و مانند بسیاری از شرکت‌های فناوری، محصولات و قابلیت‌های جدید را برای ارزیابی عملکرد آنها در دنیای واقعی آزمایش می‌کند.
این شرکت تأکید کرده است که ایمنی کاربران، به‌ویژه کاربران کم‌سن‌وسال، همچنان یکی از اولویت‌های آن است. تیک‌تاک تا زمان انتشار گزارش، درباره جزئیات مطرح‌شده در دادخواست نیویورک پاسخ جداگانه‌ای ارائه نکرده است.
ادعاهای مربوط به آزمایش‌های مخفی تیک‌تاک پیش از این نیز مطرح شده بود. بلومبرگ در ماه ژوئن گزارش داده بود که تیک‌تاک در آزمایشی دیگر، یک قابلیت ایمنی را از حدود ۱۵ میلیون کاربر آمریکایی پنهان کرده است. طبق آن گزارش، یکی از کاربران تحت تأثیر این آزمایش نوجوانی بود که بعداً بر اثر خودکشی جان باخت.
در نتیجه، پرونده نیویورک می‌تواند یکی از جدی‌ترین چالش‌های حقوقی تیک‌تاک در زمینه نحوه آزمایش قابلیت‌های ایمنی باشد؛ به‌ویژه اگر دادگاه به این نتیجه برسد که کاربران، بدون اطلاع از آزمایشی بودن قابلیت، تصور می‌کردند ابزارهای محافظتی واقعاً برای حساب آنها فعال شده است.
