تحقیقات جدید نشان می‌دهد که الگوریتم‌های قدرتمند یوتیوب می‌توانند کاربران جوان را با محتوای آزاردهنده، از جمله تصاویر تیراندازی در مدرسه آشنا کنند.
تحلیلگران فقط محتوای مربوط به بازی‌های ویدئویی را تماشا می‌کردند، اما برخی از حساب‌ها روی ویدئو‌های توصیه‌شده توسط الگوریتم یوتیوب کلیک کردند، در حالی که پروفایل‌های دیگر این پیشنهادات را نادیده گرفتند.
این مطالعه نشان داد حساب‌هایی که روی ویدئو‌های توصیه‌شده این شبکه اجتماعی کلیک کرده‌اند، محتوایی خشونت‌آمیز درباره تیراندازی در مدرسه و نحوه کار با سلاح گرم را دیدند، تقریبا ۱۲ ویدئو در روز در طول یک ماه. حساب‌هایی که پیشنهادات را نادیده می‌گرفتند، برخی ویدئو‌های خشونت‌آمیز دریافت کردند، اما ۱۰ برابر کمتر از بقیه.
به عنوان مثال، یک ویدئو که به یک حساب کاربری کوچک فرستاده شد، دختر جوانی را نشان می‌داد که یک تپانچه را در دست گرفته و شلیک می‌کند. ویدئوی دیگری نشان می‌دهد که فردی با اسلحه به سر ساختگی مملو از خون و اندام‌های واقعی شلیک می‌کند.
آنچه نگران کننده است این است که این ویدئو‌ها مخاطبان بیشتری را به دست می‌آورند. پروژه شفافیت فناوری ویدئویی از صحنه فیلمی که تیراندازی در مدرسه را به تصویر می‌کشد و نزدیک به یک میلیون بار دیده شده بود را توئیت کرد. یکی از کاربران اظهار داشت که این صحنه همان چیزی است که هر روز به او انگیزه می‌دهد.
کیتی پل، مدیر پروژه شفافیت فناوری می‌گوید: این ویدئو‌ها نه تنها خط‌مشی‌های یوتیوب را نقض می‌کنند، بلکه می‌توانند کودکان آسیب‌پذیر را به مسیری خطرناک سوق دهند. این فقط نمونه دیگری از شکست در کنترل کیفیت یک سکو است که بار‌ها به کنگره آمریکا، مردم و والدین گفته است که یک سکوی امن است و الگوریتم‌های آن‌ها محتوای شدیدتر را توصیه نمی‌کند. آزمایش ما نشان داد که اینگونه نیست و این یوتیوب است که مردم را به آن فروشگاه اسلحه می‌فرستد.
این اولین بار نیست که یوتیوب و دیگر شبکه‌های اجتماعی به دلیل تبلیغ محتوای خطرناک مورد انتقاد قرار می‌گیرند. عاملان تیراندازی‌های دسته جمعی خاص از یوتیوب برای یافتن محتوای خشونت آمیز استفاده کرده و حتی گاهی حملات خود را به صورت زنده پخش می‌کردند.
در ویدئو‌هایی در یوتیوب، تیرانداز پشت حمله به مدرسه که منجر به کشته شدن ۱۷ نفر در پارکلند، فلوریدا در سال ۲۰۱۸ شد، کامنت‌های خشونت‌آمیزی مانند من یک تیرانداز حرفه‌ای در مدرسه خواهم شد نوشته شده است.
مرد مسلحی که اوایل این ماه هشت نفر را در یک مرکز خرید دالاس به قتل رساند، یک حساب کاربری در یوتیوب داشت که شامل ویدئو‌هایی در مورد مونتاژ تفنگ و کلیپی از صحنه تیراندازی در مدرسه در یک برنامه تلویزیونی بود.
پل اصرار دارد که موضوع بازی‌های ویدئویی نیست، بلکه بحث شبکه‌های اجتماعی و عدم تعدیل محتوا هستند. او گفت: سال‌های زیادی است که بازی‌های ویدئویی زمانی که تیراندازی در مدرسه وجود دارد، برای سیاستمداران بدل بوده است. اما شما می‌توانید یک بازی تیراندازی اول شخص مانند Call of Duty بازی کنید و هرگز به یک مغازه اسلحه فروشی نروید. این یوتیوب است که مردم را به آن مغازه اسلحه فروشی می‌برد.
در برخی موارد، یوتیوب برخی از ویدئو‌های شناسایی شده توسط این مطالعه را حذف کرده بود، اما در موارد دیگر، محتوا همچنان در دسترس است.
سخنگوی یوتیوب در بیانیه‌ای که برای گاردین ارسال کرد، گفت: در بررسی روش‌شناسی این گزارش، نتیجه‌گیری قوی برای ما دشوار است. برای مثال، این مطالعه زمینه‌ای از تعداد کلی ویدئو‌هایی که به حساب‌های آزمایشی توصیه شده‌اند ارائه نمی‌کند و همچنین بینشی درباره نحوه راه‌اندازی حساب‌های آزمایشی، از جمله اینکه آیا ابزار‌های تجربه‌های نظارت شده یوتیوب اعمال شده‌اند، ارائه نمی‌کند.
پل در انتقاد به این بیانیه گفت: در گزارش ما به وضوح ذکر شده که حساب کاربر ۹ ساله را با استفاده از حساب مادر ایجاد کرده ایم. صرف نظر از ابزار والدین یوتیوب، اگر والدین نمی‌خواهند محتوای خارجی به فرزندانشان توصیه شود، این شرکت راهی برای خاموش کردن الگوریتم برای آن‌ها فراهم نمی‌کند.