کودکان بخش کلیدی گمشده در مقررات هوش مصنوعی هستند و همین امر آنها را از دیگر اقشار جمعیتی در مواجهه با این تکنولوژی بسیار پیشرفته آسیبپذیرتر میکند.
هوش مصنوعی (AI) بهعنوان سنگ بنای نوآوریهای تکنولوژیکی اخیر و توسعه و گسترش سریع آن نگرانیهای جدی را در سطوح مختلف و در زمینههای متعدد برانگیخته است.
عدم توجه به سن کاربران بهعنوان یکی از ماهیتهای خدمات دیجیتال یکی از نگرانیهای جدی پیرامون توسعه و گسترش سریع هوش مصنوعی نیز است.
این نقیصه نخست در پی فراگیر شدن تلفنهای همراه و دسترسی به اینترنت و متعاقب آن شبکهها و پلتفرمهای اجتماعی خود را به اشکال مخاطرهآمیزی نشان داد؛ یکی از پیامدهای این روند جوان شدن قربانیان قاچاق جنسی و مواد مخدر بوده و است.
بررسیها ثابت کردهاند که در خدمات دیجیتال الگوریتمها قادر به آشکار کردن روانشناسی انسان هستند؛ این موضوع در کنار عدم توجه به سن کاربران بهعنوان یکی از عناصر ماهیتی خدمات دیجیتال سبب شده تا کودکان بیشتر در معرض استثمار در شبکههای اجتماعی و مجرمان قرار داشته باشند.
از جمله معضلهای ملموسی که فضای خارج از کنترل آنلاین برای کودکان ایجاد کرد، ناپدید و استثمار شدن و مورد آزار و اذیتهای آنلاین گرفتن کودکان بود.
رشد حدود ۷ هزار درصدی موارد سوءاستفاده از کودکان در فضای آنلاین بین سالهای ۲۰۱۲ تا ۲۰۲۱ نشاندهنده ناکافی بودن اقدامهای پیشگیرانه کشورهای مختلف برای مقابله با بحرانهای ناشی از بی در و پیکر بودن فضای آنلاین است.
مواجهههای ناخوشایند کودکان با هوش مصنوعی
به تازگی خبری از اسپانیا منتشر شد که اعلام میکرد بیش از ۲۰ دانشآموز دختر اسپانیایی تصاویری برهنه از خودشان دریافت کردهاند که با کمک هوش مصنوعی تهیه شده است.
این تصاویر که بسیار واقعی به نظر میرسند، براساس عکسهای معمولی دختران مذکور در شبکه اجتماعی اینستاگرام با کمک اپلیکیشن «ClothOff» بازسازی شده و در اپلیکیشن واتس اپ به گستردگی منتشر شدند.
شعار «ClothOff» که برای ارائه تصاویر برهنه براساس عکسهای پایه مبالغی را دریافت میکند، «هرکسی را برهنه کنید؛ دختران را مجانی برهنه کنید» است؛ در نتیجه برخی از این دختران مذکور هدف اخاذی قرار گرفتند.
انتشار این عکسها که در رده تصاویر هرزهنگارانه از کودکان قرار میگیرند، چالشی جدی برای این کودکان و خانوادههایشان از یکسو و مقامهای اسپانیایی از سوی دیگر رقم زد.
بررسیها نشان میدهند که خلافکاران و مجرمانی در سراسر جهان در حال به اشتراک گذاشتن تصاویری هستند که شباهت فوقالعادهای به عکسهای واقعی دارند.
بنیاد دیدهبان اینترنت بهعنوان یکی از سه سازمان خیریه در جهان که مجوز رسمی برای جست وجوی محتوی سوءاستفاده جنسی از کودکان در اینترنت را دارد، نخستین تصاویر سوءاستفاده جنسی از کودکان با هوش مصنوعی را در ماه مه سال جاری ثبت کرد.
براساس اعلام این بنیاد، محققان تا آخر ماه ژوئن سال جاری ۲۹ وبسایت و هفت صفحه مجازی که در آن آلبومی از این تصاویر هوش مصنوعی به اشتراک گذاشته بود، کشف کردند.
هوش مصنوعی، مخاطرهای دوچندان برای کودکان
الگوریتمهای هوش مصنوعی از چندی پیش شروع به ایفای نقشهای مختلفی در اکوسیستمهای دیجیتالی کودکان کردهاند؛ اکنون این الگوریتمها در اسباببازیها، برنامهها و سرویسهایی که کودکان روزانه با آنها تعامل دارند، تعبیه شدهاند.
چنین سیستمهای هوش مصنوعی با دیدگاه خوش بینانه اولیه نسبت به این تکنولوژی پیشرفته میتوانند دربردارنده مزایای بسیاری برای کودکان باشند، اما بررسیها و مطالعات نشان دادند که این عضو تازهوارد زندگی بشر چندان که نشان میداد، بیدردسر نیست.
هوش مصنوعی میتواند چیزی شبیه به شمشیر ۲ لبه باشد؛ این توصیف درستی بهویژه برای کودکان در مواجهه و استفاده از هوش مصنوعی است که الگوریتمها به شکل فزایندهای زندگی آنان را شکل میدهند.
با ورود هوش مصنوعی به زندگی بشر و توسعه آن، محافظت از کودکان در برابر سوءاستفاده و استثمار، با منابع موجود تقریبا غیرممکن شده است.
هوش مصنوعی مخاطرات بسیار جدیتری را در این زمینه متوجه کودکان میکند، زیرا به مجرمان در تحت نظر داشتن رفتار کودکان برای نفوذ در زندگیشان کمک میکند و الگوریتمهای مبتنی بر هوش مصنوعی اطلاعات زیادی را در اختیار مجرمان قرار میدهند.
هوش مصنوعی مانند موتورهای جستوجو، رسانههای اجتماعی و بازیهای ویدئویی با تبعیت از الگوریتمهای موجود کلیشههای مضر از جمله نژادپرستی و تبعیض جنسیتی را تداوم میبخشند.
قرار گرفتن کودکان در معرض چنین کلیشههایی در جهانی که با سرعت به سمت تشدید جرایم نفرت محور پیش میرود، میتواند پیامدهای هولناکی داشته باشد.
یونیسف در گزارشی آورده است که هوش مصنوعی همچنین میتواند نابرابری را بدتر و سوگیری را حفظ کند؛ به عنوان مثال، مدارسی که از یادگیری ماشینی و فناوری هوش مصنوعی برای مرتبسازی برنامههای دانشآموزی استفاده میکنند، ممکن است بهطور سهوی، اما سیستماتیک انواع خاصی از نامزدها را حذف کنند.
چت جیپیتی یا همان چتبات هوض مصنوعی نیز خطری جدی برای کودکان محسوب میشود.
کودکان به دلیل دقت کمتر در هنگام به اشتراکگذاری اطلاعات شخصی خود در برابر نقض دادهها آسیبپذیرتر هستند.
سرویسهای هوش مصنوعی میتوانند با جمعآوری اطلاعات شخصی کودک از آنها برای تبلیغات هدفمند یا دیگر اهداف استفاده کنند.