آیا هوش مصنوعی می‌تواند به حفظ ایمنی کودکان در فضای آنلاین کمک کند؟

به گزارش سرویس بین الملل پایگاه خبری عدل البرز، سیاست گذاران در سراسر جهان ، سیاست هایی را برای ایمن نگه داشتن کودکان و نوجوانان در اینترنت و رسانه های اجتماعی در اولویت قرار می دهند. این بحث در زمینه هوش مصنوعی هم مطرح شده است.

اینترنت یک فضای بسیار گسترده و خلاق می باشد. اتصال نیمی از جمعیت جهان به یکدیگر تاریخ را تغییر داده و منجر به ایجاد فراوانی از سرگرمی، رشد اقتصادی و فرصت‌های آموزشی برای میلیاردها نفر شده است.

به طور همزمان، اتصال نیمی از بشریت، جنبه های منفی در قالب دزدی، سو استفاده و آسیب رساندن به دیگران به همراه دارد.

هرچند سیستم‌های هوش مصنوعی نمی‌توانند هر مشکلی را حل کنند، اما می‌توانند به عنوان مکمل به ابزارهای موجود کمک کنند و در حفاظت از کودکان در فضای آنلاین، به خصوص در رسانه‌های اجتماعی، نقش داشته باشند.

یکی از روش هایی که هوش مصنوعی می‌تواند کمک کند، افزایش شفافیت خدمات رسانه‌های اجتماعی می باشد. پلتفرم‌های رسانه‌های اجتماعی محتوایی را به کاربران نشان می‌دهند که فکر می‌کنند کاربر از آن لذت خواهد برد، اما این سیستم‌های پیشنهادی بسیار پیچیده هستند.

هوش مصنوعی توضیح‌پذیر یک زمینه تحقیقاتی نوظهور می باشد که سعی در درک نحوه عمل سیستم‌های پیشنهادی دارد. هوش مصنوعی توضیح‌پذیر می‌تواند به والدین کمک کند تا محتوای نامناسب را بر روی دستگاه کودکان‌شان محدود کنند.

هوش مصنوعی می‌تواند یک ابزار آموزشی به صورت لحظه ای برای نوجوانان در فضای آنلاین باشد.

در آمریکا،بر اساس گزارش foxnews رئیس‌جمهور به تازگی یک برگه اطلاعات منتشر کرده که محتوای حکم اجرایی در حال انتظار خود را در مورد “هوش مصنوعی ایمن، امن و قابل اعتماد” شرح داده است. این برگه اطلاعات به صورت خاص در مورد چگونگی تأثیر هوش مصنوعی در حوزه‌های مختلف راهنمایی  و دستورالعمل‌هایی را برای نهادهای فدرال این کشور در این زمینه ارائه می‌دهد.

جو بایدن از کنگره خواسته است که قانون حفاظت از داده‌ها را تصویب کند تا از حریم خصوصی آمریکایی‌ها، به ویژه کودکان، در مواجهه با خطرات مرتبط با هوش مصنوعی و رسانه‌های اجتماعی حفاظت کند. این تدابیر به منظور بهبود حفاظت از اطلاعات شخصی و جلوگیری از ریسک‌های مرتبط با فناوری‌های جدید، به ویژه هوش مصنوعی اتخاذ شده است.

بر این اساس مطلبی که از این برگه اطلاعات، حکم اجرایی و بحث‌های بیشتر در مورد ایمنی آنلاین برای اطفال از قلم افتاده، نقش هوش مصنوعی در ایجاد یک فضای آنلاین ایمن‌تر برای همه کاربران، به ویژه کودکان می باشد..

در یک نظرسنجی که توسط “مرکز رشد و فرصت” ایالات متحده انجام شده است، ۵۲% از آمریکایی‌ها معتقدند که رسانه‌های اجتماعی بیشتر آسیب زننده هستند، و ۳۰% باور دارند که هم آسیب می‌زنند و هم کمک می‌کنند.

همچنین بر اساس نظرسنجی اخیر Security.org، نود و هشت درصد از والدین معتقدند که پلتفرم های رسانه های اجتماعی برای کاربران زیر ۱۸ سال خطرناک هستند.

یوبو، یک اپلیکیشن رسانه اجتماعی می باشد که از تکنولوژی هوش مصنوعی برای آگاه‌سازی کاربرانش از نوع رفتارهایی که ایمن هستند، استفاده می‌کند.

برای مثال، هر زمان که کودک یا نوجوانی بخواهد اطلاعات حساسی را در برنامه به اشتراک بگذارد، ویژگی‌های ایمنی یوبو بصورت لحظه ای فعال می شوند. از آنجایی که نسل زِد در برابر کلاهبرداری‌های آنلاین آسیب‌پذیرتر هستند، این ویژگی بسیار مهم می باشد.

اگرچه ناظران محتوای انسانی باید پیچیده‌ترین مسائل مربوط به تعدیل محتوا را بررسی کنند، اما پیشرفت‌ها در نظارت بر هوش مصنوعی امیدوارکننده می باشد.

Yik Yak که یک پلتفرم رسانه اجتماعی دانشگاه محور می باشد، در سال ۲۰۱۷ از کار افتاد زیرا حساب‌های ناشناس و نقدهای محدود آن محیطی سمی برای کاربرانش ایجاد کرده بود.

سپس، Yik Yak در سال ۲۰۲۱ با دستورالعمل‌های جدید جامعه و مشارکت با Spectrum Labs که یک شرکت تعدیل محتوای هوش مصنوعی می باشد، دوباره به فعالیتش ادامه داد. این برنامه محیطی بسیار امن و دلپذیر را برای کاربران جوانش فراهم می کند.

اپل در حال استفاده از هوش مصنوعی برای فیلتر کردن عکس های واضح در iMessage می باشد. روشن کردن این تنظیم به این معناست که یک خردسال قبل از نشان دادن پیام از او اعلانی دریافت می‌کند و همچنین به والدین هشدار می‌دهد که فرزندشان پیامی دردسرساز دریافت کرده اند.

همه این نمونه‌ها آزمایش‌های اولیه بر روی استقرار هوش مصنوعی در ایمن نگه‌داشتن افراد زیر سن قانونی آنلاین می باشند.

اینترنت چیزهای خوب زیادی برای جامعه فراهم کرده و اگر همه ما بلد باشیم که چگونه این اکوسیستم نوآورانه را حفظ کنیم و خطرات را مدیریت کنیم، به این کار ادامه خواهد داد. کاربردهای اولیه هوش مصنوعی و فناوری بالقوه هوش مصنوعی در همه جا می‌تواند ابزار مؤثر دیگری برای ایمن نگه‌داشتن آسیب‌پذیرترین جمعیت‌ها به صورت آنلاین باشد و در عین حال به آنها اجازه می‌دهد آزادانه کاوش کنند.

ابزارهای هوش مصنوعی وعده داده‌اند که در کنار مراقبان، والدین و سازندگان سیاست همراه  باشند و به آنها کمک کنند تا کودکان و نوجوانان را در محیط آنلاین ایمن نگه دارند.

پایان پیام/