به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از i-hls، پلتفرم‌های رسانه‌های اجتماعی در اینترنت دائماً مملو از حجم عظیمی از محتوا هستند و این منبع وسیع از مطالب باید دائماً برای محتوای مضر یا غیرقانونی مانند ترویج تروریسم و خشونت تحت نظارت باشد. حجم بسیار زیاد مطالب به این معناست که افراد نمی توانند همه آن را به صورت دستی بازرسی کنند، به همین دلیل ابزارهای خودکار مانند هوش مصنوعی ضروری هستند. ولی این ابزارها هم محدودیت های خود را دارند.

تلاش‌های اخیر برای توسعه ابزارهایی جهت شناسایی و حذف محتوای تروریستی آنلاین تا حدی توسط قوانین و مقررات جدید تقویت شده است، از جمله مقررات آنلاین محتوای تروریستی اتحادیه اروپا که ارائه‌دهندگان خدمات میزبان را ملزم می‌کند تا محتوای تروریستی را ظرف یک ساعت پس از دریافت دستور حذف از سوی مقام ملی صالح از پلتفرم حذف کنند.

دو نوع ابزار برای از بین بردن محتوای تروریستی وجود دارد – ابزار اول به رفتار حساب‌ها و پیام‌های خاصی از جمله قدمت حساب، استفاده از هشتگ‌های پرطرفدار یا نامرتبط و حجم غیر طبیعی پست غیرعادی می‌پردازد. این ابزار شبیه به تشخیص اسپم می باشد زیرا به محتوا نگاه نمی کند و برای تشخیص انتشار سریع حجم زیادی از محتوا اغلب مبتنی بر ربات می باشد.

نوع دوم ابزار مبتنی بر محتوا است که بر ویژگی های زبانی، استفاده از کلمات، تصاویر و آدرس های وب تمرکز دارد. ابزارهای خودکار مبتنی بر محتوا یکی از این دو رویکرد را دارند:

تطبیق: مقایسه تصاویر یا ویدیوهای جدید با پایگاه داده موجود از تصاویر و ویدیوهایی که قبلاً به عنوان ماهیت تروریستی شناسایی شده بودند. مسئله این است که گروه‌های تروریستی اغلب سعی می‌کنند با تولید انواع ظریف از همان محتوا، از چنین روش‌هایی دوری کنند.

برای مقابله با این موضوع، ابزارهای مبتنی بر تطبیق معمولاً از هش ادراکی استفاده می‌کنند که بر شباهت تمرکز می‌کند، تغییرات جزئی (مانند تنظیمات رنگ پیکسل) را نادیده می‌گیرد، اما تصاویر را با محتوای اصلی یکسان شناسایی می‌کند.

طبقه بندی: از یادگیری ماشینی و سایر اشکال هوش مصنوعی برای طبقه بندی محتوا استفاده می کند. برای این کار، هوش مصنوعی به نمونه‌های زیادی نیاز دارد که به عنوان محتوای تروریستی برچسب‌گذاری شده‌اند، و با تجزیه و تحلیل این نمونه‌ها، یاد می گیرد که کدام ویژگی‌ها انواع مختلف محتوا را متمایز می‌کنند و به آن اجازه می‌دهد محتوای جدید را به تنهایی دسته‌بندی کند.

پس از آموزش، الگوریتم‌ها می‌توانند پیش‌بینی کنند که آیا یک مورد جدید از محتوا به یکی از دسته‌های مشخص‌شده تعلق دارد یا خیر، که بعد از آن حذف می‌شود یا برای بررسی انسانی علامت ‌گذاری می‌شود.

این رویکرد مشکل ساز می باشد زیرا جمع آوری و تهیه یک مجموعه داده بزرگ برای آموزش الگوریتم ها زمان بر و دارای منابع فشرده می باشد. علاوه بر این، زمانی که تروریست‌ها از اصطلاحات جدید استفاده می‌کنند و رویدادهای جدید جهانی و امور جاری را مورد بحث قرار می‌دهند، داده‌های آموزشی می‌توانند به سرعت تاریخ‌گذاری شوند.

نتیجه حاصل این است که علیرغم پیشرفت‌های هوش مصنوعی، ورودی انسانی همچنان ضروری می باشد. برای نگهداری پایگاه‌های داده و مجموعه داده‌ها، ارزیابی محتوای علامت گذاری‌شده جهت بررسی و عملیاتی کردن فرآیندهای تجدیدنظر زمانی که تصمیم‌ها به چالش کشیده می‌شوند، مهم می باشد.

کارشناسان ابتکارات مشترک بین دولت‌ها و بخش خصوصی را توصیه می‌کنند و ادعا می‌کنند که سازمان‌های بین‌المللی، دولت‌ها و پلتفرم‌های فناوری باید توسعه چنین منابع مشترکی را در اولویت قرار دهند، زیرا بدون آنها پرداختن به محتوای ترور آنلاین غیرممکن خواهد بود.

پایان پیام/