صنعت فناوری از سال ۲۰۲۲ شاهد ظهور هوش مصنوعی (AI) بوده است. با این که شرکت‌های بزرگ از هوش مصنوعی برای بهبود تجربیات کاربران استفاده می کنند اما مجرمان سایبری هم از این فناوری برای انجام فعالیت‌های مخرب و استفاده نادرست بهره می برند.

مجرمان سایبری از هوش مصنوعی برای ایمیل های فیشینگ، ایجاد پیام های قانع کننده، ایجاد کدهای مخرب و انتشار اطلاعات نادرست استفاده می کنند. در واقع، می توان گفت که نگرانی فزاینده ای در مورد سوء استفاده از هوش مصنوعی وجود دارد.

به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از  fagenwasanni ، توانایی هوش مصنوعی در ایجاد کد مخرب هنوز در مراحل اولیه می باشد و برای نوشتن کدهای مخربی که کارآمدی بالا داشته باشند، نیاز به تلاش زیادی می باشد. در واقع، هوش مصنوعی می‌تواند برای اهداف مخرب استفاده شود و مدل‌های آن به سرعت در حال پیشرفت هستند که نیازمند نظارت دقیق تر می‌ باشند تا جلوی کاربردهای مخرب آن‌ها گرفته شود.

ناظران امنیت سایبری از کشورهای مختلف قبلا گزارش هایی را منتشر کرده اند که خطرات مرتبط با هوش مصنوعی را برجسته می کند. آنها به طور خاص نگرانی هایی را در مورد مدل های زبان بزرگ (LLM) که برنامه های پردازش زبان پیشرفته ای هستند که برای تولید گفتگوها و اسناد شبه انسان استفاده می شوند، مطرح کرده اند. یوروپل در ماه مارس گزارشی را منتشر کرد که در آن به سوء استفاده احتمالی از ChatGPT OpenAI پرداخته بود و بیان داشت که مجرمان سایبری می توانند از طریق گفتگوی واقع بینانه، حتی با دانستن اندکی زبان انگلیسی، هویت سازمان ها یا افراد را جعل کنند.

مرکز امنیت سایبری ملی بریتانیا در یک پست وبلاگ بر امکان استفاده مجرمان از LLM برای افزایش قابلیت‌های حمله سایبری شان تأکید کرد. برخی از محققان امنیت سایبری هم موارد استفاده مخرب و نحوه مواجه با محتوای مشکوک تولید شده توسط هوش مصنوعی را بیان کردند.

اخیراً، یک هکر سابق، یک LLM آموزش دیده با متریال مخرب را کشف کرده که به او امکان می‌دهد تا ایمیلی بسازد که در آن از کاربران ناآگاه درخواست انتقال پول نقد نماید. این ایمیل با استفاده از ترفند‌های متقاعدکننده، تأکید بر انجام فوری در ۲۴ ساعت آینده را داشته است.

استفاده نادرست از هوش مصنوعی توسط مجرمان سایبری تهدیدی قابل توجه برای افراد، سازمان ها و پلتفرم های آنلاین می باشد. همچنان که هوش مصنوعی به تکامل خود ادامه می دهد، توسعه تدابیر حفاظتی قوی و مکانیسم های نظارتی به طور فزاینده ای ضروری می شود. کارشناسان و محققان امنیت سایبری فعالانه در تلاش هستند تا از مجرمان سایبری جلوتر بمانند و خطرات احتمالی مرتبط با سوء استفاده از هوش مصنوعی را کاهش دهند.

در نتیجه، با اینکه هوش مصنوعی مزایای بی شماری را ارائه می دهد اما اگر به دست افراد نادرست هدایت شود، خطراتی را هم به همراه خواهد داشت. دنیای سایبری باید برای مقابله با سوء استفاده مجرمان سایبری از هوش مصنوعی هوشیار بماند و از توسعه و استقرار مسئولانه این فناوری قدرتمند اطمینان حاصل کند.

پایان پیام/