هکرها از فناوری هوش مصنوعی برای طراحی نرمافزارهای مخربی استفاده میکنند که قادرند ایمیلهای فیشینگ را تولید کنند.
همه ما شاهد امواج عظیمی از انتشار اطلاعات نادرست از طریق این روشها در فضای آنلاین هستیم.
بر اساس گزارش رویترز، بخش فناوری توسط جنایتکاران سایبری مورد حمله قرار گرفته است که با سوءاستفاده از هوش مصنوعی به دنبال روش هایی آسان هستند تا به اهداف خود برسند.
به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از digitalinformationworld ، به گفته مرکز امنیت سایبری کانادا، این آژانس، شاهد سوء استفاده از هوش مصنوعی در فعالیتهای مختلف مانند: ایجاد کلاهبرداریهای فیشینگ در ایمیلها و افزودن کدهای مخرب به اقدامات مختلف بوده است.
در واقع، مجرمان سایبری موجب ایجاد نگرانی گسترده در مورد این فناوری نوظهور شده اند.
در چند ماه گذشته، تعدادی از ناظران سایبری از طریق گزارشهایی توضیح دادند که یک خطر احتمالی برای هوش مصنوعی از طریق مدلهای زبانی بزرگ (LLM) وجود دارد. در واقع، هکرها و نفوذگرها میتوانند با استفاده از هوش مصنوعی و مدلهای موجود، روش هایی را برای تولید اسناد تقلبی فراهم کنند.
در ماه مارس سال جاری، یک دفتر پلیس در منطقه اروپا، اسناد تکان دهنده ای را منتشر کرد که نشان می داد که چگونه ChatGPT به کلاهبرداران امکان می دهد که حتی با وجود زبان انگلیسی ضعیف، جعل هویت را به شیوه ای واقعی انجام دهند.
همزمان، یک نهاد امنیت سایبری دیگر در انگلستان اعلام کرد که شاهد افزایش قابل ملاحظهای در جرائم مرتبط با مدلهای زبان بزرگ بوده است، که به انجام حملات سایبری کمک کردهاند بسیاری از افراد فکر نمیکردند که این مدلها قابلیت انجام چنین حملاتی را داشته باشند.
به گفته محققان ما شاهد افزایش جنایاتی هستیم که بیشتر آنها با استفاده از فناوری هوش مصنوعی تولید می شوند. این مسئله که مدلهای زبانی در مورد بدافزار آموزش میبینند، نگران کننده می باشد.
با اینکه فناوری هوش مصنوعی در مورد اهدافی مانند تهیه کدها هنوز در مراحل اولیه خود قرار دارد، اما این به این معنا نیست که فعالیتهای جنایی از جمله سوءاستفاده از هوش مصنوعی در حال پیشرفت نیستند و این موضوع به دلایل آشکار نگرانکننده می باشد. همانطور که فناوری هوش مصنوعی ادامه مییابد و پیشرفت میکند، احتمال سوءاستفاده از آن توسط عوامل مخرب برای فعالیتهای جنایی، از جمله ایجاد محتوای گمراهکننده جهت فریب و کلاهبرداری از دیگران هم بیشتر می شود. برای اینکه از این تهدیدات پیشگیری کنیم و امنیت را تقویت کنیم، لازم است محققان، توسعهدهندگان و مسئولان هوشیار باشند و آگاهانه رفتار کنند.
