• امروز : سه شنبه - ۲۶ تیر - ۱۴۰۳
  • برابر با : Tuesday - 16 July - 2024
1

تهدید ابزارهای هوش مصنوعی مولد

  • کد خبر : 21539
  • 19 اسفند 1402 - 22:54
تهدید ابزارهای هوش مصنوعی مولد
بسیاری از کارشناسان و محققان در حال حاضر در حال بررسی تهدیدات بالقوه ای هستند که مدل های مولد مبتنی بر هوش مصنوعی را هدف قرار می دهد. یکی از آنها "کرم رایانه ای" می باشد که به طور بالقوه می تواند داده ها را سرقت کند و بدافزار را در ابزارها و برنامه های کاربردی مبتنی بر هوش مصنوعی مستقر نماید.

به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از   /i-hls، بسیاری از شرکت‌ها ابزارهای هوش مصنوعی مولد را در محصولات خود ادغام می‌کنند تا بار کاری انسان ها را کاهش دهند و کارهای سخت را آسان‌تر کنند. این اقدام دگرگون‌کننده و حتی خطرناک هم می باشد.

بسیاری از کارشناسان و محققان در حال حاضر در حال بررسی تهدیدات بالقوه ای هستند که مدل های مولد مبتنی بر هوش مصنوعی را هدف قرار می دهد. یکی از آنها “کرم رایانه ای” می باشد که به طور بالقوه می تواند داده ها را سرقت کند و بدافزار را در ابزارها و برنامه های کاربردی مبتنی بر هوش مصنوعی مستقر نماید.

اسم این «کرم رایانه ای»  Morris II می باشد و توسط محققان برای بهره‌برداری از اکوسیستم‌های هوش مصنوعی مولد و نشان دادن اینکه چگونه می‌تواند فعالیت‌های مخرب را گسترش دهد و کنترل کند، طراحی شده است.

محققان اسم کرم Morris-II را برگرفته از “Morris Worm” که یکی از اولین باگ‌های کامپیوتری می باشد، انتخاب کرده اند. کرم کامپیوتری نوعی بدافزار می باشد که با انتشار مستقل در شبکه های کامپیوتری، اغلب بدون نیاز به هیچ گونه تعامل کاربر عمل می کند. همچنین برای انتشار (برخلاف ویروس های رایانه ای) به برنامه میزبان نیاز ندارد. در عوض، کرم‌ها از ضعف‌های موجود در سیستم‌عامل‌ها، پروتکل‌های شبکه یا برنامه‌ها برای کپی کردن خود و انتشار از یک کامپیوتر به کامپیوتر دیگر به طور مستقل استفاده می‌کنند.

این تحقیق جدید ابزارهای آسیب‌پذیر مبتنی بر هوش مصنوعی را شناسایی می‌کند و نشان می‌دهد که چگونه Morris II می‌تواند آنها را دستکاری کند، و بر اهمیت درک و کاهش خطرات امنیتی در چشم‌انداز در حال تکامل هوش مصنوعی تأکید می‌کند.

وقتی صحبت از قابلیت‌های Morris II به میان می‌آید، در واقع، می‌تواند خود را از طریق هوش مصنوعی مولد منتشر کند، سیستم‌ها را فریب دهد، پیام‌های اسپم ارسال کند، اطلاعات نادرست منتشر کند یا اطلاعات شخصی افراد را بدست آورد. این کرم با تزریق پیام‌های مخرب به مدل‌های مولد هوش مصنوعی خود را تکثیر می‌کند و سپس به سایر عوامل درون اکوسیستم گسترش می‌یابد.

Morris II می‌تواند بر دو نوع برنامه مجهز به هوش مصنوعی تأثیر بگذارد: برنامه‌هایی که به نتایج تولید شده توسط سرویس GenAI تکیه می‌کنند تا به درستی کار کنند (که در برابر دستکاری آسیب‌پذیر هستند) و برنامه‌هایی که از RAG (تجمیع مکرر مدل‌های مولد) جهت افزایش پرس وجوهای GenAI خود استفاده می‌کنند. .

محققان معتقدند که کرم‌های GenAI در چند سال آینده در محصولات واقعی ظاهر خواهند شد و نتایج قابل توجه و نامطلوبی را به همراه خواهند داشت.

پایان پیام/

لینک کوتاه : https://adlealborz.ir/?p=21539

ثبت دیدگاه

مجموع دیدگاهها : 0در انتظار بررسی : 0انتشار یافته : 0
قوانین ارسال دیدگاه
  • دیدگاه های ارسال شده توسط شما، پس از تایید توسط تیم مدیریت در وب منتشر خواهد شد.
  • پیام هایی که حاوی تهمت یا افترا باشد منتشر نخواهد شد.
  • پیام هایی که به غیر از زبان فارسی یا غیر مرتبط باشد منتشر نخواهد شد.