به گزارش عدل البرز به نقل از securitymagazine،‌ ابزارهای هوش مصنوعی در روزهای اخیر بسیار در دسترس قرار گرفته اند و توانمندتر شده اند و تغییرات عمده ای را در جامعه و وضعیت امنیت سایبری ما ایجاد کرده اند.

حفظ حریم خصوصی برای سازمان‌هایی که نگران تأثیر این هوش مصنوعی در محل کارشان هستند، مورد توجه قرار گرفته است. سامسونگ اخیراً همه کارمندان خود را از استفاده از هوش مصنوعی به دلیل ترس از افشای اطلاعات حساس شرکت منع کرده است.

ایتالیا به منظور حفاظت از اطلاعات شهروندان خود، اقدام به محدودسازی دسترسی به OpenAI کرده است. این تصمیم به دلیل نگرانی‌ها درباره نحوه مدیریت داده‌ها و رعایت قوانین حفاظت از اطلاعات شخصی GDPR اتخاذ شده است. OpenAI با ارائه فناوری‌های پیشرفته، این امکان را فراهم کرده است که شرکت‌های فناوری بزرگ آمریکایی با یکدیگر رقابت کنند و بهترین خدمات را ارائه دهند. از سوی دیگر، شرکت‌های چینی مانند الیبابا و بایدو نیز به این عرصه وارد شده‌اند و خدمات خود را راه‌اندازی می‌کنند. همچنین، مقامات چینی قوانینی را در قالب پیش‌نویس‌ها منتشر کرده‌اند که به منظور اداره و کنترل ابزارهای قدرتمند هوش مصنوعی و دستیارهای آن طراحی شده‌اند.

چگونه هوش مصنوعی می‌تواند یک دارایی و هم یک تهدید برای امنیت سایبری باشد؟

یکی از مزایای قابل توجه مدل‌های زبان بزرگ (LLM) مانند ChatGPT، Bard و Hugging Chat، کاهش موانع ورود برای تیم‌های امنیتی می باشد که در حال مواجهه با مسائل پیچیده هستند. این مدل‌ها می‌توانند مانند یک دستیار در کنار تیم قرار گیرند، شناسایی لازم را انجام داده و کمک کنند.

برخی از نمونه های آن در فضای دفاع سایبری عبارتند از:

تفسیر کد و گزارش‌ها:

با استفاده از مدل‌های زبان بزرگ (LLMs) مانند ChatGPT، می‌توان کدها و گزارش‌های مربوط به حملات را تفسیر و تحلیل کرد. به عنوان مثال، با ارائه قطعاتی از کد به یک مدل زبان بزرگ و درخواست توضیح درباره عملکرد کد، می‌توان به تحلیلگران جوان کمک کرد تا مفهوم و عملکرد کدها را بهتر درک کنند و از تجربه و دانش تحلیلگران با سابقه بهره‌برداری کنند، بدون اینکه نیاز به مداخله مستقیم تحلیلگران با سابقه باشد.

جستجوی هوشمند در گوگل

با استفاده از ابزارهای هوشمند مانند ChatGPT، می‌توان به صورت سریع و بهینه از منابع آموزشی آنلاین برای حل مسائل پیچیده استفاده کرد. به عنوان مثال، در جستجوی یک سوال مرتبط با فیلتر کردن لاگ‌ها، بیشتر مردم ممکن است به صورت معمولی ابتدا در اینترنت جستجو کنند. این روند ممکن است مدت زمان زیادی طول بکشد و نتیجه دقیق و مطلوبی را هم ارائه ندهد. با استفاده از ابزارهای هوشمند مانند ChatGPT، می‌توان با وارد کردن سؤال خود و نمونه‌ای از داده‌های لاگ، در عرض چند ثانیه دستور دقیقی برای فیلتر کردن لاگ‌ها دریافت کرد و در حل مسئله به صورت سریع و کارآمد پیشروی کرد.

ایجاد کد

با استفاده از هوش مصنوعی و ابزارهای مرتبط، می‌توان از آنها برای توضیح مفاهیم و تولید کد بهره برد. به عنوان مثال در حوزه بررسی اشکال زدایی و تحقیقات امنیتی، شما می‌توانید نمونه‌هایی از درخواست‌ها و کد مورد نیاز را به ابزارهای هوشمند بدهید و از آنها بخواهید تا توضیح دهند که چه عملیاتی در این درخواست‌ها صورت می‌گیرد یا یک اسکریپت برای شما ایجاد کنند که بتواند این درخواست‌ها را تغییر داده و ارسال کند. این امر به محققان و تیم‌های امنیتی کمک می‌کند تا به صورت سریعتر و بهینه‌تر به مسائل پیچیده پاسخ دهند و نیاز به دانش و تجربه قبلی کمتری داشته باشند.

توصیه به رهبران امنیت سایبری سازمانی برای محافظت از تیم هایشان در برابر تهدیدات نوظهور

اول، برای هوش مصنوعی در محیط کاری خود یک سیاست استفاده مجاز تعریف کنید که مشخص کند که چه نوع استفاده‌ها، کجا و چگونه می‌تواند صورت بگیرد تا در حفظ حقوق مالکیت فکری و حریم خصوصی داده‌ها به شما کمک کند.

دوم،  ابزارهای هوش مصنوعی مولد، با توجه به دستوراتی که برای آنها تعریف می‌شود، می‌توانند پاسخ‌ها و نتایجی تولید کنند که قبلاً وجود نداشته باشد. اما باید به این نکته توجه کنیم که این پاسخ‌ها بر اساس داده‌ها و الگوهایی که در اختیار آنها قرار دارد، تولید می‌شود و ممکن است برخی اوقات نتایجی ارائه دهد که بی‌اساس یا غیرقابل اعتماد به نظر برسند. بنابراین، در استفاده از اظهارات این ابزارها، باید با دقت و با تحلیل دقیق، اطلاعات را بررسی کرده و از صحت و قابلیت اعتماد آنها اطمینان حاصل کرد. این موضوع مهم می باشد زیرا هوش مصنوعی، به خاطر قابلیت خلاقیت و تولید پاسخ‌های جدید، ممکن است در برخی موارد معلومات ناصحیح یا ناقصی را ارائه دهد.

هرچند هوش مصنوعی چالش‌های امنیتی مربوط به خود را دارد، اما تخریب زنجیره تأمین به عنوان یک تهدید قابل توجه در برابر سازمان‌ها می باشد.

حمله به زنجیره تأمین به معنای نفوذ به سازمان‌ها از طریق تأمین‌کنندگان یا عرضه‌کنندگان قابل اعتماد می باشد. این حملات به این صورت انجام می‌شود که حمله‌کنندگان سیستم‌ها و برنامه‌هایی را که تأمین‌کنندگان در سازمان استفاده می‌کنند، مورد هدف قرار می‌دهند. پاسخ سریع و بموقع به این حملات بسیار مهم حیاتی می باشد. لذا سازمان ها باید در مسیر آمادگی بیشتر تلاش کنند.

انتهای پیام