به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از ncsc، دستورالعمل های جدید به توسعه دهندگان کمک می کند تا در مورد طراحی، توسعه، استقرار و عملکرد سیستم های هوش مصنوعی خود تصمیمات آگاهانه بگیرند.

سیستم‌های هوش مصنوعی (AI) این پتانسیل را دارند که مزایای زیادی برای جامعه به ارمغان بیاورند. با این حال، برای اینکه فرصت‌های هوش مصنوعی به طور کامل محقق شود، باید به روشی ایمن و مسئولانه توسعه و استقرار یابد و عملیاتی شود.

در ۱ و ۲ نوامبر ۲۰۲۳، بریتانیا میزبان اولین اجلاس ایمنی هوش مصنوعی بود که دولت‌ها، سازمان‌های فناوری پیشرو، دانشگاه‌ها و جامعه مدنی را گرد هم آمده بودند تا اقدامات سریع ملی و بین‌المللی را در حوزه توسعه هوش مصنوعی را اطلاع‌رسانی کنند. این اجلاس، بر اساس رویدادهای سراسر جامعه بین‌المللی (مانند قانون هوش مصنوعی اتحادیه اروپا و فرآیند هوش مصنوعی هیروشیما گروه G7) با بیانیه بلچلی موافقت کرد. این بیانیه نیاز به اقدام فراگیر و مشارکتی برای رسیدگی به خطرات پیرامون  هوش مصنوعی تأیید می‌کند.

در مورد امنیت سایبری، این اجلاس بر اهمیت رویکرد “ایمن بر اساس طراحی” جهت توسعه هوش مصنوعی تاکید می کند، که اصل کلیدی در پشت پرده دستورالعمل های جدید توسعه سیستم هوش مصنوعی ایمن می باشد که توسط مرکز امنیت سایبری ملی بریتانیا (NCSC)، و امنیت سایبری ایالات متحده منتشر شده است.

امنیت نیاز اصلی جهت توسعه هوش مصنوعی می باشد…

دستورالعمل‌هایی که توسط NCSC و CISA با همکاری آژانس‌های بین‌المللی تهیه شده‌اند، برای ارائه‌دهندگان سیستم‌هایی می باشد که از هوش مصنوعی استفاده می‌کنند، فرقی نمی کند این سیستم‌ها از ابتدا ایجاد شده باشند یا بر روی ابزارها و خدمات ارائه شده توسط دیگران ساخته شده باشند. پیاده‌سازی دستورالعمل‌ها به ارائه‌دهندگان کمک می‌کند تا سیستم‌های هوش مصنوعی بسازند که طبق برنامه عمل کنند، در صورت نیاز در دسترس باشند و بدون افشای داده‌های حساس به طرف‌های غیرمجاز کار کنند.

سیستم‌های هوش مصنوعی در معرض آسیب‌پذیری‌های امنیتی جدیدی هستند که باید در کنار تهدیدات استاندارد امنیت سایبری در نظر گرفته شوند. هنگامی که سرعت توسعه بالا می باشد، امنیت اغلب می تواند یکی از ملاحظات ثانویه باشد. امنیت باید یک نیاز اصلی نه فقط در مرحله توسعه، بلکه در طول چرخه حیات سیستم باشد. به همین دلیل، دستورالعمل ها به چهار حوزه کلیدی در چرخه عمر توسعه سیستم هوش مصنوعی تقسیم می شوند:

طراحی ایمن

توسعه ایمن

استقرار ایمن

عملیات و نگهداری ایمن

این دستورالعمل‌ها به مجموعه‌ای از کارهای روبه‌رشد کمک می‌کنند که هدف آن حمایت از تحویل هوش مصنوعی ایمن، مطمئن و قابل اعتماد می باشد. این دستورالعمل‌ها با تمرکز ویژه و عمیق خود بر امنیت سایبری، مکمل کار فرآیند هوش مصنوعی هیروشیما گروه G7 برای ایجاد اصول اخلاقی برای سازمان‌هایی هستند که سیستم‌های هوش مصنوعی پیشرفته را توسعه می‌دهند. آنها همچنین بر اساس تعهدات داوطلبانه هوش مصنوعی ایالات متحده (PDF) در مورد «تضمین هوش مصنوعی ایمن، و قابل اعتماد» می باشند که در ژوئیه ۲۰۲۳ تنظیم شده و توسط تعدادی از شرکت های پیشرو هوش مصنوعی تصویب شده است.

پایان پیام/