به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از  bbc، متا به معرفی نوعی فناوری‌  پرداخته که می‌تواند تصاویر تولید شده توسط ابزارهای هوش مصنوعی (AI) دیگر شرکت‌ها را شناسایی و برچسب‌گذاری کند.

این فناوری را بر روی پلتفرم های فیسبوک، اینستاگرام و تردز خود مستقر خواهد شد.

متا اعلام کرده، تصاویری که توسط سیستم‌های هوش مصنوعی خود ایجاد شده‌اند را مشخص می‌کند. آنها امیدوارند که فناوری جدیدی که هنوز در حال ساخت می باشد، تحرکی در صنعت ایجاد کند و این صنعت بتواند به مبارزه با تقلب‌های مرتبط با هوش مصنوعی بپردازد.

اما یکی از متخصصان هوش مصنوعی معتقد می باشد که چنین ابزارهایی به راحتی قابل دور زدن هستند.

متا اعلام کرده که قصد دارد در “ماه‌های آینده” برچسب‌گذاری تقلب‌های هوش مصنوعی را گسترش دهد.

این فناوری “هنوز به بلوغ کامل نرسیده” اما این شرکت قصد دارد “احساس انگیزه برای بقیه صنعت ایجاد کند تا از آن پیروی کنند.

قابلیت دور زدن آسان

مدیر آزمایشگاه هوش مصنوعی در دانشگاه مریلند، معتقد است که چنین سیستمی می‌تواند به راحتی قابل دور زدن باشد.

شناساگرها طوری آموزش می بینند که بتوانند برخی از تصاویر را که به طور خاص توسط برخی مدل‌های خاص تولید می‌شوند، پرچم‌گذاری کنند. اما همین شناساگرها را می توان به راحتی با انجام پردازش های سبک بر روی تصاویر دور زد و همچنین می توانند نرخ بالایی از نتایج مثبت کاذب را داشته باشند. بنابراین، ممکن است این روند برای طیف وسیعی از کاربردها امکان پذیر نباشد.

با این که دو رسانه صدا و ویدیو از جمله مواردی هستند که بسیاری از نگرانی‌ها درباره تقلب‌های هوش مصنوعی را ایجاد کرده اند اما متا اعلام کرده که ابزارش برای تشخیص تقلب در صدا و ویدیو کارایی ندارد.

این شرکت به جای اینکه خودش برچسب‌گذاری صدا و ویدیوهای کاربران را انجام دهد، از کاربران خود خواسته که پست‌های صوتی و ویدیویی خود را برچسب‌گذاری کنند و اگر این کار را انجام ندهند، ممکن است با اعمال جریمه رو برو شوند.

امکان تست کردن متن‌هایی که توسط ابزارهایی مانند ChatGPT تولید شده‌اند، غیرممکن می باشد.

روز دوشنبه، هیئت نظارت متا از این شرکت به دلیل سیاست آن در مورد رسانه های دستکاری شده انتقاد کرد و آن را “بی ارتباط، فاقد توجیه قانع کننده و تمرکز نامناسب بر نحوه ایجاد محتوا” اعلام کرد.

بودجه هیئت نظارت توسط متا اما مستقل از شرکت تامین می شود.

این انتقاد در پاسخ به ویدئویی در مورد جو بایدن، رئیس جمهور آمریکا بود. ویدئوی مورد بحث، تصاویر موجود از رئیس جمهور با نوه اش را ویرایش کرده بود تا به نظر برسد که او به طور نامناسبی نوه اش را لمس می کند.

اما از آنجایی که این ویدیو با استفاده از هوش مصنوعی دستکاری نشده بود و سیاست رسانه‌های متا را نقض نکرده بود، حذف نشد.

هیئت مدیره با این مسئله که این ویدئو قوانین فعلی متا در مورد رسانه های جعلی را نقض نمی کند، موافقت کرد اما معتقد است که قوانین باید به روز شوند.

سیاست فعلی متا مناسب محیطی که محتوای تولیدی توسط هوش مصنوعی و یا ترکیبی از محتوای واقعی و مصنوعی ایجاد می‌شود، نمی باشد.

از ژانویه، این شرکت سیاستی را اجرا کرده که بر اساس آن تبلیغات سیاسی باید وقتی از تصاویر یا ویدیوهای دیجیتالی دستکاری شده استفاده می‌کنند، این موضوع را مشخص کنند.

پایان پیام/