گوگل ابزار جدیدی به نام SynthID معرفی کرده است که هدف آن جلوگیری از انتشار اطلاعات نادرست با تعبیه یک واترمارک نامرئی و دائمی بر روی تصاویر تولید شده توسط کامپیوتر می باشد. SynthID که توسط واحد DeepMind گوگل با همکاری Google Cloud توسعه یافته، از جدیدترین تولیدکننده متن به تصویر به نام Imagen استفاده می کند. واترمارک تولید شده توسط هوش مصنوعی دست نخورده باقی می ماند حتی اگر تصویر با فیلترها یا رنگ های تغییر یافته اصلاح شود.

به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از  fagenwasanni ، این ابزار همچنین توانایی اسکن تصاویر دریافتی و تعیین احتمال ایجاد آنها توسط Imagen را دارد. این ابزار از سه سطح اطمینان استفاده می کند: شناسایی شده، شناسایی نشده، و احتمالاً شناسایی شده. اگرچه این ابزار کامل نیست، اما آزمایش داخلی نشان داده که SynthID در برابر بسیاری از دستکاری های رایج در تصاویر دقیق عمل می کند.

نسخه بتا SynthID در حال حاضر برای مشتریان منتخب یعنی Vertex AI که پلت فرم گوگل برای توسعه هوش مصنوعی مولد می باشد در دسترس قرار دارد. Google قصد دارد SynthID را اصلاح و گسترش دهد و به طور بالقوه آن را در سایر محصولات Google ادغام کند یا حتی آن را به اشخاص ثالث ارائه دهد.

تصاویر دیپ فیک و ویرایش شده به طور فزاینده ای واقعی شده اند و نگرانی هایی را در مورد صحت محتوای بصری ایجاد می کنند. شرکت های فناوری، از جمله گوگل، فعالانه به دنبال روش های قابل اعتماد برای شناسایی و علامت گذاری محتوای دستکاری شده هستند. کمیسیون اروپا خواستار پیاده‌سازی فناوری و علامت‌گذاری واضح چنین محتوایی برای کاربران شده است.

در این اقدام، گوگل به دیگر استارتاپ‌ها و شرکت‌های بزرگ فناوری که برای یافتن راه‌حل‌ها تلاش می‌کنند، می‌پیوندد. شرکت هایی مانند Truepic و Reality Defender بخشی از این جریان رو به رشد هستند و تمایز بین واقعیت و ساختگی بودن را تشخیص می دهند.

گوگل با ایجاد ابزارهایی مانند About this image که به کاربران اجازه می دهد منشاء تصاویر موجود در سایت را ردیابی کنند، رویکرد خود را برای مبارزه با اطلاعات نادرست در پیش گرفته است. علاوه بر این، تصاویر تولید شده توسط هوش مصنوعی گوگل دارای نشانه گذاری در فایل اصلی هستند تا در صورت یافتن تصویر در پلتفرم دیگری، اطلاعات توضیحی را ارائه دهند.

با این که این راه حل های فنی برای رسیدگی به مشکل اطلاعات نادرست در نظر گرفته شده است اما توسعه سریع فناوری هوش مصنوعی چالش هایی را هم برای نظارت انسان ایجاد می کند. OpenAI یعنی سازمانی که در پشت پرده Dall-E و ChatGPT قرار دارد، پذیرفته که تلاش‌هایش در تشخیص محتواهای تولید شده توسط هوش مصنوعی همچنان کامل نیستند. بنابراین در استفاده از راه حل های فنی جهت مبارزه با اطلاعات نادرست، احتیاط توصیه می شود.

پایان پیام/