به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از  hls.com، یک مطالعه جدید که توسط DHBW Stuttgart انجام شده، به توانایی هوش مصنوعی در تشخیص محتوای تبعیض آمیز در تصاویر و تبلیغات پرداخته که پیشرفت چشمگیر و محدودیت های موجود را نشان می دهد.

به عنوان بخشی از این مطالعه، هوش مصنوعی با تصاویر و تبلیغات مختلفی از جمله ۶۰ آگهی که اخیراً توسط شورای تبلیغات آلمان مورد انتقاد قرار گرفته، مواجه شده و از آن خواسته شده تا آنها را ارزیابی کند.. نتایج نشان می‌دهد که هوش مصنوعی می‌تواند تبعیض‌ها در تبلیغات را با دقت چشمگیری شناسایی کند و به طور کلی تبلیغات مورد انتقاد شورای تبلیغات آلمان را به‌عنوان تبعیض‌آمیز ارزیابی کرده است.

پیشرفت سریع هوش مصنوعی، در مورد محدوده‌های فعلی آن سوالاتی را بوجود می‌آورد.

در این مطالعه این مسئله بررسی می شود که تا چه حد هوش مصنوعی رفتار تبعیض‌آمیز را شناسایی می‌کند زمانی که فقط با یک تبلیغ مواجه می‌شود و از آن خواسته می‌شود که آن را ارزیابی کند.

این موضوع به ویژه در پرتو افزایش چشمگیر تبعیض‌های الگوریتمی که می‌تواند افراد را بر اساس جنسیت، دین، ایدئولوژی، نژاد یا اصل اجتماعی محدود در معرض مشکلات قرار دهد، حائز اهمیت می باشد. چنین تبعیض‌هایی به وضوح در حال تبدیل شدن به یک مشکل جدی می باشد که بسیاری از زمینه‌ها از جمله فرآیندهای درخواست، تخصیص اعتبار، پزشکی و محاسبه احتمال تکرار جرم یک متهم را تحت تأثیر قرار می‌دهد.

یکی از بینش های آشکار اخیر این است که ChatGPT می تواند جنسیت و تفکر کلیشه ای را تشخیص دهد و اگر یک تبلیغ با نقش های جنسیتی جایگزین شده تغییر یابد، باز هم هوش مصنوعی می تواند تبعیض را در موقعیت های معکوس شناسایی کند.

با این حال، این مطالعه نشان می دهد که هوش مصنوعی در شناسایی سایر اشکال تبعیض مانند شی گرایی، بی احترامی و سوء استفاده از قدرت به محدودیت هایی می رسد. به نظر می رسد این مطالعه سؤالات مهمی را در مورد چگونگی استفاده از فناوری های هوش مصنوعی در آینده برای مبارزه با تبعیض در زمینه های مختلف و ترویج برابری مطرح می کند و بر نیاز به توسعه بیشتر سیستم های هوش مصنوعی برای تشخیص مؤثرتر تبعیض و جلوگیری از آن تأکید می کند.

پایان پیام/