به گزارش سرویس بین الملل پایگاه خبری عدل البرز به نقل از   foxla، یک روند جدید و نگران‌کننده با استفاده از هوش مصنوعی در حال رخ دادن می باشد، که ویدیوهای دیپ‌فیک از کودکانی که در آن‌ها توصیف می‌کنند چگونه به قتل رسیده‌اند، در انواع پلتفرم‌های اجتماعی منتشر می‌شوند و این امر باعث ترس و وحشت خانواده‌های قربانیان قتل می‌شود.

کلمات نگران‌کننده جیلین کاندلاریا از طریق ویدیوهای تولید شده توسط رایانه، داستان وحشتناکی از رها شدن و خشونت را بازگو می‌کنند. “مادرم مرا تنها در خانه رها کرد تا بمیرم و تنها به تعطیلات برود”، این جملات را دیپ‌فیک  بازگو می‌کند.

در یک ویدیو دیگر تولید شده توسط هوش مصنوعی، یک کودک داستان قتل خود را به یاد می‌آورد و می‌گوید که ۱۴ ضربه چاقو به بدنش زده شده است.

متأسفانه، این روایت ها تخیلی نیستند. آنها برگرفته از موارد واقعی قتل و مرگ های مرموز از سراسر جهان هستند.

تصاویر کودکان سرقت شده از عناوین اخبار با استفاده از هوش مصنوعی به ویدیو تبدیل می شوند.

بسیاری از خانواده ها که شاهد سوء استفاده از داستان های غم انگیز عزیزانشان بدون رضایت در پلتفرم هایی مانند تیک تاک بوده اند، از این مسئله ناراحت هستند. هیچ نظارت یا قانونی وجود ندارد که افراد را از ایجاد این حساب ها باز دارد.

تیک تاک با حذف ویدیوهای دیپ فیک خاص به برخی از شکایات پاسخ داده، اما این چالش همچنان ادامه دارد.

پایان پیام/