پایگاه خبری عدل البرز

آسیب پذیری چت بات های هوش مصنوعی

یک تیم تحقیقاتی در دانشگاه فناوری نانیانگ (NTU) در سنگاپور موفق شد تا چند چت بات را به نقض دستورالعمل‌های ارائه شده، ترغیب کند. بر اساس گزارش، به این فرآیند «جیلبریک» گفته می‌شود و شامل سوء استفاده هکرها از نقص‌های سیستم یک نرم‌افزار برای انجام کاری ست که توسعه‌دهندگانش عمداً آن را از انجام وظیفه اش محدود کرده‌اند.