• امروز : پنج شنبه - ۹ بهمن - ۱۴۰۴
  • برابر با : Thursday - 29 January - 2026

جیلبریک

17دی
آسیب پذیری چت بات های هوش مصنوعی

آسیب پذیری چت بات های هوش مصنوعی

یک تیم تحقیقاتی در دانشگاه فناوری نانیانگ (NTU) در سنگاپور موفق شد تا چند چت بات را به نقض دستورالعمل‌های ارائه شده، ترغیب کند. بر اساس گزارش، به این فرآیند «جیلبریک» گفته می‌شود و شامل سوء استفاده هکرها از نقص‌های سیستم یک نرم‌افزار برای انجام کاری ست که توسعه‌دهندگانش عمداً آن را از انجام وظیفه اش محدود کرده‌اند.

15مهر
نحوه کنترل ذهن سیستم‌های هوش مصنوعی

نحوه کنترل ذهن سیستم‌های هوش مصنوعی

سیستم های هوش مصنوعی فعلی قادر به دروغ گفتن و تلاش برای فریب دادن کاربران انسانی هستند.یکی از جنبه‌های مهم توسعه مداوم هوش مصنوعی این است که مطمئن شویم، انسان‌ها ابزارهایی برای کنترل این فناوری در اختیار دارند.

10مرداد
دور زدن قوانین ایمنی چت بات هوش مصنوعی
کشف روش های جدید نقض امنیتی

دور زدن قوانین ایمنی چت بات هوش مصنوعی

محققان یک نوع جدید از نقض امنیتی را کشف کرده‌اند که با استفاده از رایانه ایجاد می‌شود . این موضوع باعث نگرانی‌هایی در مورد ایمنی استفاده از مدل‌های بات‌های هوش مصنوعی می‌شود، به ویژه زمانی که بات‌ها بیشتر به صورت خودکار و بدون دخالت انسانی عمل می‌کنند.