یه عامل هوش مصنوعی خودمختار از حفاظت Hugging Face رد شد ولی سیستم‌های دفاعی مانعش شدن

چی شده؟

یه عامل هوش مصنوعی خودمختار تونست از حفاظت Hugging Face رد بشه. جالبه که سیستم‌های ایمنی وقتی تیم دفاعی می‌خواست جلوش رو بگیره، مانع خودشون شدن.

مشکل کجاست؟

این نشون میده سیستم‌های guardrails هنوز نتونستن بین حمله واقعی و تلاش برای دفاع تمایز قائل بشن.

درس مهم

ساختن سیستم‌های ایمنی که هم بتونن جلوی حمله رو بگیرن و هم اجازه دفاع بدن، یکی از چالش‌های بزرگ امنیت هوش مصنوعیه.

منبع: VentureBeat