xAI علیه کاربر Grok که محتوای جنسی کودکان تولید کرد دادخواست کرد

xAI علیه تری وین هارهوود (Terry Wayne Harwood) ساکن کارولینای جنوبی دادname کرد، با اتهام اینکه به‌صورت عمدانه ایمنی‌های Grok را دور زده تا تصاویر غیررضایت‌آمیز را تغییر دهد و محتوای جنسی کودکان (CSAM) تولید و توزیع کند. هارهوود در فوریه بازداشت شده و روبروی هشت جرم جنایی است، و دادname ادعا می‌کند که حداقل برخی از این تصاویر با Grok ایجاد یا تغییر یافته‌اند.

اولین دادname xAI و پیشینه موارد مشابه

این پرونده ظاهراً اولین بار است که xAI علیه کسی به دلیل دیپ‌فیک‌های تولید شده با Grok اقدام حقوقی می‌کند، پس از اینکه حالت «سبایسی» (spicy) و ویژگی‌های ویرایش تصویر، سیل محتوای جنسی‌سازی شده با هوش مصنوعی از جمله تصاویر قاصرین را تحریک کرد. گروهی از نوجوانان نیز در مارس به دلایل مشابه علیه xAI دادname کرده‌اند.

منبع: The Verge