سان‌فرانسیسکو به اپل و گوگل دستور حذف اپلیکیشن‌های هوش مصنوعی نودیفای را داد

شهرداری سان‌فرانسیسکو با صدور دستور رسمی، شرکت‌های اپل و گوگل را ملزم به حذف اپلیکیشن‌های هوش مصنوعی برهنه‌ساز (Nudify) از فروشگاه‌های خود کرده است. دیوید چیو، دادستان شهری، نامه‌های رسمی توقف فعالیت را برای این غول‌های فناوری ارسال کرده و خواستار حذف ۱۳ اپلیکیشن شده است.

اپلیکیشن‌های مورد هدف و نحوه عملکرد

این اپلیکیشن‌ها با استفاده از فناوری هوش مصنوعی قادر به تولید تصاویر صریح و غیراخلاقی از تصاویر عادی افراد هستند. با وجود ممنوعیت رسمی این ابزارها در فروشگاه‌های اپلیکیشن، بسیاری از آن‌ها همچنان با نام‌های مختلف و بدون ذکر صریح عملکرد خود در دسترس کاربران قرار داشتند. این اپلیکیشن‌ها بیشتر در معرض نگرانی‌های جدی درباره حریم خصوصی و سلامت روان قرار گرفته‌اند.

پیامدهای حقوقی و اجتماعی

این اقدام سان‌فرانسیسکو می‌تواند الگویی برای سایر شهرها و ایالت‌ها باشد. دادستان چیو استدلال کرده که شرکت‌های اپل و گوگل از فروش این اپلیکیشن‌ها سود مالی مستقیم کسب می‌کنند و مسئولیت اخلاقی و حقوقی دارند. این پرونده می‌تواند زمینه‌ساز مقررات جامع‌تری در حوزه نظارت بر اپلیکیشن‌های هوش مصنوعی در سراسر ایالات متحده شود و تعامل بین نهادهای نظارتی و شرکت‌های فناوری را دگرگون سازد.

منبع: arstechnica.com