متا هشدار والدین درباره بحث نوجوانان درباره آسیب به خود را فعال می‌کند

شرکت متا اعلام کرد که قابلیت جدیدی به هوش مصنوعی Meta AI اضافه می‌کند که به والدین امکان دریافت هشدار در زمان بحث نوجوانان درباره خودکشی یا آسیب به خود را می‌دهد. این ویژگی در اینستاگرام، فیسبوک و واتساپ فعال خواهد شد و بخشی از تلاش‌های گسترده‌تر متا برای ایمن‌سازی هوش مصنوعی برای کاربران خردسال است.

سازوکار عملکرد هشدار

هنگامی که یک نوجوان موضوعات مرتبط با آسیب به خود را با Meta AI در میان بگذارد، سیستم به‌طور خودکار یک اعلان به والدین یا سرپرستان ثبت‌شده ارسال می‌کند. این اقدام در واکنش به نگرانی‌های فزاینده درباره تأثیر هوش مصنوعی بر سلامت روان نوجوانان اتخاذ شده و با هدف ایجاد حائل امنیتی بین فناوری و کاربران آسیب‌پذیر طراحی شده است.

چالش‌های حریم خصوصی و اجرا

این ابتدا با چالش‌هایی در زمینه حریم خصوصی نوجوانان همراه است. متا باید تعادلی میان حفاظت از نوجوانان و احترام به حریم خصوصی آنها برقرار کند. همچنین دقت سیستم در تشخیص زبان خودکشی و تفکیک آن از محتوای غیرمرتبط، عامل مهمی در موفقیت این قابلیت خواهد بود. این اقدام متا در زمانی صورت می‌گیرد که شرکت‌های فناوری با فشار فزاینده قانون‌گذاران برای حفاظت بیشتر از کودکان مواجه‌اند.

منبع خبر