هشدار ترسناک محقق سابق Anthropic: «دنیا در خطر است»

در حالی که شرکت‌های بزرگ هوش مصنوعی برای رسیدن به مدل‌های قدرتمندتر با هم رقابت می‌کنند، کسانی که وظیفه «ترمز گرفتن» را داشتند، یکی‌یکی در حال ترک صحنه هستند. جدیدترین و شاید دراماتیک‌ترین مورد، استعفای مرینانک شارما (Mrinank Sharma)، مدیر تیم پادمان‌ها (Safeguards) در شرکت Anthropic است.

نامه‌ای که لرزه بر اندام انداخت

شارما که مسئول جلوگیری از سوءاستفاده‌های خطرناک از هوش مصنوعی بود، با انتشار یک نامه عمومی استعفای خود را اعلام کرد. او در این نامه با لحنی صریح هشدار داد:

«جهان به دلیل هوش مصنوعی، سلاح‌های بیولوژیک و بحران‌های درهم‌تنیده در معرض خطری جدی (Peril) قرار دارد.»

او در ادامه به فشار شرکت‌های بزرگ اشاره کرد و گفت بارها شاهد بوده که چقدر سخت است بگذاریم ارزش‌هایمان بر اعمالمان حاکم باشند. به گفته او، حتی شرکتی مثل Anthropic که با شعار «هوش مصنوعی امن و اخلاقی» بنا شده بود، حالا به طور مداوم با فشارهایی روبه‌روست تا آنچه «بیش از همه اهمیت دارد» (یعنی امنیت) را فدای رقابت و سودآوری کند.

از الگوریتم تا غزل: فرار به بریتانیا

نکته عجیب و تامل‌برانگیز در مورد استعفای شارما، مقصد بعدی اوست. او اعلام کرده که قصد دارد به بریتانیا بازگردد، به مطالعه شعر و ادبیات بپردازد و به قول خودش «نامرئی شود». این تصمیم نشان‌دهنده عمق ناامیدی یا شاید وحشت یکی از نزدیک‌ترین افراد به هسته مرکزی هوش مصنوعی از مسیری است که این تکنولوژی در پیش گرفته است.

یک الگوی نگران‌کننده در دنیای AI

استعفای شارما تنها یک اتفاق گذرا نیست. او درست در همان هفته‌ای از Anthropic جدا شد که یک محقق برجسته دیگر نیز به دلایل مشابه امنیتی از OpenAI استعفا داده بود.

این خروج‌های سریالی نشان‌دهنده یک شکاف عمیق است:

• بخش تجاری: به دنبال عرضه سریع‌تر محصولات و رقابت با رقبا.

• بخش امنیت: نگران از دست رفتن کنترل و ایجاد تهدیدات موجودیتی برای بشر.

وقتی کسی که مستقیماً روی «پادمان‌های امنیتی» کار می‌کند، به جای اصلاح سیستم، ترجیح می‌دهد به دنیای شعر پناه ببرد و «نامرئی» شود، یعنی زنگ‌های خطر بلندتر از آن چیزی است که مدیران عامل شرکت‌ها در مصاحبه‌هایشان ادعا می‌کنند.

منبع: BBC News