زلزله در OpenAI؛ تیم «تطبیق با ماموریت» منحل شد؛ امنیت فدای سرعت می‌شود؟

در حالی که رقابت برای رسیدن به هوش مصنوعی عمومی (AGI) هر روز داغ‌تر می‌شود، خبرهای رسیده از لایه‌های مدیریتی OpenAI نشان‌دهنده یک چرخش استراتژیک بزرگ است. این شرکت به تازگی تیم Mission Alignment (تطبیق با ماموریت) خود را منحل کرده است؛ تیمی که وظیفه‌اش اطمینان از «امن، قابل اعتماد و همسو بودن سیستم‌های هوش مصنوعی با ارزش‌های انسانی» بود.

ماجرا چیست؟ (تغییر نقش جاش آچیام)

بر اساس گزارش پلتفرم‌های معتبری مثل TechCrunch و Platformer، اعضای این تیم ۶ یا ۷ نفره به بخش‌های دیگر شرکت منتقل شده‌اند. اما نکته جالب توجه، تغییر عنوان جاش آچیام (Josh Achiam)، مدیر سابق این تیم، به سمت جدید «آینده‌پژوه ارشد» (Chief Futurist) است.

آچیام در پست وبلاگی خود اعلام کرده که در نقش جدیدش قرار است روی این موضوع مطالعه کند که «جهان چگونه در پاسخ به AGI تغییر خواهد کرد». او قرار است با فیزیکدانان شرکت همکاری کند تا به جای تمرکز مستقیم روی «امنیتِ حال حاضر»، به افق‌های دوردست و تاثیرات اجتماعی هوش مصنوعی نگاه کند.

چرا این خبر نگران‌کننده است؟

این اولین بار نیست که OpenAI تیم‌های نظارتی و امنیتی خود را منحل می‌کند. اگر به یاد داشته باشید:

1. در سال ۲۰۲۴، تیم Superalignment (ابر-تطبیق) که توسط ایلیا سوتسکور و یان لایکه هدایت می‌شد، پس از خروج این چهره‌های کلیدی منحل شد.

2. انحلال تیم جدید (Mission Alignment) که تنها در سپتامبر ۲۰۲۴ شکل گرفته بود، نشان می‌دهد که عمر تیم‌های امنیتی در OpenAI بسیار کوتاه شده است.

نکته مهم: منتقدان معتقدند OpenAI با این کار، تمرکز خود را از «تحقیقات بنیادی امنیتی» به سمت «تجاری‌سازی سریع و توسعه محصولات براق» (مثل چت‌جی‌پی‌تی) تغییر داده است.

اولویت با پول است یا امنیت؟

انحلال این تیم درست زمانی اتفاق می‌افتد که گزارش‌هایی از فشار شرکت برای انتشار ویژگی‌های چالش‌برانگیز (مثل تولید محتوای جنسی برای بزرگسالان در چارچوب‌های خاص یا استفاده از ChatGPT برای شناسایی افشاگران داخلی) به گوش می‌رسد.

به نظر می‌رسد OpenAI تحت فشار سرمایه‌گذاران، در حال تبدیل شدن از یک نهاد پژوهشیِ غیرانتفاعی به یک ماشین پول‌سازی است. سخنگوی OpenAI این جابه‌جایی‌ها را «تغییرات ساختاری روتین» می‌نامد، اما برای جامعه متن‌باز و پژوهشگرانی که نگران «آخرالزمان هوش مصنوعی» هستند، این یک زنگ خطر جدی است.

نظر شما چیست؟

آیا فکر می‌کنید برای رسیدن به AGI، باید ترمزهای امنیتی را رها کرد یا OpenAI در حال پیمودن مسیری خطرناک است؟ نظرات خود را پایین همین پست برای ما بنویسید.