جنگ ستارگان واقعی: فشار پنتاگون برای دریافت هوش مصنوعی «بدون محدودیت» و «بدون سانسور»

پس از خبر مدل‌های فوق‌سریع OpenAI و Z.AI، اکنون خبری نگران‌کننده و بحث‌برانگیز از تعامل ارتش آمریکا و غول‌های فناوری منتشر شده است. در حالی که دنیا هنوز درگیر بحث‌های اخلاقی پیرامون ایمنی هوش مصنوعی است، گزارش‌های جدید نشان می‌دهد که پنتاگون (وزارت دفاع آمریکا) شمشیر را از رو بسته است. طبق گزارش رویترز و The Decoder، پنتاگون فشار سنگینی را بر غول‌های فناوری وارد کرده تا مدل‌های هوش مصنوعی خود را بدون هیچ‌گونه محدودیت ایمنی رایج در شبکه‌های طبقه‌بندی شده و سری نظامی مستقر کنند.

درخواست پنتاگون چیست؟

در جلسه‌ای که سه‌شنبه گذشته در کاخ سفید برگزار شد، «امیل مایکل»، مدیر ارشد فناوری پنتاگون، به مدیران اجرایی شرکت‌های OpenAI، Google، Anthropic و xAI (متعلق به ایلان ماسک) اعلام کرد که ارتش نیاز دارد مدل‌های هوش مصنوعی در تمام سطوح امنیتی در دسترس باشند.

پنتاگون می‌خواهد از این مدل‌ها برای کارهای بسیار حساسی مانند:

• برنامه‌ریزی مأموریت‌های جنگی

• هدف‌گیری تسلیحاتی (Weapons Targeting)

استفاده کند. اما مشکل کجاست؟ این مدل‌ها دارای «پروتکل‌های ایمنی» هستند که اجازه نمی‌دهند هوش مصنوعی در ساخت سلاح یا آسیب به انسان مشارکت کند. پنتاگون دقیقاً خواستار حذف همین پروتکل‌ها است.

مقاومت آنتروپیک (Anthropic)؛ کلود سرکشی می‌کند

در میان این شرکت‌ها، OpenAI، Google و xAI ظاهراً چراغ سبزهایی نشان داده‌اند. OpenAI اخیراً قراردادی برای شبکه غیرمحرمانه genai.mil امضا کرده که دسترسی ۳ میلیون کارمند وزارت دفاع را فراهم می‌کند و بسیاری از محدودیت‌های معمول را برای آن‌ها برداشته است.

اما شرکت Anthropic (سازنده مدل Claude) تبدیل به سنگ بزرگی در راه پنتاگون شده است. با اینکه کلود هم‌اکنون از طریق واسطه‌ها در برخی شبکه‌های نظامی حضور دارد، اما مدیران این شرکت صراحتاً اعلام کرده‌اند که اجازه نخواهند داد هوش مصنوعی آن‌ها برای دو هدف شوم استفاده شود:

1. کنترل سلاح‌های خودکار (Autonomous Weapons)

2. نظارت و جاسوسی داخلی (Domestic Surveillance)

توهم هوش مصنوعی در میدان جنگ: فاجعه یا ابزار؟

پژوهشگران هوش مصنوعی (از جمله خود من) بارها هشدار داده‌ایم که مدل‌های زبانی هنوز دچار «توهم» (Hallucination) می‌شوند. اگر یک مدل هوش مصنوعی در نوشتن کد اشتباه کند، برنامه کامپایل نمی‌شود؛ اما اگر در تشخیص یک هدف نظامی یا غیرنظامی دچار توهم شود، نتیجه آن می‌تواند مرگ انسان‌های بی‌گناه باشد.

با این حال، مقامات پنتاگون معتقدند که محدودیت‌های اعمال شده توسط شرکت‌ها (Company-imposed safeguards) غیرضروری است. استدلال آن‌ها این است: «تا زمانی که استفاده ما طبق قوانین ایالات متحده باشد، شرکت‌های خصوصی حق ندارند برای ارتش تعیین تکلیف کنند.»

ما در نقطه عطف خطرناکی ایستاده‌ایم. تا پیش از سال ۲۰۲۶، تمرکز شرکت‌ها بر Safety و Alignment (همسوسازی) بود تا هوش مصنوعی به انسان آسیب نزند. اکنون با ورود مستقیم پنتاگون و درخواست برای مدل‌های «Unrestricted» (بدون محدودیت)، عملاً وارد عصر نظامی‌سازی هوش مصنوعی شده‌ایم. مقاومت شرکت‌هایی مثل Anthropic قابل تحسین است، اما تاریخ نشان داده که وقتی بودجه‌های تریلیون دلاری نظامی وسط باشد، مقاومت شرکت‌های تکنولوژی چندان دوام نمی‌آورد. این خبر برای ما در خاورمیانه که اغلب محل آزمون تکنولوژی‌های نظامی جدید هستیم، اهمیت دوچندانی دارد.

نظر شما چیست؟ آیا هوش مصنوعی باید در اختیار ارتش‌ها قرار بگیرد یا باید خط قرمزی برای آن ترسیم شود؟