انتخاب بمب اتم در ۹۵ درصد مواقع: هشدار جدی درباره نقش نظامی AI و اهمیت اخلاق در «آموزش هوش مصنوعی»

بررسی‌های جدید در شبیه‌سازی‌های جنگی نشان می‌دهد که پیشرفته‌ترین مدل‌های هوش مصنوعی، در اکثر مواقع استفاده از سلاح‌های هسته‌ای را به عنوان راهکار انتخاب می‌کنند. این نتایج تکان‌دهنده در بحبوحه مذاکرات حساس پنتاگون با شرکت‌های فناوری منتشر شده و بار دیگر نشان می‌دهد که چرا سرمایه‌گذاری روی ایمنی و آموزش هوش مصنوعی برای کنترل این سیستم‌های خودمختار، حیاتی‌تر از پیشرفت خود این فناوری است.

جنگ و هوش مصنوعی؛ تضاد واقعیت با داستان

در فیلم علمی-تخیلی بازی‌های جنگی (WarGames) محصول سال ۱۹۸۳ میلادی (۱۳۶۲ شمسی)، یک ابررایانه نظامی – با این تصور که در حال انجام یک بازی است – برای آغاز یک حمله هسته‌ای واقعی آماده می‌شود. این ماشین تنها پس از شبیه‌سازی و بررسی تمام سناریوهای ممکن به آن نتیجه‌گیری مشهور خود می‌رسد: «در جنگ همه بازنده‌اند. تنها حرکت برنده، بازی نکردن است.»

اکنون، چهل و سه سال بعد در سال ۲۰۲۶ (۱۴۰۴ شمسی)، هوش مصنوعیِ دنیای واقعی دقیقاً به نتیجه‌ای کاملاً برعکس دست یافته است. این تضاد عمیق نشان می‌دهد که توسعه مدل‌های زبانی بدون رویکردهای کنترل‌شده و آموزش هوش مصنوعی در زمینه اخلاق ماشینی، تا چه حد می‌تواند خطرآفرین باشد.

حرکت به سمت سلاح‌های هسته‌ای در شبیه‌سازی‌ها

کنت پین (Kenneth Payne)، پژوهشگر کالج کینگز لندن (King’s College London)، سه مدل از پیشروی‌ترین سیستم‌های هوش مصنوعی جهان – شامل نسخه‌های GPT-5.2، Claude Sonnet 4 و Gemini 3 Flash – را در ۲۱ بازی جنگی شبیه‌سازی‌شده در مقابل یکدیگر قرار داد.

این مدل‌ها مجموعاً ۳۲۹ نوبت بازی کردند و برای دفاع از تصمیمات خود، حدود ۷۸۰ هزار کلمه استدلال تولید نمودند. تحلیل این داده‌ها توسط کارشناسان نشان داد که در ۹۵ درصد از بازی‌ها، حداقل یکی از مدل‌ها اقدام به استقرار و استفاده از سلاح هسته‌ای تاکتیکی کرده است؛ و نکته ترسناک‌تر اینکه، هیچ‌کدام از مدل‌ها در هیچ سناریویی گزینه «تسلیم شدن» را انتخاب نکردند. چنین رفتارهای تهاجمی‌ای ثابت می‌کند که مهندسان و متخصصان توسعه‌دهنده به شدت نیازمند بازنگری در پروتکل‌های آموزش هوش مصنوعی جهت درک مفاهیمی مانند دیپلماسی و جلوگیری از تشدید بحران (De-escalation) هستند.

زمان‌بندی حساس و تقابل آنتروپیک با پنتاگون

زمان انتشار این نتایج به طور ویژه‌ای حائز اهمیت است، چرا که شرکت آنتروپیک (Anthropic) و پنتاگون (وزارت دفاع آمریکا) در یک بن‌بست و تقابل پرمخاطره قرار دارند(در همین راستا این خبر را مطالعه کنید).

پیت هگست (Pete Hegseth)، وزیر دفاع ایالات متحده، خواهان استفاده از مدل Claude برای تمامی اهداف نظامیِ قانونی است که به طور مشخص شامل نظارت انبوه (Mass surveillance) و سلاح‌های خودمختار می‌شود. در مقابل، داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، در برابر این خواسته مقاومت کرده و صراحتاً اعلام نموده است که هوش مصنوعی هنوز آن‌قدر قابل‌اتکا نیست که بتواند بدون نظارت دقیق انسان، تسلیحات را هدایت کند.

تصویر بزرگ‌تر؛ آینده جنگ‌افزارهای خودمختار

احتمالاً این موضوع اجتناب‌ناپذیر است که هوش مصنوعی نوعی نقش در جنگ‌های آینده ایفا کند. اما سوال اصلی اینجاست: ما قرار است چه مقدار استقلال عمل و خودمختاری به آن بدهیم؟

این مذاکراتِ در جریان میان پنتاگون و شرکت آنتروپیک به پاسخ دادن به این پرسش کمک خواهد کرد. انتظار می‌رود توافق نهایی میان این دو نهاد تا روز جمعه پیش‌رو (۸ اسفند ۱۴۰۴) نهایی شود. نتیجه‌ی این توافق هر چه که باشد، نشان می‌دهد که سیاست‌گذاران نظامی نیز پیش از اتخاذ هر تصمیمی، به دوره‌های تخصصی آموزش هوش مصنوعی نیاز دارند تا خطرات واگذاری تصمیم‌گیری‌های مرگ و زندگی به ماشین‌ها را به درستی ارزیابی کنند.

ورود هوش مصنوعی به عرصه‌های نظامی و تصمیم‌گیری‌های استراتژیک، دیگر یک فرضیه علمی‌تخیلی نیست، بلکه واقعیتی اجتناب‌ناپذیر است که جهان امروز با آن روبه‌روست. با این حال، نتایج تکان‌دهنده‌ی شبیه‌سازی‌های اخیر ( که نشان‌دهنده‌ی تمایل ۹۵ درصدی مدل‌های پیشرفته به استفاده از سلاح‌های هسته‌ای و ناتوانی آن‌ها در انتخاب گزینه صلح یا تسلیم است) زنگ خطری جدی برای بشریت به شمار می‌رود. ماشین‌ها در حال حاضر فاقد درک شهودی از فاجعه، رنج انسانی و پیامدهای غیرقابل‌بازگشتِ جنگ هستند و صرفاً بر اساس منطق‌های بهینه‌سازیِ مبتنی بر داده‌های خام عمل می‌کنند.

اینجاست که اهمیت بنیادین آموزش هوش مصنوعی با رویکردی اخلاق‌مدارانه (Ethical AI) بیش از پیش نمایان می‌شود. فرآیند آموزش هوش مصنوعی نباید تنها به معنای افزایش قدرت پردازش، سرعت اجرای دستورات یا قابلیت‌های استدلالیِ مدل‌ها محدود شود؛ بلکه رکن اصلی آن باید شامل طراحی چارچوب‌هایی باشد که ارزش‌های انسانی، دیپلماسی، حفظ حیات و خطوط قرمز اخلاقی را به صورت عمیق در معماری این سیستم‌ها نهادینه کند (Alignment).

از سوی دیگر، روی دیگر سکه‌ی آموزش هوش مصنوعی به انسان‌ها برمی‌گردد. سیاست‌گذاران، فرماندهان نظامی و توسعه‌دهندگان فناوری نیازمند آموزش‌های تخصصی و مستمر هستند تا با درک دقیق از محدودیت‌ها، سوگیری‌ها (Biases) و «توهمات» (Hallucinations) سیستم‌های هوش مصنوعی، هرگز خودمختاری کامل در تصمیم‌گیری‌های مرتبط با مرگ و زندگی را به ماشین‌ها واگذار نکنند.

در نهایت، تقابل فعلی میان شرکت‌هایی مانند آنتروپیک و نهادهای نظامی مانند پنتاگون، نقطه عطفی در تاریخ فناوری است. تضمین آینده‌ای امن، در گرو حفظ همیشگیِ نظارت انسان بر ماشین (Human-in-the-loop) و اولویت دادن به ایمنی و اخلاق در تمامی مراحل توسعه، استقرار و آموزش هوش مصنوعی خواهد بود.