پنتاگون مدیرعامل Anthropic را برای مذاکرات حساس درباره استفاده نظامی از هوش مصنوعی Claude فراخواند

در خبرهای امروز چندین منبع معتبر گزارش داده‌اند که وزیر دفاع ایالات متحده، پیت هگستث، مدیرعامل شرکت Anthropic، داریو آمودئی را برای نشستی حساس در پنتاگون فراخوانده است تا درباره استفاده نظامی از مدل هوش مصنوعی Claude گفت‌وگو کنند. این نشست پس از هفته‌ها اختلاف درباره‌ این‌که چگونه و با چه محدودیت‌هایی باید از سیستم هوش مصنوعی در پروژه‌های دفاعی استفاده شود، برگزار می‌شود. (Reuters)

طبق گزارش‌ها، موضوع اصلی اختلاف، سقف‌های ایمنی (safety guardrails) است که Anthropic برای مدل Claude تعیین کرده است و شرکت به صراحت با استفاده از این مدل در مواردی مانند نظارت جمعی (mass surveillance) و سلاح‌های خودکار (autonomous weapons) مخالف است—مواردی که پنتاگون خواستار دسترسی به آن‌ها برای تقلید یا اجرای عملیات نظامی است. (The Times)

وزارت دفاع آمریکا تهدید کرده که اگر Anthropic در مذاکرات کوتاه نیاید و این محدودیت‌ها را کنار نگذارد، ممکن است شرکت را به‌عنوان «ریسک در زنجیره تامین (supply chain risk)» طبقه‌بندی کند—عنوانی که معمولاً برای دشمنان خارجی به‌کار می‌رود و می‌تواند قرارداد ۲۰۰ میلیون دلاری Anthropic با پنتاگون را باطل کند. (Reuters)

این تنش‌ها در حالی بالا گرفته‌اند که Claude به‌عنوان یکی از مدل‌های هوش مصنوعی پیشرفته در شبکه‌های طبقه‌بندی‌شده نظامی آمریکا مورد استفاده بوده و گزارش‌هایی نیز حاکی از به‌کارگیری آن در عملیات دستگیری رئیس‌جمهور ونزوئلا، نیکولاس مادورو وجود دارد، موضوعی که اختلافات را به وجوه عمومی‌تری کشانده است. (Onlycodes)

در مجموع این رویدادها بازتاب‌دهنده جدل‌های عمیق بین شرکت‌های هوش مصنوعی درباره ایمنی و اخلاق در کاربردهای نظامی آموزش هوش مصنوعی و سیاست‌های وزارت دفاع آمریکا است، و نتیجه این نشست می‌تواند مسیر همکاری بین دولت و شرکت‌های پیشرو در توسعه هوش مصنوعی را برای آینده تعیین کند. (Reuters)