آنتروپیک درخواست پنتاگون برای دسترسی نامحدود به هوش مصنوعی را رد کرد

آنتروپیک درخواست پنتاگون برای دسترسی نامحدود به هوش مصنوعی را رد کرد: داریو آمودی (Dario Amodei)، مدیرعامل آنتراپیک، درخواست پنتاگون برای دسترسی نامحدود به هوش مصنوعی کلود (Claude) را رد کرد و بر موضع خود در قبال دو مسئله کلیدی پافشاری کرد: عدم نظارت گسترده بر شهروندان آمریکایی و عدم استفاده از سلاح‌های خودمختار کشنده. در حالی که گزارش‌ها حاکی از آن است که OpenAI و xAI پیش‌تر با این شرایط جدید موافقت کرده‌اند، در صورتی که پنتاگون تصمیم به قطع رابطه با آنتراپیک بگیرد، این بن‌بست می‌تواند برای تیم‌های مهندسی که در پروژه‌های دفاعی و دولتی به کلود متکی هستند، مشکلاتی ایجاد کند.

بیانیه داریو آمودی در مورد مذاکرات آنتراپیک با وزارت جنگ (۲۶ فوریه ۲۰۲۶، 7 اسفند 1404)

او [داریو آمودی] عمیقاً بر این باور است که استفاده از هوش مصنوعی برای دفاع از ایالات متحده و سایر دموکراسی‌ها، و همچنین برای شکست دادن دشمنان مستبد، اهمیتی حیاتی و وجودی دارد.

بنابراین، آنتراپیک به‌طور فعالانه تلاش کرده است تا مدل‌های خود را در اختیار وزارت جنگ و جامعه اطلاعاتی قرار دهد. این شرکت اولین شرکت پیشرو در حوزه هوش مصنوعی بود که مدل‌های خود را در شبکه‌های طبقه‌بندی‌شده دولت آمریکا مستقر کرد، اولین شرکتی بود که آن‌ها را در آزمایشگاه‌های ملی به کار گرفت و اولین شرکتی بود که مدل‌های سفارشی را برای مشتریان امنیت ملی ارائه داد. کلود به‌طور گسترده در سراسر وزارت جنگ و سایر آژانس‌های امنیت ملی برای کاربردهای حیاتی مانند تحلیل اطلاعات، مدل‌سازی و شبیه‌سازی، برنامه‌ریزی عملیاتی، عملیات سایبری و موارد دیگر مستقر شده است.

آنتراپیک همچنین برای دفاع از پیشتازی آمریکا در حوزه هوش مصنوعی وارد عمل شده است، حتی زمانی که این کار برخلاف منافع کوتاه‌مدت شرکت بوده است. آن‌ها تصمیم گرفتند از صدها میلیون دلار درآمد چشم‌پوشی کنند تا دسترسی شرکت‌های مرتبط با حزب کمونیست چین (که برخی از آن‌ها توسط وزارت جنگ به عنوان شرکت‌های نظامی چینی معرفی شده‌اند) به کلود را قطع کنند، حملات سایبری تحت حمایت حزب کمونیست چین که قصد سوءاستفاده از کلود را داشتند متوقف سازند، و از کنترل‌های صادراتی سخت‌گیرانه روی تراشه‌ها برای تضمین برتری دموکراتیک حمایت کرده‌اند.

آنتراپیک درک می‌کند که این وزارت جنگ است که تصمیمات نظامی را می‌گیرد، نه شرکت‌های خصوصی. این شرکت هرگز به عملیات‌های نظامی خاصی اعتراض نکرده و تلاشی برای محدود کردن استفاده از فناوری خود به صورت موردی (ad hoc) نداشته است.

با این حال، در مجموعه‌ای محدود از موارد، آن‌ها معتقدند که هوش مصنوعی می‌تواند به جای دفاع از ارزش‌های دموکراتیک، آن‌ها را تضعیف کند. همچنین برخی از کاربردها به سادگی خارج از مرزِ کارهایی هستند که فناوری امروزی می‌تواند به شکلی ایمن و قابل‌اتکا انجام دهد. دو مورد از این کاربردها هرگز در قراردادهای این شرکت با وزارت جنگ گنجانده نشده‌اند و آن‌ها بر این باورند که اکنون نیز نباید گنجانده شوند:

• نظارت گسترده داخلی: آنتراپیک از استفاده از هوش مصنوعی برای مأموریت‌های قانونی اطلاعاتی و ضد اطلاعاتیِ خارجی حمایت می‌کند. اما استفاده از این سیستم‌ها برای نظارت گسترده داخلی با ارزش‌های دموکراتیک در تضاد است. نظارت گسترده مبتنی بر هوش مصنوعی، خطرات جدی و جدیدی را برای آزادی‌های بنیادین ایجاد می‌کند. تا جایی که چنین نظارتی در حال حاضر قانونی است، تنها به این دلیل است که قانون هنوز نتوانسته خود را با قابلیت‌های به سرعت در حال رشد هوش مصنوعی همگام کند. به عنوان مثال، تحت قوانین فعلی، دولت می‌تواند سوابق دقیق جابجایی‌ها، وب‌گردی‌ها و ارتباطات آمریکایی‌ها را از منابع عمومی بدون نیاز به حکم دادگاه خریداری کند؛ رویه‌ای که جامعه اطلاعاتی نیز اذعان کرده است نگرانی‌های مربوط به حریم خصوصی را به همراه دارد و با مخالفت‌های دوحزبی در کنگره مواجه شده است. هوش مصنوعی قدرتمند این امکان را فراهم می‌کند که این داده‌های پراکنده و به ظاهر بی‌خطرِ فردی، به‌طور خودکار و در مقیاسی عظیم، به تصویری جامع از زندگی هر شخص تبدیل شوند.

• سلاح‌های کاملاً خودمختار (تمام‌خودکار): سلاح‌های نیمه‌خودمختار، مانند آنچه امروز در اوکراین استفاده می‌شود، برای دفاع از دموکراسی حیاتی هستند. حتی سلاح‌های کاملاً خودمختار (آن‌هایی که انسان را کاملاً از چرخه تصمیم‌گیری خارج کرده و انتخاب و درگیری با اهداف را خودکار می‌کنند) ممکن است برای دفاع ملی آمریکا حیاتی باشند. اما امروزه، سیستم‌های پیشرفته هوش مصنوعی به سادگی آن‌قدر قابل‌اتکا نیستند که بتوانند سلاح‌های کاملاً خودمختار را هدایت کنند. آنتراپیک آگاهانه محصولی را که جان نظامیان و غیرنظامیان آمریکایی را به خطر بیندازد، ارائه نخواهد داد. این شرکت پیشنهاد داده است تا برای بهبود قابلیت‌اتکای این سیستم‌ها مستقیماً با وزارت جنگ در زمینه تحقیق و توسعه (R&D) همکاری کند، اما آن‌ها این پیشنهاد را نپذیرفته‌اند. علاوه بر این، بدون نظارت مناسب، نمی‌توان به سلاح‌های کاملاً خودمختار برای اعمال قضاوت‌های انتقادی و حساسی که نیروهای آموزش‌دیده و حرفه‌ای هر روز از خود نشان می‌دهند، اتکا کرد. این سلاح‌ها باید با پادمان‌ها و نرده‌های محافظ (guardrails) مناسبی مستقر شوند که امروزه وجود ندارند.

تا جایی که این شرکت اطلاع دارد، این دو استثنا تا به امروز مانعی برای تسریع در پذیرش و استفاده از مدل‌هایشان در نیروهای مسلح نبوده است.

وزارت جنگ اعلام کرده است که تنها با شرکت‌های هوش مصنوعی قرارداد می‌بندد که با «هرگونه استفاده قانونی» موافقت کرده و پادمان‌های امنیتی را در موارد ذکر شده در بالا حذف کنند. آن‌ها تهدید کرده‌اند که در صورت حفظ این پادمان‌ها توسط آنتراپیک، این شرکت را از سیستم‌های خود حذف خواهند کرد؛ همچنین تهدید کرده‌اند که این شرکت را به عنوان «خطر زنجیره تأمین» معرفی می‌کنند (برچسبی که مختص دشمنان ایالات متحده است و پیش از این هرگز برای یک شرکت آمریکایی استفاده نشده است) و برای اجبار به حذف این پادمان‌ها، به «قانون تولید دفاعی» استناد خواهند کرد. این دو تهدید اخیر ذاتاً متناقض هستند: یکی آنتراپیک را به عنوان یک خطر امنیتی معرفی می‌کند و دیگری کلود را برای امنیت ملی ضروری می‌داند.

صرف نظر از این موضوع، این تهدیدها موضع آنتراپیک را تغییر نمی‌دهد: آن‌ها نمی‌توانند با وجدانی آسوده با این درخواست موافقت کنند.

این حق وزارتخانه است که پیمانکارانی را انتخاب کند که بیشترین همسویی را با چشم‌انداز آن‌ها دارند. اما با توجه به ارزش قابل‌توجهی که فناوری آنتراپیک برای نیروهای مسلح فراهم می‌کند، مدیران این شرکت امیدوارند که آن‌ها در این باره تجدید نظر کنند. ترجیح قوی آن‌ها این است که با حفظ این دو پادمان درخواستی، به خدمت‌رسانی به این وزارتخانه و نیروهای نظامی ادامه دهند. چنانچه وزارتخانه تصمیم به قطع همکاری با آنتراپیک بگیرد، آن‌ها تلاش خواهند کرد تا انتقالی روان به ارائه‌دهنده‌ای دیگر را تسهیل کنند و از هرگونه اختلال در برنامه‌ریزی‌های نظامی، عملیات‌ها یا سایر مأموریت‌های حیاتی جاری جلوگیری نمایند. مدل‌های این شرکت تا زمانی که نیاز باشد، با همان شرایط گسترده‌ای که پیشنهاد داده‌اند، در دسترس خواهند بود.

آنتراپیک همچنان آماده است تا به کار خود برای حمایت از امنیت ملی ایالات متحده ادامه دهد.