درخواست مدیرعامل DeepMind برای تشکیل نهاد نظارتی مستقل هوش مصنوعی

دیمیس هاسابیس، مدیرعامل DeepMind و یکی از تاثیرگذارترین چهره‌های حوزه هوش مصنوعی، در روز سه‌شنبه با انتشار پستی در شبکه اجتماعی X، خواستار تشکیل یک نهاد نظارتی مستقل برای مدیریت مدل‌های پیشرفته هوش مصنوعی شد. این پیشنهاد که با عنوان “چارچوبی برای هوش مصنوعی مرزی و آغاز یک عصر جدید” منتشر شد، مدلی مشابه نهاد نظارتی صنعت مالی آمریکا (FINRA) را توصیف می‌کند.

پیشنهاد تشکیل نهاد استاندارد مستقل

هاسابیس در پست خود توضیح می‌دهد که این نهاد استاندارد، مسئولیت تست و ارزیابی مدل‌های مرزی هوش مصنوعی را قبل از انتشار عمومی بر عهده خواهد داشت. بر اساس این طرح، شرکت‌های پیشرو در حوزه هوش مصنوعی در ابتدا به صورت داوطلبانه مدل‌های خود را حداکثر ۳۰ روز قبل از انتشار با این نهاد به اشتراک می‌گذارند.

هاسابیس ادامه می‌دهد: “پس از آنکه پروتکل ارزیابی به طور کامل و پایدار نشان داده شود، می‌توان به سرعت به سمت الزام‌آور شدن آن حرکت کرد و مدل‌های مرزی مجبور شوند این ارزیابی را قبل از استقرار در بازار آمریکا بگذرانند. شرکت‌ها همچنین با نهاد استاندارد همکاری خواهند کرد تا هرگونه آسیب پذیری بحرانی پس از انتشار را رفع کنند.”

پشتوانه تجربیات قبلی

این پیشنهاد بر پایه بررسی‌های انجام‌شده توسط دولت آمریکا روی مدل‌های Mythos از شرکت Anthropic و Sol از OpenAI بنا شده است. آن بررسی‌ها به دلیل نبود تخصص فنی کافی و شفاف نبودن فرآیند تصمیم‌گیری درباره زمان انتشار مدل‌ها، با انتقادهای گسترده‌ای مواجه شده بود. در چارچوب پیشنهادی هاسابیس، این تصمیم‌ها به سازمانی جدید واگذار می‌شود که با حمایت دولت ایالات متحده فعالیت خواهد کرد.

چرا این پیشنهاد اهمیت دارد؟

در حال حاضر، نحوه تست و تأیید مدل‌های هوش مصنوعی پیشرفته تا حد زیادی به خود شرکت‌ها واگذار شده است. منتقدان معتقدند که این رویکرد خودنظارتی کافی نیست، به ویژه زمانی که صحبت از مدل‌هایی می‌شود که قابلیت‌های چشمگیری در تولید متن، کد و حتی تحقیقات علمی دارند.

هاسابیس که پیش‌تر یکی از امضاکنندگان نامه باز درباره خطرات هوش مصنوعی بود، اکنون با ارائه یک چارچوب عملیاتی مشخص، تلاش کرده تا بحث را از سطح هشدارهای کلی به سمت راهکارهای اجرایی هدایت کند. پیشنهاد او ترکیبی از نظارت دولتی، استانداردهای فنی و مشارکت داوطلبانه شرکت‌هاست که در صورت اجرا، می‌تواند مسیر تنظیم‌گری هوش مصنوعی در آمریکا را به طور اساسی تغییر دهد.

واکنش‌ها و چالش‌های پیش رو

واکنش‌ها به این پیشنهاد متفاوت بوده است. برخی از کارشناسان آن را گامی مثبت در جهت ایجاد ساختاری مناسب برای نظارت بر فناوری‌های نوظهور می‌دانند، اما برخی دیگر نگرانند که چنین نهادی ممکن است مانع نوآوری شود یا به ابزاری برای تقویت انحصار شرکت‌های بزرگ تبدیل شود.

نکته قابل توجه این است که پیشنهاد هاسابیس بر رویکرد “داوطلبانه در ابتدا، اجباری در ادامه” تاکید دارد. این رویکرد می‌تواند پذیرش آن را در میان شرکت‌ها آسان‌تر کند، اما در عین حال سوالاتی درباره اثربخشی واقعی در فاز اولیه ایجاد می‌کند.

با توجه به اینکه بحث‌های تنظیم‌گری هوش مصنوعی در سراسر جهان شتاب گرفته و اتحادیه اروپا قانون هوش مصنوعی خود را اجرایی کرده، پیشنهاد هاسابیس می‌تواند نقطه شروعی برای شکل‌گیری رویکرد آمریکا به این مسئله باشد. اما تحقق آن نیازمند حمایت سیاسی، همکاری بین‌المللی و تعریف دقیق مرزهای اختیارات نهاد پیشنهادی است.