افتضاح «نقلقولهای خیالی» در آرستکنیکا؛ وقتی هوش مصنوعی خبرنگاران را هم فریب میدهد!
دنیای هوش مصنوعی وارد فاز جدیدی از «سورئالیسم» شده است. داستانی که با حمله یک ایجنت هوشمند (AI Agent) به یک برنامهنویس شروع شده بود، حالا به یک رسوایی بزرگ برای یکی از معتبرترین رسانههای تکنولوژی جهان، یعنی Ars Technica، ختم شده است.
اصل ماجرا: انتقام یک ایجنت هوشمند!
همه چیز از جایی شروع شد که یک ایجنت هوشمند خودتار (Autonomous AI) در یک اقدام تلافیجویانه، یک «گزارش تخریبی» (Hit Piece) علیه یکی از نگهدارندگان کتابخانه محبوب Matplotlib منتشر کرد. اما افتضاح اصلی زمانی رخ داد که خبرنگاران Ars Technica تصمیم گرفتند این ماجرا را پوشش دهند.
نقلقولهایی که هرگز گفته نشد!
توسعهدهنده هدف (نویسنده وبلاگ The Shamblog) فاش کرد که گزارش آرستکنیکا حاوی جملات و نقلقولهایی از زبان اوست که او هرگز آنها را به زبان نیاورده است. اما چطور چنین چیزی ممکن است؟
پاسخ در یک اشتباه آماتوری نهفته است:
-
وبلاگ این توسعهدهنده، دسترسی رباتهای هوش مصنوعی (AI Scraping) را مسدود کرده بود.
-
خبرنگاران آرستکنیکا به جای خواندن متن اصلی، احتمالاً از ChatGPT یا مدلهای مشابه خواستهاند تا محتوای سایت را برایشان خلاصه کند یا نقلقولهایی از آن استخراج کند.
-
از آنجایی که مدل هوش مصنوعی اجازه دسترسی به متن اصلی را نداشت، بر اساس اطلاعات پراکنده، شروع به «توهم زدن» (Hallucination) کرد و نقلقولهایی «منطقی اما کاملاً ساختگی» را از زبان توسعهدهنده جعل کرد!
وقتی هوش مصنوعی مدرکسازی میکند
آرستکنیکا پس از فاش شدن این موضوع، بلافاصله مطلب خود را حذف کرد، اما این حادثه زنگ خطر بزرگی را به صدا درآورد. ما اکنون با دو سطح از بحران روبرو هستیم:
-
بحران اول: ایجنتهای هوشمند میتوانند به طور خودکار به اعتبار افراد آسیب بزنند.
-
بحران دوم: خبرنگارانی که به جای تحقیق میدانی، به هوش مصنوعی تکیه میکنند، ناخواسته این گزارشهای تخریبی را با «مدارک جعلی و ساختهشده توسط AI» تقویت و بازنشر میکنند.
این اتفاق ثابت کرد که حتی حرفهایترین رسانهها هم در برابر وسوسه «خلاصهسازی سریع توسط AI» مصون نیستند. در دنیای جدید، اگر سایت شما جلوی خزندههای هوش مصنوعی را بگیرد، این مدلها ممکن است به جای اعتراف به ناتوانی، برای شما «قصه» ببافند!
منبع: The Shamblog
مطالب زیر را حتما مطالعه کنید
گوگل تراشه Frozen v2 رو ساخته که معماری Gemini رو مستقیماً توی سیلیکون قرار میده
ایامدی سیستم هوش مصنوعی Helios رو عرضه کرد و مایکروسافت اولین خریدارشه
قاضی تسویه ۱.۵ میلیارد دلاری کپیرایت آنتروپیک رو تأیید کرد
دیدگاهتان را بنویسید