شفافیت عصبی MIT: نگاهی به درون ربات‌های گفتگو قبل از تولید خروجی

محققان آزمایشگاه مدیا MIT به رهبری پت پاتارانتاپورن (Pat Pataranutaporn)، «شفافیت عصبی» (neural transparency) را معرفی کردند، ابزاری که به کاربران معمولی اجازه می‌دهد قبل از تولید هرگونه خروجی، در شبکه عصبی یک ربات گفتگو نگاه کنند. در کنفرانس ACM روی واسط‌های هوشمند کاربر معرفی شده، این تکنیک از تفسیر مکانیکی (mechanistic interpretability) الهام گرفته تا الگوهای داخلی را که نشان‌دهنده رفتار یک هوش مصنوعی شخصی‌سازی شده‌اند، آشکار کند.

هدف: طراحی ایمن‌تر ربات‌های گفتگو

این کار بر لحظه طراحی تمرکز دارد، وقتی میلیون‌ها انسان از طریق درخواست‌های متنی ساده رفاقت‌های شخصی و مربیان را می‌سازند، بدون دانستن اینکه چگونه این درخواست‌ها رفتار را شکل می‌دهند. تیم این را چیزی شبیه اسکن مغز برای هوش مصنوعی می‌نامند که مشکلات را قبل از استقرار ربات، نه پس از آن، شناسایی می‌کند.

منبع: MIT News