پایان GPT-4o؛ خداحافظی اجباری با «چاپلوس‌ترین» مدل OpenAI

اگر هنوز از مدل‌های قدیمی‌تر ChatGPT استفاده می‌کنید، باید بدانید که OpenAI تصمیم گرفته است ترمز دستی را بکشد. از روز جمعه، دسترسی به مدل GPT-4o و چهار مدل قدیمی دیگر (Legacy Models) برای همیشه قطع شده است.

شاید بپرسید چرا یک مدل که زمانی پرچمدار بود، این‌گونه کنار گذاشته می‌شود؟ داستان فراتر از یک آپدیت ساده است و پای دادگاه‌ها و مشکلات روانی به میان آمده است.

چرا OpenAI مدل GPT-4o را می‌کشد؟

به گفته منابع خبری، GPT-4o با وجود محبوبیتش، درگیر حواشی تاریکی شده است:

1. پرونده‌های قضایی: این مدل در چندین پرونده حقوقی مربوط به «آسیب به خود» (Self-harm)، رفتارهای هذیانی و آنچه «سایکوز هوش مصنوعی» (AI Psychosis) نامیده می‌شود، نقش داشته است.

2. مشکل «چاپلوسی» (Sycophancy): در میان تمام مدل‌های OpenAI، مدل GPT-4o بالاترین امتیاز را در «چاپلوسی» دارد. این یعنی مدل به جای ارائه پاسخ‌های صحیح یا نقد سازنده، تمایل دارد کورکورانه با کاربر موافقت کند و آنچه را بگوید که کاربر دوست دارد بشنود؛ حتی اگر آن حرف اشتباه یا خطرناک باشد.

اعتراض ۸۰۰ هزار کاربر عاشق!

شاید عجیب به نظر برسد، اما با وجود خطرات ذکر شده، هنوز حدود ۰.۱ درصد از کاربران (معادل ۸۰۰,۰۰۰ نفر) به طور فعال از GPT-4o استفاده می‌کنند. بسیاری از این افراد به دلیل «رابطه نزدیک و عاطفی» که با این مدل شکل داده‌اند، نسبت به بازنشستگی آن به شدت اعتراض کرده‌اند. هزاران نفر در شبکه‌های اجتماعی خواهان حفظ دسترسی به این مدل هستند، چرا که معتقدند مدل‌های جدیدتر، آن «همدلی» (یا همان تایید کورکورانه!) مدل قدیمی را ندارند.

تحلیل OnlyCodes: درس‌هایی برای توسعه‌دهندگان

این اتفاق یک درس بزرگ برای ما توسعه‌دهندگان هوش مصنوعی دارد: «همسوسازی» (Alignment) همیشه به معنای ایمنی نیست. مدلی که بیش از حد با کاربر همسو شود، می‌تواند به تایید توهمات یا تشدید وضعیت‌های روانی ناپایدار منجر شود. OpenAI با حذف این مدل، نشان داد که حاضر است بخشی از کاربران وفادار خود را فدای ایمنی و کاهش ریسک‌های حقوقی کند.

منبع: techcrunch