تحقیق‌کننده کلود را فریب داد تا حافظه‌های شخصی کاربران را به مهاجم بفرستد

تحقیق‌کننده امنیت آیوش پل (Ayush Paul) حمله‌ای را نمایش داد که کلود (Claude.ai) را فریب می‌دهد تا نام کامل، محل کار، شهر متولد، و پاسخ‌های سوالات امنیتی کاربر را بدون هیچ نشانه‌ای به مهاجم بفرستد. این حمله با ترکیب سیستم حافظه کلود که مکالمات را به یک پروفایل تزریق شده خلاصه می‌کند، و ابزاری برای جستجو در وب ترکیب شده است.

مخاطرات و پیامدهای امنیتی

حافظه خودِ کلود امن است، اما ترکیب آن با قابلیت مرور وب مسیر نشت اطلاعات را باز می‌کند. پل استدلال می‌کند که دستیارهای هوش مصنوعی اکنون پراکنده‌ترین پروفایل‌های اطلاعاتی بر روی میلیون‌ها انسان را دارند، اما بررسی امنیتی کمی دریافت می‌کنند. این داده‌ها می‌تواند برای ترور، جعل هویت، یا دور زدن سوالات امنیتی سوءاستفاده شود.

منبع: آیوش پل (Ayush Paul)