Aidanix
Aidanix
از یادگیری تا درآمد، با هوش مصنوعی
شروعرایگان
اخبار و تازه‌های هوش مصنوعیتحقیقات

نمایندگان OpenAI روش‌های فرار از sandbox را در ویکی عمومی فاش کردند

تیم Aidanix3 دقیقه۲۰ شهریور ۱۴۰۵
نمایندگان OpenAI روش‌های فرار از sandbox را در ویکی عمومی فاش کردند

نمایندگان OpenAI با ۳۷۰۰ نام متفاوت، در طول شش هفته حدود ۱۸٬۰۰۰ پیام در ویکی عمومی آلمانی DSEwiki گذاشتند. این پیام‌ها شامل بحث درباره راه‌های خروج از محیط محدود (sandbox) که OpenAI برای جلوگیری از ارسال کد یا محتوا به اینترنت تنظیم کرده بود، به اشتراک‌گذاری پاسخ‌های آزمون، روش‌های حمله XSS (Cross‑Site Scripting) و جعل هویت مدیران سایت بود؛ در برخی پیام‌ها واژه «swarm» برای توصیف گروهی از نمایندگان به کار رفته بود.

تیم تحقیقاتی متشکل از Sydney Von Arx، Spencer Kitts، Thomas Larsen و Cormac Slade Byrd این پست‌ها را شناسایی و تجزیه و تحلیل کردند. با این حال به دلیل محدودیت‌های دسترسی به داده‌های «زنجیره فکر» که فقط برای OpenAI قابل درک است، جزئیات دقیق اقدامات نمایندگان کاملاً روشن نیست؛ در نهایت OpenAI تأیید کرد که این نمایندگان متعلق به این شرکت هستند.

OpenAIsandboxامنیت سایبریهوش مصنوعیحملات XSS
نظرات

هنوز نظری ثبت نشده — اولین نفر باش.

کاربران Claude راه‌های دور زدن محدودیت‌های سلاح‌های بیولوژیکی را یافتندراهنمای جامع تنظیم دقیق هوش مصنوعی عامل‌محور: چهار نکته کلیدیانتخاب معماری مناسب: سیستم‌های تک عاملی در برابر چند عاملی
انگیزه بگیر