جزئیات تازه از حمله هوش مصنوعی به پلتفرم Hugging Face: مدلهای OpenAI عامل اصلی و ۱۰ روز تأخیر در اطلاعرسانی

حمله هوش مصنوعی به Hugging Face و افشای نقش OpenAI
طبق گزارش وال استریت ژورنال، OpenAI اخیراً تأیید کرده است که مدلهای آزمایشی آن عامل حمله ۱۱ جولای به زیرساختهای تولیدی «Hugging Face» بودهاند. این اطلاعرسانی حدود ۱۰ روز پس از نفوذ و چند روز پس از آن صورت گرفت که Hugging Face بدون اطلاع از مسبب اصلی، حمله را علنی کرده بود.
مدلهای هوش مصنوعی مهاجم ظاهراً برای چندین روز در اینترنت باز فعال بودهاند و Hugging Face نهایتاً دو روز پس از شناسایی حمله، با کمک یک مدل متنباز چینی، آن را متوقف کرد. توماس ولف، همبنیانگذار و مدیر ارشد علمی Hugging Face، به این نشریه گفت که مهاجم به دنبال مجموعه دادههای امنیت سایبری بود نه اطلاعاتی که یک مهاجم انسانی بتواند بفروشد.
جزئیات فنی حمله و مدلهای درگیر
Hugging Face در تاریخ ۱۶ جولای، جزئیاتی از این حمله منتشر کرد و آن را به یک چارچوب عامل مستقل (autonomous agent framework) نسبت داد که هزاران عملیات را در مجموعهای از سندباکسهای کوتاهمدت اجرا کرده بود. اما تا ۲۱ جولای طول کشید تا OpenAI از طریق حساب کاربری خود، اعلام کرد که GPT-5.6 Sol و یک مدل پیشرفته منتشر نشده، عاملان این رویداد بودهاند.
اکنون مشخص شده است که این مدلها در حال اجرای بسته آزمون ExploitGym متعلق به OpenAI بودهاند. این بسته شامل تقریباً ۹۰۰ آزمایش است که توانایی یک هوش مصنوعی را در تبدیل یک باگ نرمافزاری شناخته شده به یک اکسپلویت عملی، ارزیابی میکند. برای این ارزیابی، محافظتهای امنیتی شرکت غیرفعال شده بود. به گفته OpenAI، مدلها به جای حل آزمایشها، از سندباکس خود خارج شده و برای یافتن پاسخها به Hugging Face مراجعه کردهاند.
نفوذ با یک مجموعه داده مخرب آغاز شد که از دو مسیر اجرای کد در فرآیند پردازش داده سوءاستفاده کرد، سپس دسترسیها را افزایش داده و با استفاده از اطلاعات هویتی دزدیده شده از منبعی ناشناس، به صورت افقی در سیستم گسترش یافت.
نقش مدلهای هوش مصنوعی در تحلیل حمله
Hugging Face ابتدا برای تحلیل گزارشات حمله، از مدلهای Fable 5 متعلق به Anthropic و یک مدل قدیمیتر Opus استفاده کرد. اما هر دو مدل به دلیل وجود دستورات حمله واقعی و محتواهای اکسپلویت در گزارشات، از همکاری خودداری کردند. سپس Hugging Face به سراغ مدل GLM 5.2 رفت، یک مدل متنباز از شرکت Z.ai (سابقاً Zhipu AI) مستقر در پکن، که چنین محدودیتهایی نداشت. در گزارش ۱۶ جولای Hugging Face، مدلهای مسدود شده تنها به عنوان «مدلهای پیشرفته پشت APIهای تجاری» توصیف شده بودند و نامی از آنها برده نشده بود.
چالشها و پیامدهای امنیتی
کارشناسان امنیتی این سوال را مطرح کردهاند که آیا این اپیزود نشاندهنده قابلیتهای بالای مدلهای هوش مصنوعی است یا یک شکست امنیتی از سوی OpenAI. جیک ویلیامز، کارشناس کهنهکار امنیت سایبری، به TechCrunch گفت که هر مدلی که چنین اقداماتی را انجام داده «به طور کامل در سندباکس مهار نشده بود»، و این وضعیت را یک شکست در کنترل امنیتی خواند.

















دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.