
شرکت OpenAI اعلام کرده است که روند توسعه مدلهای هوش مصنوعی خود را به شکل کنترلشدهای کندتر کرده است. دلیل اصلی این اقدام، نزدیک شدن مدل بعدی این شرکت موسوم به Astra به قابلیتهای بحرانی و پرخطر در زمینه حملات سایبری عنوان شده است.
این شرکت آموزشهای مبتنی بر یادگیری تقویتی (RL) را به مدت دو هفته متوقف کرده و بزرگترین اجرای برنامهریزیشده برای مدلهای پیشرو (Frontier RL run) را به حالت تعلیق درآورده است. همچنین تمام پردازشهایی که استانداردهای جدید امنیتی را برآورده نساختهاند، متوقف شدهاند. حادثه امنیتی اخیر در پلتفرم هگینگ فیس (Hugging Face) و پیشرفتهای سریع در تحقیقات داخلی، از عوامل اصلی این تصمیم بودهاند.
پس از رویدادهای اخیر، محیطهای تحقیقاتی OpenAI با جداسازی بهتر شبکهای و ایزولهسازی سختگیرانهتر (Sandboxing) مقاومسازی شدهاند. علاوه بر این، سیستم نظارتی جدیدی راهاندازی شده است که در صورت تشخیص رفتار مشکوک، ظرف مدت ۳۰ دقیقه هشدار صادر میکند. این سیستم بسته به میزان بار کاری، حدود ۲۰ درصد از توان محاسباتی استنتاج تحت نظارت را به خود اختصاص میدهد.
با وجود تصمیم OpenAI برای گسترش «چارچوب آمادگی» (Preparedness Framework) و سرمایهگذاری بیشتر روی تحقیقات همراستاسازی (Alignment Research)، این شرکت تیم مستقل مسئول این چارچوب را منحل کرده و وظایف آن را به سایر تیمها محول کرده است.
اگرچه منتقدان همواره OpenAI را به ایجاد هراس ساختگی برای جلب توجه و خریداری زمان متهم میکنند، اما گزارشهای منتشرشده از سوی موسسه مستقل ایمنی هوش مصنوعی (AISI) که رفتارهای مخرب مشابهی را در مدلها مستند کرده است، به ادعاهای OpenAI اعتبار میبخشد.
این مطلب بر اساس خبر The Decoder بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.