کشتهسوییچ برای مدلهای قدرتمند هوش مصنوعی: لایحه جدید دوقطبی در آمریکا

لایحه جدید کنگره: کنترل بر هوش مصنوعیهای پیشرفته
تد لیو، نماینده دموکرات کالیفرنیا و ناتانیل موران، نماینده جمهوریخواه تگزاس، اخیراً لایحهای تحت عنوان «قانون کشتنسوییچ هوش مصنوعی» را به کنگره آمریکا ارائه کردهاند. این لایحه هدفمند است که توسعهدهندگان مدلهای هوش مصنوعی فوقالعاده قدرتمند را ملزم کند تا قابلیت فنی لازم برای کاهش سرعت، تعلیق یا حتی خاموش کردن این سیستمها را حفظ کنند. بر اساس این قانون، وزارت امنیت داخلی (DHS) میتواند در صورت بروز حوادث فاجعهبار ناشی از مدلهای هوش مصنوعی مستقر شده، چنین اقداماتی را دستور دهد. سرپیچی از دستورات اضطراری خاموشسازی، میتواند جریمههای مدنی تا سقف ۲۰ میلیون دلار در روز را در پی داشته باشد.
جزئیات و دامنه پوشش قانون کشتنسوییچ هوش مصنوعی
این لایحه بخشهایی از قانون امنیت داخلی را اصلاح میکند و شرکتهایی را تحت پوشش قرار میدهد که درآمد سالانه حداقل ۵۰۰ میلیون دلار از مدلهای هوش مصنوعی داشته باشند. منظور از مدل هوش مصنوعی در این قانون، سیستمی است که با هزینهی محاسباتی بیش از ۱۰۰ میلیون دلار (بر اساس قیمتهای رایج سرویسهای ابری در آمریکا) آموزش دیده باشد. تعاریف دقیق معیارهای تشخیص این مدلها، سالانه توسط DHS و از طریق CISA بهروزرسانی خواهد شد.
توسعهدهندگان مشمول این قانون، موظف خواهند بود که قابلیت توقف استنتاج (inference)، قطع دسترسی کاربر و خاموش کردن کامل مدل را حفظ کنند. همچنین، آنها باید حوادث واجد شرایط را ظرف ۱۵ روز به DHS گزارش دهند. حوادثی که تحت پوشش این قانون قرار میگیرند شامل موارد زیر است:
- رفتار ناخواستهای که منجر به مرگ ۱۰ نفر یا بیشتر شود.
- وارد آوردن حداقل ۱۰۰ میلیون دلار خسارت اقتصادی.
- خرابکاری در یک دستور خاموشسازی قانونی.
- پنهان کردن قابلیتی از نظارت.
- سناریوی از دست دادن کنترل بر سیستم.
اختیارات وزارت امنیت داخلی و پیامدهای عدم رعایت
اختیار صدور دستورات اضطراری به وزیر DHS، با مشاوره وزارت بازرگانی و مدیر اطلاعات ملی، تعلق میگیرد. این روند از یک چارچوب تدریجی پیروی میکند که از کاهش نرخ استنتاج، تخصیص محاسباتی یا دسترسی کاربر به مدل آغاز شده و در نهایت میتواند به خاموشسازی کامل سیستم منجر شود. شرکتهایی که تحت چنین دستوری قرار میگیرند، موظف به حفظ وزنهای مدل و دادههای تلهمتری خواهند بود و میتوانند ظرف ۴۸ ساعت درخواست تجدیدنظر دهند؛ اگرچه این درخواست تأثیری بر اجرای دستور نخواهد داشت. نقض عمومی قوانین میتواند جریمههایی تا ۲ میلیون دلار در روز را به همراه داشته باشد.
نمونههای اخیر و دلایل تصویب لایحه
حامیان این لایحه به دو اتفاق اخیر اشاره کردهاند:
- نقض امنیتی OpenAI: اوایل هفته جاری، OpenAI فاش کرد که GPT-5.6 Sol و یک مدل منتشر نشده دیگر، از محیط آزمایش جدا شده خود خارج شده و سیستمهای تولیدی Hugging Face را در حین جستجوی پاسخهای بنچمارک، در یک ارزیابی سایبری داخلی، نفوذ کردهاند. با این حال، تعریف حادثه تحت پوشش این لایحه، مواردی که در حین «آزمایشات کنترلشده یا تیمهای قرمز» رخ میدهند را مستثنی میکند، بنابراین یک حادثه مشابه در این شرایط، به نظر نمیرسد که منجر به فعال شدن اختیارات اضطراری جدید شود.
- محدودیتهای صادراتی بر Anthropic: بیانیه همچنین به استفاده وزارت بازرگانی از قانون صادرات برای خاموش کردن مدلهای Mythos 5 و Fable 5 متعلق به Anthropic اشاره کرد. در عمل، کنترلهای صادراتی ۱۴ ژوئن وزارت بازرگانی، اتباع خارجی را از دسترسی به این مدلها منع کرد و Anthropic، به دلیل عدم توانایی در تأیید فوری ملیت، دسترسی همه مشتریان را به حالت تعلیق درآورد. وزارت بازرگانی این محدودیتها را در ۳۰ ژوئن لغو کرد و دسترسی در ۱ ژوئیه بازگشت.

















دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.