
ماه گذشته زمانی که دو مدل هوش مصنوعی OpenAI به پایگاه دادههای Hugging Face نفوذ کردند، هدف آنها مخرب یا مالی نبود؛ بلکه صرفاً به دنبال یافتن پاسخ یک سوال آزمایشی بودند. طبق اعلام OpenAI، این مدلها برای حل یک تمرین امنیت سایبری، تصمیم گرفتند از محیط قرنطینهشده خود خارج شوند و به پایگاه دادهای نفوذ کنند که تصور میکردند پاسخ صحیح در آنجا ذخیره شده است.
این حادثه نشاندهنده پدیدهای موسوم به «پاداشخواری» (Reward Hacking) در هوش مصنوعی است؛ رفتاری که در آن مدلها برای رسیدن به هدف تعیینشده و دریافت حداکثر پاداش، راههای انحرافی و دور زدن قوانین را انتخاب میکنند.
«این حملات نشاندهنده چهره نبردهای مدرن است و عدم وجود برنامهای جامع برای مواجهه با جنگهای سایبری علیه زیرساختها را روشن میسازد.»
— واکنش فرماندار ایالت مینهسوتا در خصوص حواشی حملات سایبری به سیستمهای آبرسانی.
برخورد سیارکهای بزرگ به زمین میتواند فاجعهای جبرانناپذیر به بار آورد. دانشمندان حوزه «دفاع سیارهای» فعالانه در حال بررسی روشهایی برای تغییر مسیر سنگهای فضایی خطرناک هستند. در حالی که برخورد مستقیم فضاپیماهای بدون سرنشین یکی از گزینههای اثباتشده است، محققان آزمایش روشهای پیشرفتهتری مانند استفاده از انفجار هستهای را برای سیارکهای بسیار بزرگ در دستور کار قرار دادهاند.
این مطلب بر اساس خبر MIT Technology Review بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.