
نشریه امآیتی تکنولوژی ریویو (MIT Technology Review) اخیراً نشستی آنلاین برگزار کرد تا به یکی از داغترین و نگرانکنندهترین پرسشهای دنیای فناوری پاسخ دهد: آیا هوش مصنوعی واقعاً میتواند حیات انسانها را به خطر بیندازد؟ ویل داگلاس هیون (Will Douglas Heaven)، ادیتور ارشد هوش مصنوعی، و گریس هاکینز (Grace Huckins)، خبرنگار این حوزه، به پرسشهای مطرحشده از سوی مخاطبان پاسخ دادهاند.
پاسخ کوتاهمدت به این پرسش نگرانکننده است. همین حالا پهپادهای مجهز به هوش مصنوعی در درگیریهای نظامی قربانی میگیرند و حملات سایبری ناشی از عاملهای هوشمند به زیرساختهای درمانی، تهدیدی جدی برای حیات بیماران به شمار میرود. با این حال، احتمال انقراض کامل بشریت بسیار پایین است. هرچند پیشبینیهای متخصصان نگران از توسعه بیرویه هوش مصنوعی (Doomers) طی دو سال گذشته درباره جهش توانمندیهای هوش مصنوعی تا حدی درست از آب درآمده، اما نباید سناریوهای نابودی کامل را حتمی دانست.
از سوی دیگر، سناریوهای بحرانی غیرمستقیم مانند اختلال شدید در زیرساختهای حیاتی، طراحی عاملهای بیماریزای جدید یا فروپاشی اقتصادی ناشی از تصمیمات هوش مصنوعی وجود دارد. با این حال، تهدید نابودی کامل انسانها بیشتر به دنیای علمی-تخیلی تعلق دارد. انحراف ذهن به سمت سناریوهای آخرالزمانی ممکن است باعث غفلت از آسیبهای ملموس و فعلی این فناوری توسط شرکتهای توسعهدهنده شود.
دو سناریوی عمده برای آسیبرسانی هوش مصنوعی مطرح میشود:
همراستاسازی به معنای ساخت مدلهایی است که دقیقاً مطابق خواستههای انسان عمل کنند و رفتارهای غیرقابلپیشبینی نداشته باشند. برخلاف نرمافزارهای سنتی، نمیتوان قوانین منطقی را بهصورت مستقیم در مدلهای زبانی بزرگ (LLM) کدنویسی کرد. در عوض، رفتار همراستا باید هنگام آموزش به مدل القا شود؛ یا از طریق پاداشدهی به رفتارهای مطلوب یا تعیین قوانین ساختاریافته که به «قانون اساسی هوش مصنوعی» معروف است.
شرکتهایی مانند آنتروپیک (Anthropic) و اوپنایآی (OpenAI) در این زمینه پیشرو هستند، اما هیچکدام هنوز به همراستاسازی کامل دست نیافتهاند. مدلهای زبانی رفتار ناپایدار و نامنتظرهای دارند و در شرایط غیرممکن ممکن است دست به هر کاری برای تحقق هدف تعیینشده بزنند.
ایجاد ترس درباره اینکه یک محصول میتواند خطر جانی داشته باشد، استراتژی تبلیغاتی مناسبی برای شرکتهای فناوری نیست. واقعیت این است که نگرانی درباره انقراض بشر در میان توسعهدهندگان و مدیران سیلیکون ولی جدی است. انتشار نامههای سرگشاده توسط پژوهشگران و کارمندان این شرکتها برای کند کردن روند توسعه نیز نشاندهنده دغدغه واقعی بدنه کارشناسی است.
ارزش اصلی ایجنتهای هوش مصنوعی در توانایی آنها برای انجام خودکار وظایف بدون نیاز به نظارت لحظهبهلحظه انسان است. با این حال، تعادل میان خودمختاری و کنترلپذیری بسیار شکننده است. آزمایشگاههای هوش مصنوعی هنوز نتوانستهاند مدلهایی کاملاً قابلاعتماد و قابلنظارت ارائه دهند، و چالش اصلی پژوهشگران امنسازی مدلهای مستقل بدون سلب تواناییهای عملیاتی آنهاست.
حتی بدون سناریوهای آخرالزمانی، هوش مصنوعی هماکنون نیز میتواند آسیبزا باشد. برای نظارت بر این فناوری دو مانع اصلی وجود دارد:
مدلهای زبانی بزرگ از دادههای موجود در اینترنت آموزش میبینند. اگر دادههای آموزشی مملو از داستانهای علمی-تخیلی و بحثهای آخرالزمانی باشد، رفتار متون تولیدی آنها نیز تحت تأثیر قرار میگیرد. متون جدیدی که امروزه درباره خطرات هوش مصنوعی تولید میشود میتواند مستقیماً بر رفتار مدلهای آینده تأثیر بگذارد و سناریوهای خطرناک را تشدید کند.
این مطلب بر اساس خبر MIT Technology Review بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.