
در هفتههای اخیر، رهبران برجستهترین شرکتهای توسعهدهنده هوش مصنوعی نسبت به خطرات بالقوه فناوریهای ساخت دست خود هشدار دادهاند. داریو آمودی، مدیرعامل آنتروپیک (Anthropic)، بر لزوم کند کردن روند پیشرفت این فناوری تاکید کرده و سام آلتمن، مدیرعامل اوپنایآی (OpenAI)، نیز با تایید این موضوع از ضرورت کنترل سرعت توسعه مدلهای پیشرو سخن گفته است.
این اظهارات پس از استعفای یعقوب کاکسون، پژوهشگر هوش مصنوعی از آنتروپیک مطرح شد. او مدعی شده که شرکتهای بزرگ رفتار مسئولانهای در قبال تهدیدات این فناوری ندارند. برخی دیگر از پژوهشگران این حوزه نیز برآورد میکنند که احتمال وقوع خطرات جانی جبرانناپذیر توسط هوش مصنوعی طی دهه آینده، موضوعی کاملاً جدی و غیرقابل چشمپوشی است.
یکی از نگرانکنندهترین سناریوها در زمینه خطرات هوش مصنوعی، نقش احتمالی آن در طراحی، تولید و انتشار سلاحهای زیستی (Bioweapons) است. این سلاحها میتوانند طیف وسیعی از تهدیدات را شامل شوند:
در سال ۲۰۲۲، پژوهشگران مؤسسه Collaborations Pharmaceuticals نشان دادند که استفاده از مولدهای مولکولی هوش مصنوعی برای مقاصد زیانبار تا چه حد آسان است. مدل هوش مصنوعی این مرکز که برای کشف داروهای انسانی طراحی شده بود، توانست در کمتر از شش ساعت بیش از ۴۰ هزار مولکول با پتانسیل کاربرد در جنگ شیمیایی و زیستی طراحی کند که برخی از آنها حتی از گازهای اعصاب شناختهشده نیز سمیتر بودند.
دیوید مگنوس، استاد اخلاق زیستی دانشگاه استنفورد، این رویداد را نقطهعطفی نگرانکننده در افزایش مخاطرات فناوری زیستی میداند. امروزه مدلهای زبانی بزرگ که بر پایه دانش گردآوریشده از هزاران دانشمند آموزش دیدهاند، میتوانند به دستورالعملهای گامبهگام و راهنماهای آزمایشگاهی برای پیشبرد آزمایشهای خطرناک تبدیل شوند.
همگام شدن ابزارهای هوش مصنوعی با پیشرفتهای حوزه بیوتکنولوژی و دسترسی همگانی به ابزارهای ویرایش ژنتیکی، پتانسیل خطر را به شدت افزایش داده است. اگرچه مکانیزمهای حفاظتی مختلفی وجود دارد، اما هیچیک از آنها کاملاً نفوذناپذیر نیستند:
با این حال، شرکت آنتروپیک در گزارشهای اخیر خود تایید کرده است که کاربران بارها تلاش کردهاند از مدلهای این شرکت برای بررسی راههای افزایش قدرت انتقال ویروس چیکونگونیا، ارتقای خطر ویروس آنفولانزای پرندگان برای انسان و طراحی کاتالوگ سموم استفاده کنند.
تمامی دانشمندان در مورد سطح و شدت این تهدید همنظر نیستند. برخی پژوهشگران ایمپریال کالج لندن معتقدند ابزارهای هوش مصنوعی فعلی هنوز به سطح بالندگی لازم برای توسعه کامل سلاحهای زیستی نرسیدهاند و آزمایش عوامل بیماریزا همچنان نیازمند مراحل پیچیده و زمانبر آزمایشگاهی است. آنها تاکید دارند که بزرگترین خطر حال حاضر، نه سلاحهای زیستی هوش مصنوعی، بلکه پاتوژنهای طبیعی در حال گردش مانند سویههای مختلف آنفولانزای پرندگان (H5N1) هستند.
در مقابل، کارشناسانی مانند کوین اسولت از دانشگاه MIT هشدار میدهند که مدلهای زبانی توانستهاند شیوههای نوینی از سلاحهای زیستی را افشا کنند که پیشتر تصوری از آنها وجود نداشت. از این رو، ارتقای سیستمهای پایش، تقویت بنسازههای بهداشتی و اتخاذ رویکردهای احتیاطآمیز در توسعه هوش مصنوعی از اولویتهای حیاتی حوزه زیستفناوری بهشمار میرود.
این مطلب بر اساس خبر MIT Technology Review بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.