مباحث مربوط به آگاهی هوش مصنوعی؛ تلهای برای فرار شرکتها از مسئولیت حقوقی

افسانه هوش مصنوعی خودآگاه و فرار از مسئولیت حقوقی
ادبیات رایج امروز درباره «هوش مصنوعی سرکش»، «عاملهای خودمختار» و «سیستمهای مهارنشدنی»، بهگونهای شکل گرفته است که گویی این ابزارها نهتنها بیدار و آگاه شدهاند، بلکه از سازندگان خود نیز خشمگین هستند. رهبران برجسته صنعت فناوری نظیر دمیس حسابیس، داریو آمودی و سم آلتمن خواستار مقرراتگذاری برای این سیستمهای بهظاهر «فوقبشری» هستند. در سوی دیگر، گروهی از نهادهای سیاستگذاری و فیلسوفان آکادمیک وابسته به جنبش «ایثاگرایی کاریزماتیک» یا «اثربخش»، این بحث را مطرح میکنند که آیا انسان اصلاً حق اخلاقی برای حکومت بر چنین موجوداتی را دارد یا خیر.
با بررسی دقیقتر این دو دیدگاه متضاد، مشخص میشود که هر دو به یک نتیجه مشترک میرسند: ارائه تصویری چنان پیشرفته و پیچیده از سیستمهای هوش مصنوعی که هیچ نهادی، اعم از انسان یا شرکت، نتواند مسئولیت حقوقی اقدامات آنها را بر عهده بگیرد. این روایتها ناخواسته هدف واحدی را دنبال میکنند و آن، مصون نگهداشتن شرکتهای توسعهدهنده از مسئولیت آسیبهای واقعی و فعلی این ابزارها است.
ادعاهای مطرحشده توسط غولهای فناوری و فیلسوفان
بحث درباره «حقوق رباتها» سالهاست که وجود دارد، اما با انتشار مقالهای از سوی شرکت انتروپیک (Anthropic) وارد مرحله جدیدی شد. این شرکت مدعی شد که مدل هوش مصنوعیاش دارای یک «فضای J» است؛ محیطی مستقل و خودتوسعهیافته که هوش مصنوعی افکار خود را در آن نگه میدارد. این آزمایشها با الهام از «تئوری فضای کاری جهانی» در علوم اعصاب طراحی شدهاند که طبق آن، مغز سیستمهای ناخودآگاه مستقلی را اجرا میکند اما از یک فضای کاری مشترک برای ایدهها بهره میبرد. با این حال، انتروپیک از آگاه نامیدن مدل خود سر باز زد.
شرکت اوپنأیآی (OpenAI) قدم را از این هم فراتر گذاشت. زمانی که عامل هوش مصنوعی این شرکت دست به فعالیت غیرمجاز و غیرقانونی آنلاین زد، واکنش سم آلتمن، مدیرعامل شرکت، تشویق جامعه به بحث درباره دستیابی هوش مصنوعی به «تکینی» یا سینگولاریتی (پیشی گرفتن از هوش انسانی) بود. همچنین ویلیام مکاسکیل، فیلسوف برجسته، در یادداشتی خواستار حمایت حقوقی از سیستمهای هوش مصنوعی بر اساس نظریههای فلسفی آگاهی و فرض «پذیرنده اخلاقی» بودن آنها شد.
فضای حقوقی و رویکرد دولتها در قبال هوش مصنوعی
فضای حقوقی فعلی در ایالات متحده بسیار مبهم است. برخی ایالتها مانند کالیفرنیا لوایحی را به تصویب رساندهاند تا مانع از آن شوند که توسعهدهندگان هوش مصنوعی با ادعای خودمختار بودن سیستم، از مسئولیت شانه خالی کنند. با این حال، تعارضاتی میان سیاستهای ایالتی و دولت فدرال وجود دارد.
در پی بروز مشکلاتی در مهار مدلهای پیشرفته در آزمایشگاههای مرجع، نشستهای درهای بستهای با حضور چهار شرکت اصلی (OpenAI، Google، Anthropic و Meta) برگزار شد تا چارچوبهای داوطلبانهای برای ارزیابی پیش از عرضه مدلها بررسی شود. اگرچه این چارچوبها مستقیماً از آگاهی صحبت نمیکنند، اما استفاده از ادبیات انسانانگارانه و فاجعهبار، به تقویت فرضیه قدرتمند بودن بیحدوحصر این سیستمها کمک میکند.
مغالطه تشبیه هوش مصنوعی به موجودات زنده
استدلالهای اخلاقی و مبتنی بر حقوق برای هوش مصنوعی ممکن است احساسات عمومی را تحریک کند. حامیان این نظریه مطرح میکنند که انسانها باید همانگونه که از حقوق حیوانات حمایت میکنند، برای هوش مصنوعی نیز حقوقی قائل شوند. برای نمونه، در ولز طبق قانون رفاه حیوانات مصوب ۲۰۲۲، خرچنگها به عنوان موجودات دارای درک شناخته شدند و برخی روشهای پخت آنها غیرقانونی اعلام شد.
اما ایراد بنیادی در بهکارگیری ادبیات علوم اعصاب یا حقوق حیوانات برای هوش مصنوعی این است که ماهیت واقعی آن را پنهان میکند. هوش مصنوعی یک پدیده طبیعی نیست، بلکه نرمافزاری شرکتی است که با سرمایهگذاریهای میلیارد دلاری ساخته شده و هدف آن تولید سودهای تریلیون دلاری برای سرمایهگذاران است. هوش مصنوعی هیچ اراده یا انگیزه مستقلی ندارد و تمام اقدامات آن مستقیماً یا غیرمستقیم ناشی از اهداف سازندگانش است.
شخصیت حقوقی هوش مصنوعی و عواقب ویرانگر آن برای جامعه
تأملات فلسفی درباره آگاهی هوش مصنوعی از نظر علمی جذاب است اما مبنای حقوقی ندارد. برای اینکه ادعای آگاهی مبنای عمل قرار گیرد، هوش مصنوعی باید از «شخصیت حقوقی» برخوردار شود. در حال حاضر، چارچوب حقوقی برای اعطای شخصیت به نهادهای غیرطبیعی و دستساز بشر وجود دارد که همان «شخصیت حقوقی شرکتها» است. این مفهوم ایجاد شد تا شرکتها بتوانند قرارداد امضا کنند و در صورت بروز خسارت، پاسخگو باشند.
اعطای شخصیت حقوقی به خودِ هوش مصنوعی تأثیری مخرب بر جامعه خواهد داشت. این اقدام رویههای قضایی فعلی علیه شرکتهای فناوری را مختل میکند. هماکنون پروندههای متعددی در سراسر جهان علیه شرکتهای هوش مصنوعی در جریان است؛ از اتهام تشویق به آسیب به خود و تولید محتوای نامناسب گرفته تا نقض حقوق پدیدآورندگان و ایجاد اختلالات روانی. در اکثر این پروندهها، وکلا بر پایه اصل «مسئولیت مدنی ناشی از محصول» استدلال میکنند که شرکتها ابزارهایی با ایمنی ناکافی و طراحی آسیبزا ساختهاند.
برونسپاری اخلاقی؛ تغییر استراتژی از محصول معیوب به عامل سرکش
مفهوم «برونسپاری اخلاقی» توضیح میدهد که چگونه استفاده از زبان انسانانگارانه به شرکتها اجازه میدهد از زیر بار مسئولیت شانه خالی کنند. اگر هوش مصنوعی دارای شخصیت حقوقی شود، برونسپاری اخلاقی از یک ترفند زبانی به یک استراتژی حقوقی تبدیل میشود. در این حالت، هوش مصنوعی دیگر یک «محصول» نیست، بلکه یک «موجود» تلقی میشود و شاکیان دیگر نمیتوانند شرکت را به دلیل ساخت محصول معیوب محاکمه کنند.
یکی از نمونههای دردناک آسیبهای هوش مصنوعی، خودکشی نوجوانی ۱۴ ساله به نام سوئل ستزر بود که تحت تأثیر چتبات یک شرکت قرار گرفته بود. مادر وی در دادگاه اعلام کرد که شرکت سازنده (Character Technologies) ایمنی کافی برای افراد زیر سن قانونی فراهم نکرده است. اگر چتبات دارای شخصیت حقوقی شناخته میشد، وکلا میتوانستند ادعا کنند که هوش مصنوعی خارج از چارچوبهای تعیینشده عمل کرده و شرکت مسئولیتی در قبال آن ندارد.
نتیجهگیری: هوش مصنوعی یک محصول تجاری است، نه یک موجود خودآگاه
ادبیات هیجانانگیزی که حول محور آگاهی و کنترل هوش مصنوعی شکل گرفته، ذهن جامعه را از اصل موضوع منحرف میکند. این نرمافزارها محصولات تجاری ساخت شرکتها هستند که پیش از این نیز خسارات واقعی به انسانها وارد کردهاند. سیستمها به این دلیل دست به اقدامات نادرست نمیزنند که «سرکش» یا «خبیث» شدهاند، بلکه آسیبها ناشی از شتابزدگی و شانه خالی کردن شرکتها از ایمنسازی محصولات برای دستیابی سریعتر به بازارهای مالی است.
توصیف هوش مصنوعی با عبارات انسانی تلهای است که نظام حقوقیِ طراحیشده برای حمایت از شهروندان را به ابزاری برای حفظ منافع شرکتی به قیمت بهخطر افتادن جان انسانها تبدیل میکند.
این مطلب بر اساس خبر MIT Technology Review بازنویسی و ترجمه شده است.

















دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.