
بر اساس پژوهش نهاد نظارتی AlgorithmWatch در آلمان، خلاصه تولیدشده توسط هوش مصنوعی گوگل در مواجهه با پرسشهای انتخاباتی عملکردی متناقض دارد، به منابع بسیار محدودی متکی است و در برخی موارد ادبیاتی جانبدارانه درباره نامزدها و احزاب سیاسی به کار میگیرد.
محققان این نهاد با استفاده از دسترسی ویژه به API نتایج پژوهشی گوگل طبق ماده ۴۰ قانون خدمات دیجیتال اتحادیه اروپا (DSA)، بیش از ۴,۴۸۰ عبارت جستجو درباره انتخابات محلی در ایالتهای آلمان را مورد تحلیل قرار دادند تا عملکرد هوش مصنوعی را ارزیابی کنند.
نتایج این بررسی نشان میدهد که گوگل تنها در ۳۹.۱ درصد از پرسشهای مرتبط با انتخابات، بخش AI Overview را فعال کرده است، در حالی که این میزان برای جستجوهای غیرسیاسی به ۶۵.۳ درصد میرسد. با این حال، معیارهای دقیق گوگل برای فعالسازی این بخش همچنان نامشخص است.
الگوهای نمایشی هوش مصنوعی نوسانات شدیدی را نشان میدهند؛ برای نمونه، پرسشهای مربوط به نظرسنجیهای انتخاباتی تقریباً هیچگاه پاسخ هوش مصنوعی دریافت نکردهاند، اما پرسش درباره احزاب و سیاستمداران در ۴۰ تا ۵۰ درصد موارد منجر به ارائه خلاصه شده است. همچنین پرسشهای مرتبط با احزاب راست افراطی بهمراتب کمتر از سایر جریانهای سیاسی پاسخ هوش مصنوعی دریافت کردهاند.
سخنگوی گوگل در پاسخ به این پژوهش مدعی شد که ابزارهای هوش مصنوعی این شرکت با هدف ارائه اطلاعات بیطرفانه طراحی شدهاند و تنها زمانی نمایش داده میشوند که ارزش افزوده بالایی برای کاربر داشته باشند؛ با این حال، این شرکت از ارائه پاسخ شفاف درباره معیارهای عملی خود امتناع کرده است.
بر اساس یافتههای این پژوهش، تنوع منابع ارجاعی در خلاصههای هوش مصنوعی بسیار محدود است؛ به طوری که نزدیک به نیمی از تمام لینکهای پیشنهادی تنها به ۱۰ دامنه وب محدود میشوند. در این میان، پلتفرم ویدئویی یوتیوب که متعلق به خود شرکت گوگل است، بیشترین میزان ارجاع را به خود اختصاص داده است؛ موضوعی که شائبه ترجیح خدمات داخلی توسط گوگل را تقویت میکند.
در میان رسانههای خبری نیز تنها شش وبسایت خبری حدود ۷۵ درصد از کل لینکهای رسانهای را تشکیل دادهاند. از سوی دیگر، وبسایتهای رسمی احزاب سیاسی نیز در کنار دانشنامهها و سامانههای دولتی به عنوان منبع ذکر شدهاند، بدون آنکه برچسب مشخصی برای تمایز آنها از منابع بیطرف درج شود.
لحن هوش مصنوعی در توصیف مواضع سیاسی نیز اغلب فاقد بیطرفی بوده و از واژههای مثبت و مبهمی نظیر «واقعبین»، «مردمی» یا «پایدار» استفاده شده است که معمولاً بازتابدهنده شعارهای تبلیغاتی خود احزاب هستند. بررسیها نشان میدهد که میزان مثبت بودن لحن هوش مصنوعی برای احزاب مختلف تفاوتهای چشمگیری داشته است.
علاوه بر این، توصیف هوش مصنوعی از شخصیتهای سیاسی یکسان نیز دچار نوسان بوده و یک نامزد مشخص در بازههای زمانی کوتاه با عناوین متناقضی برچسب خورده است.
اگرچه خطاهای فاحش واقعگرایانه در این مطالعه کمتر از پژوهشهای گذشته مشاهده شده، اما پژوهشگران علت لحن مجاملهآمیز هوش مصنوعی را پدیده گرایش به تملق در مدلهای بزرگ زبانی میدانند و بر لزوم تدوین قوانین الزامآور برای شفافیت و پاسخگویی حقوقی تأکید دارند.
این مطلب بر اساس خبر The Decoder بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.