
شرکتهای پیشرو در توسعه هوش مصنوعی مانند OpenAI و Anthropic بهطور منظم گزارشهایی درباره نحوه استفاده کاربران از ابزارهایی نظیر ChatGPT و Claude منتشر میکنند. با این حال، پژوهشگران برجسته حوزه هوش مصنوعی هشدار میدهند که این شرکتها صرفاً دادههایی را منتشر میکنند که مایل به نمایش آنها هستند و تصویر کاملی از واقعیت ارائه نمیدهند.
به گفته آنکا روئل (Anka Reuel)، نامزد دکتری علوم کامپیوتر در آزمایشگاه تحقیقات هوش مصنوعی قابل اعتماد استنفورد (STAIR)، هیچ منبع مستقلی برای تأیید یا ارزیابی ادعاهای این غولهای فناوری وجود ندارد. همین خلاء اطلاعاتی، پایهگذار پروژهای جدید به نام رصدخانه هوش مصنوعی (AI Observatory) شده است.
پروژه رصدخانه هوش مصنوعی ابتکاری مشترک میان پژوهشگرانی از دانشگاههای استنفورد، امآیتی (MIT)، بنیاد Data Provenance و چند موسسه دیگر است. این پلتفرم عمومی با گردآوری و تحلیل بیش از ۸۵ هزار نوبت گفتوگو در قالب ۲۴,۵۲۱ مکالمه واقعی میان ۵,۰۰۰ کاربر و ۵۲ مدل مختلف (شامل ChatGPT، Gemini، Claude و Grok) بین سالهای ۲۰۲۳ تا ۲۰۲۵، تلاش میکند تصویری بیطرفانه از کاربرد واقعی هوش مصنوعی مولد ارائه دهد.
یکی از سرشناسترین منابع داده در این زمینه، «شاخص اقتصادی آنتروپیک» است. اما این گزارش یک نقطه کور بزرگ دارد: تمرکز اصلی آن بر کاربردهای شغلی و مرتبط با بهرهوری است و مکالمات غیرکاری را حذف میکند.
هنگامی که پژوهشگران رصدخانه هوش مصنوعی متدولوژی آنتروپیک را روی دادههای واقعی پیادهسازی کردند، دریافتند که نزدیک به ۴۸ درصد از کل مکالمات حذف میشوند. بررسی دقیقتر این تعاملات حذفشده نشان داد که کاربران تا چه حد از هوش مصنوعی برای موضوعات حساس استفاده میکنند:
جالب اینجاست که گزارش سال ۲۰۲۵ OpenAI نیز نشان داد که تنها ۳۰ درصد از استفاده کاربران عادی از ChatGPT به مسائل کاری مربوط میشود و باقی آن شامل تعاملات شخصی است.
تحلیل مجموعهدادههای طولانیمدت مانند WildChat بین سالهای ۲۰۲۳ تا ۲۰۲۵ نشان میدهد که نحوه تعامل مردم با هوش مصنوعی دستخوش تغییرات ساختاری شده است:
علاوه بر این، پژوهشگران دریافتند که الگوی مصرف کاربران بسته به نوع مدل بهشدت متفاوت است:
شین لونگپری (Shayne Longpre)، پژوهشگر دانشگاه امآیتی، تأکید میکند که هیچ گزارش تکشرکتی نمیتواند تمام واقعیت را بازگو کند. با این حال، مجموعهدادههای مستقل هنوز در مقایسه با دادههای عظیم شرکتها بسیار کوچک هستند؛ برای نمونه، آنتروپیک و OpenAI گزارشهای خود را بر اساس تحلیل بیش از ۱ میلیون مکالمه تنظیم میکنند.
پژوهشگران هشدار میدهند مادامی که شرکتهای هوش مصنوعی دادههای تعاملی خود را با حفظ حریم خصوصی در اختیار محققان مستقل قرار ندهند، تصمیمگیرندگان و سیاستگذاران در تاریکی تصمیمگیری خواهند کرد و ناچارند تنها به روایتهای سفارشی و تبلیغاتی غولهای فناوری اتکا کنند.
این مطلب بر اساس خبر MIT Technology Review بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.