
شرکت Pangram که در زمینه تشخیص متنهای تولیدشده توسط هوش مصنوعی فعالیت میکند، اخیراً با چالشهای اخلاقی و انتقادات جدی روبهرو شده است. مسئله اصلی این است که ابزارهای سنجش این شرکت، به جای ارزیابی دقیق کیفیت محتوا، به معیاری برای سرزنش و شرمساری کاربران در شبکههای اجتماعی تبدیل شدهاند. در این میان، دو پرسش کاملاً متفاوت با یکدیگر خلط میشوند: آیا از هوش مصنوعی استفاده شده است، و این ابزار چگونه در فرایند تولید محتوا به کار رفته است؟
ماجرا از زمانی شدت گرفت که این شرکت روزنامهنگاری جنجالی را برای پیشبرد استراتژی رسانهای خود استخدام کرد تا کاربرانی را که متهم به استفاده از هوش مصنوعی بودند در پلتفرمهایی مانند ایکس (توییتر سابق) و لینکدین هدف حمله قرار دهد. با اینکه Pangram بعدها همکاری خود را با وی قطع کرد و رویکرد خود را به سمت پذیرش متون ویرایششده با هوش مصنوعی تغییر داد، اما مدیرعامل این شرکت همچنان با انتشار نمرات ابزار خود، افرادی را که ادعا میشود استفاده خود از فناوری را پنهان کردهاند، در افکار عمومی بازخواست میکند.
بزرگترین نقطه ضعف ابزارهای تشخیص متن مانند Pangram این است که آنها تنها میزان احتمال مداخله هوش مصنوعی را اندازهگیری میکنند، اما قادر به تشخیص نحوه استفاده از آن نیستند. مدل کسبوکار چنین شرکتهایی بر این فرض استوار است که استفاده از هوش مصنوعی معادل تنبلی یا عدم صداقت است؛ زیرا اگر این برچسب منفی از بین برود، دلیل چندانی برای پرداخت هزینه جهت تشخیص متون باقی نخواهد ماند.
آشکارسازها نمیتوانند تمایز قائل شوند که آیا یک متن بهطور کامل توسط یک پرامپت چندثانیهای تولید شده یا اینکه هوش مصنوعی تنها نقش یک همفکر، ویرایشگر یا ابزار ترجمه را ایفا کرده است. با این حال، موجهای شرمساری عمومی طوری رفتار میکنند که گویا هرگونه استفاده از الگوریتمها به معنای عدم تفکر یا بیارزش بودن تلاش نویسنده است.
ارزیابیهای مبتنی بر درصدهای عددی ابزارهایی مانند Pangram میتوانند آسیبهای جدی به همراه داشته باشند. برای نمونه، برخی از دانشگاهها و مؤسسات پژوهشی، مقالات علمی را صرفاً بر اساس همین درصدهای تخمینی رد میکنند. این در حالی است که بسیاری از محققان غیرانگلیسیزبان برای بهبود شیوایی نگارش، شفافیت مفاهیم و ترجمه نتایج پژوهشهای خود از هوش مصنوعی کمک میگیرند.
در واقع، مجازات این افراد با استناد به نمرات غیردقیق ابزارهای تشخیص، به معنای جریمه کردن آنها برای تلاش در جهت ارتقای کیفیت آثارشان است. برسیها نشان میدهد که حتی متون ترجمهشده و ویرایششده توسط انسان نیز ممکن است به اشتباه توسط این ابزارها بهعنوان «محتوای تولیدشده با هوش مصنوعی» علامتگذاری شوند.
برای درک بهتر این موضوع، میتوان یک قیاس تاریخی مطرح کرد. الکساندر دوما، نویسنده برجسته فرانسوی، برای نگارش پیشنویس اولیه شاهکارهایی مانند سه تفنگدار از دستیارانی کمک میگرفت و سپس خودش متن را بازنویسی و صیقل میداد. اصالت و ارزش این آثار حاصل ایده اولیه و پردازش نهایی خود دوما بود.
اگر در آن زمان ابزار تشخیص هوش مصنوعی وجود داشت، احتمالاً پیشنویسهای اولیه را شناسایی و کل اثر دوما را زیر سؤال میبرد؛ دقیقاً همان اتفاقی که امروز برای نویسندگان و پژوهشگرانی میافتد که از هوش مصنوعی به عنوان دستیاری برای بهبود نگارش استفاده میکنند.
این مطلب بر اساس خبر The Decoder بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.