
یکی از بزرگترین و جسورانهترین ادعاهای صنعت فناوری، دستیابی به «بهبود خودکار درونزاد» (Recursive Self-Improvement) در سیستمهای هوش مصنوعی است؛ فرآیندی که در آن مدلها بدون نیاز به نظارت انسان، توانایی ارتقای توانمندیهای خود را پیدا میکنند. مدلهای بزرگ زبانی (LLM) در حال حاضر قادر به کدنویسی، تولید دادههای آموزشی سنتتیک و حتی بهینهسازی تراشههای پردازشی هستند. همین امر موجب شده پیشبینیهای متعددی از جهش ناگهانی هوش مصنوعی در آینده نزدیک مطرح شود.
با این حال، نتایج یک مطالعه جدید نشان میدهد که تحقق این چشمانداز ممکن است زمان بسیار بیشتری ببرد. پژوهشگران دریافتهاند که عاملهای هوش مصنوعی (AI Agents) هنوز قادر به انجام تحقیقات آزاد و اکتشافی در حوزه هوش مصنوعی نیستند؛ پژوهشهایی که پاسخهای پیشفرض ندارند و نیازمند داوری علمی، قریحه و خلاقیت انسانی هستند.
گروهی از محققان دانشگاه پرینستون نشان دادند که عاملهای هوش مصنوعی اگرچه در حل مسائل مهندسی و اجرایی مربوط به تحقیقات موفق عمل میکنند، اما فاقد خلاقیت و بینش لازم برای ارائه مقالات علمی معتبر در سطح کنفرانسهای بینالمللی یادگیری ماشین هستند. این عدم توازن نشان میدهد که جدولهای زمانی تبلیغشده برای خودکارسازی کامل تحقیقات هوش مصنوعی شواهد کافی ندارند.
اکثر ارزیابیهای قبلی، توانایی هوش مصنوعی را در وظایف محدود با پاسخهای مشخص (مانند حل مسائل کدنویسی یا ارزیابی بنچمارکها) سنجیدهاند. این در حالی است که پیشرفت واقعی در این حوزه نیازمند تفکر باز (Open-ended Thinking)، انتخاب فرضیههای درست، تشخیص دادههای تعیینکننده و توانایی بازنگری در مسیر علمی است.
پژوهشگران برای سنجش این مهارتها، روش ارزیابی جدیدی به نام «ارزیابی سایه» طراحی کردند. در این آزمون، از مدل Claude Opus 4.8 متعلق به شرکت Anthropic (که بر روی بستر متنباز OpenClaw اجرا میشد) خواسته شد تا به دو مسئله علمی پیچیده از مقالات منتشرنشده ارسالشده به کنفرانس معتبر NeurIPS پاسخ دهد. عدم انتشار این مقالات باعث میشد مدل نتواند پاسخها را از دادههای آموزشی خود یا اینترنت استخراج کند.
به عاملهای هوش مصنوعی شش روز زمان، ۳,۰۰۰ دلار اعتبار API، بودجه پردازش گرافیکی (GPU)، رایانه مجازی و دسترسی آزاد به وب داده شد تا مقالهای در سطح کنفرانسهای برتر نگارش کنند. در نهایت، نویسندگان اصلی مقالات، خروجی هوش مصنوعی را به صورت ناشناس داوری کردند.
نتیجه ارزیابی روشن بود: داوران انسانی هر دو مقاله تولیدشده توسط هوش مصنوعی را رد کردند.
اگرچه عاملهای هوش مصنوعی توانستند مراحل مهندسی کار شامل مرور ادبیات تحقیق، اجرای صدها آزمایش و گردآوری دادهها را انجام دهند، اما در اصل پژوهش عملکرد بسیار ضعیفی داشتند. مهمترین نقاط ضعف هوش مصنوعی در این ارزیابی عبارت بودند از:
علت اصلی توانایی هوش مصنوعی در مهندسی تحقیق و ضعف آن در پژوهشهای مبتنی بر تفکر باز، به نحوه آموزش این سیستمها مربوط میشود. مدلها در روش یادگیری تقویتی (Reinforcement Learning) برای وظایفی که بازخورد اتوماتیک دارند عالی عمل میکنند، اما شبیهسازی محیط آموزشی برای مسائلی که پاسخ قطعی ندارند بسیار پیچیده است.
جک کلارک، همبنیانگذار Anthropic، با تایید یافتههای مشابه در آزمایشهای داخلی این شرکت اظهار داشت که سیستمهای فعلی هوش مصنوعی نوعی تفکر فرمولوار و کلیشهای دارند که مانع از خلاقیت شهودی آنها در پژوهشهای پیشرفته میشود. او این ویژگی را نشانهای بدبینانه برای جدولهای زمانی کوتاهمدت بهبود خودکار دانست.
با این حال، پرسش تریلیون دلاری صنعت فناوری همچنان باقی است: آیا برای دستیابی به هوش مصنوعی خودبهخود بهبودیافته، حتماً به جهشهای خلاقانه و پژوهشهای اصیل نیاز است، یا سیستمهای هوش مصنوعی میتوانند صرفاً از طریق بهینهسازیهای مهندسی و تکرارپذیر بر روی وظایف مشخص به این هدف دست یابند؟
این مطلب بر اساس خبر MIT Technology Review بازنویسی و ترجمه شده است.
دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.