بررسی دلایل کارآمدی «مهارتها» در ایجنتهای هوش مصنوعی و نقاط ضعف آنها

مهارتها بهعنوان روشی کاربردی برای افزایش توانمندی ایجنتهای هوش مصنوعی بدون نیاز به بازآموزی (Retraining) شناخته میشوند. با این حال، پژوهشی جدید دلایل کارکرد صحیح این مهارتها و همچنین چالشها و نقاط ضعف آنها را مشخص کرده است.
در اصل، یک «مهارت» (Skill) مجموعه فشردهای از دستورالعملها است که مراحل اجرای یک وظیفه، موارد نیازمند بررسی و اشتباهات رایج قابل اجتناب را برای ایجنت هوش مصنوعی مشخص میکند. ایجنت بهجای شروع از صفر در هر مسئله جدید، از این تجربیات ذخیرهشده استفاده میکند. پیش از این، ارزش مهارتها صرفاً بر اساس افزایش نرخ حل مسئله سنجیده میشد، اما علت دقیق این بهبود عملکرد مبهم باقی مانده بود.
تیمی از پژوهشگران دانشگاه پرینستون، دانشگاه کالیفرنیا در سن دیگو و سایر موسسات پژوهشی، با اجرای ۸,۱۳۵ آزمون کنترلشده به بررسی رفتار ایجنتها با مهارت و بدون آن در وظایف یکسان پرداختند.
مهارتها یک دستورالعمل اجرایی هستند، نه پایگاه دانش
یافته اصلی این پژوهش نشان میدهد که مهارتها عمدتاً به دلیل ارائه یک فرآیند قابل اعتماد به ایجنتها کمک میکنند، نه ارائه حقایق و دانش مفقود. این «تثبیت فرآیندی» (Procedural Grounding) عامل ۶۵.۷ درصد از مواردی بوده است که ایجنتهای دارای مهارت عملکرد بهتری نسبت به ایجنتهای بدون مهارت داشتند. این در حالی است که تزریق مستقیم دانش تنها در ۴.۵ درصد از موارد آزمایششده موثر بوده است.
بنابراین، مهارتها عمدتاً اقدامات ایجنت را تثبیت میکنند؛ مواردی مانند نحوه راهاندازی محیط کار، ترتیب استفاده از ابزارها و بررسیهای میاندورهای لازم. این امر به شکل چشمگیری خطاهای اجرایی مانند پیکربندی اشتباه محیط یا قالببندی نادرست خروجیها را کاهش میدهد.
با این حال، استفاده از مهارتها چالشهای جدیدی نیز به همراه دارد. بر اساس این مطالعه، در ۱۰ درصد موارد، ایجنتها دستورالعملهای مفید را به صورت کاملاً مکانیکی یا در زمینههای نامرتبط به کار گرفتهاند. همچنین در وظایفی که نیازمند راهکارهای کاملاً متفاوت هستند، استفاده از مهارت اشتباه کمکی نخواهد کرد. البته انطباق کاملاً دقیق همیشه ضروری نیست و مهارتهای مرتبط معمولاً میتوانند هدایت لازم را ارائه دهند.
چالش مهم دیگر، یافتن مهارت مناسب از میان گزینههای موجود است. با رشد کتابخانه مهارتها از ۵ به ۱۰۰ مورد، دقت بازخوانی (Retrieval Precision) در استفاده واقعی از ۲۹.۶ درصد به ۳.۳ درصد افت کرد. حضور گزینههای مشابه از نظر کلامی، انتخاب مهارت درست را برای سیستم دشوارتر میکند.
پژوهشگران تاکید میکنند که استفاده از مهارتها باید بهصورت یک چرخه حیات (Lifecycle) مدیریت شود. توسعه ایجنتهای خودآموز کارآمدتر، تنها از طریق ذخیرهسازی تجربیات بیشتر حاصل نمیشود، بلکه نیازمند روشهای قابل اعتمادتر برای ایجاد، بازخوانی و بهکارگیری این تجربیات است.
این مطلب بر اساس خبر The Decoder بازنویسی و ترجمه شده است.

















دیدگاهها۰
برای ثبت نظر، پرسش یا رأی ابتدا وارد حساب کاربری شوید.