SWE-Prime: کم‌تر مسیرها، عملکرد بهتر

عنوان: SWE-Prime: مسیر کمتر، عملکرد بهتر نویسندگان: Dewu Zheng، Ruizhe Ye، Yanlin Wang، Yang Ye، Hongyu Zhang، Ensheng Shi، Xilin Liu، Yuchi Ma، Jianxing Yu، Zibin Zheng خلاصه: برای بهبود توانایی مدل‌های زبانی بزرگ در حل مسائل نرم‌افزاری واقعی، کارهای پیشین بر سر ساخت مجموعه‌های داده‌ی مسیر عامل در مقیاس بزرگ و انجام تنظیم دقیق تحت نظارت (SFT) بر روی مسیرها موفق تمرکز داشته‌اند. با این حال، موفقیت در انجام وظیفه تضمینی برای نظارت با کیفیت بالا نیست: مسیرهای موفق ممکن است همچنان شامل مراحل ناکارآمد، تکراری یا پرخطر باشند. استفاده مستقیم از چنین مسیرهایی برای SFT می‌تواند نظارت نویزی ایجاد کرده و مدل‌ها را ترغیب کند تا رفتارهای نامطلوب در حل مسئله را تقلید کنند. بنابراین، ما SWE-Prime را معرفی می‌کنیم که یک روش انتخاب داده‌های SFT با گرانولاریته چندلایه و دو مرحله‌ای است که به تدریج داده‌های آموزشی را در سطح مسیر و بخش فیلتر می‌کند. به طور خاص، مرحله اول غربالگری سطح مسیر بر اساس کیفیت فرآیند، کیفیت نتیجه و نمایندگی داده‌ها انجام می‌شود و زیرمجموعه‌ای باکیفیت و نماینده از مسیرها را انتخاب می‌کند. مرحله دوم انتخاب سطح بخش را با گروه‌بندی پله‌های متوالی به بخش‌های معنایی و ارزیابی هر بخش بر اساس مشارکت آن در راه‌حل نهایی، قابلیت یادگیری و ریسک‌های بالقوه انجام می‌دهد. در طول SFT، تمام بخش‌ها به ترتیب باقی می‌مانند تا زمینه حفظ شود، در حالی که فقط بخش‌های انتخاب شده در محاسبه هدرد مشارکت دارند. آزمایشات بر روی SWE-Bench Pro و SWE-Bench Verified نشان می‌دهد که آموزش بر روی زیرمجموعه مسیر ۱۰٪ انتخاب شده توسط SWE-Prime عملکرد آموزش بر روی مجموعه داده‌ی کامل حل‌شده را بهتر می‌رساند و سودهای عملکرد نسبی تا ۱۲.۲٪ و ۲۴.۲٪ به ترتیب حاصل می‌شود. نظرات: مهندسی نرم‌افزار (cs.SE)، هوش مصنوعی (cs.AI)، محاسبات و زبان (cs.CL) استناد: arXiv:2608.27449 [cs.SE] (یا arXiv:2608.27449v1 [cs.SE] برای این نسخه) https://doi.org/10.48550/arXiv.2608.27449 فوکوس برای یادداشت بیشتر: DOI منتشرشده توسط arXiv از طریق DataCite (در انتظار ثبت) User Safety: safe