چکیده
متن فارسی مورد نظر شما برای ویرایش ارائه نشده است. لطفاً متن را ارسال کنید تا با رعایت اصول ذکرشده (حفظ اصطلاحات تخصصی، فرمول‌ها، ساختار بخش‌ها و استنادات) آن را از نظر روانی، ساختاری و واژگانی بهبود دهم.
متن کامل
**علوم کامپیوتر > یادگیری ماشین (ML) arXiv:2609.30218v1 (cs) [ارائه‌شده در ۲۴ سپتامبر ۲۰۲۶]**
**عنوان:** هدایت بهینه کم‌تهاجمی بردار جهت‌دهی مدل‌های زبانی
**نویسندگان:** طاها انتساری، جینگ‌یو ژانگ، دانیل خشابی، مهیار فضلیاب
**مشاهده PDF مقاله با عنوان «هدایت بهینه کم‌تهاجمی بردار جهت‌دهی مدل‌های زبانی»، نوشته طاها انتساری و ۳ نویسنده دیگر**
**مشاهده HTML (تجربی)**
**چکیده:**
هدایت پیش‌لاگیت (pre-logit) با افزودن بردارها به حالات پنهان نهایی مدل، یک مدل زبانی یخ‌زده را به پاداشِ زمانِ تست (test-time reward) تطبیق می‌دهد. بهینه‌سازی پاداش بدون منظم‌سازی می‌تواند توزیع خروجی را به‌شکل قابل‌توجهی تغییر داده و کیفیت تولید را کاهش دهد. ما روش **بهینه‌سازی بردار جهت‌دهی کم‌تهاجمی (MISVO)** را پیشنهاد می‌کنیم که با بهره‌گیری از هندسه KL محلی توزیع توکنِ برآمده، مداخله‌ها را مجازات می‌کند. فیشر درجه‌دوم (Fisher quadratic) حاصل، حساسیت توزیع را اندازه‌گیری کرده و محاسبه گرادیان تحلیلی را از طریق حاصل‌ضرب ماتریس-بردار با لایه خروجی مدل زبانی یخ‌زده ممکن می‌سازد. ما یک تجزیه دقیق گرادیان KL سطح توالی را به یک ترم فیشر تحلیلی و یک ترم تابع امتیاز (score-function) پسوند استخراج می‌کنیم. برای افق تولید ثابت، نشان می‌دهیم که ترم پسوند مرتبه دوم در بزرگی جهت‌دهی است و که سه جایگزین فیشر با گرادیان کامل KL تا مرتبه اول هم‌خوانی دارند. MISVO برای بهینه‌سازی مداخله‌های خاصِ موقعیت (position-specific) بدون به‌روزرسانی پارامترهای مدل، از جایگزین مرجع یخ‌زده استفاده می‌کند. در وظایف ترجیح و تولید کد بر روی مدل‌هایی با حدود ۱ تا ۱۴ میلیارد پارامتر، MISVO در شش از هفت تنظیم مدل-وظیفه، بیشترین پاداش میانگین را به دست می‌آورد، با امتیازهای تنوع و پیوستگی (coherence) نزدیک به Best-of-N.
**موضوعات:** یادگیری ماشین (cs.LG)؛ هوش مصنوعی (cs.AI)
**استناد به صورت:** arXiv:2609.30218 [cs.LG] (یا arXiv:2609.30218v1 [cs.LG] برای این نسخه)
https://doi.org/10.48550/arXiv.2609.30218
**تمرکز برای کسب اطلاعات بیشتر**
DOI صادرشده توسط arXiv از طریق DataCite (در انتظار ثبت)
**تاریخچه ارائه**
از: مهیار فضلیاب [مشاهده ایمیل]
[v1] پنج‌شنبه، ۲۴ سپتامبر ۲۰۲۶ ۱۷:۴۶:۴۶ UTC (۶۰۳ کیلوبایت)
**ابزارهای کتابشناسی**
ابزارهای کتابشناسی و استناد
کاوشگر کتابشناسی (Bibliographic Explorer) — تغییر وضعیت کاوشگر کتابشناسی (کاوشگر کتابشناسی چیست؟)
مقالات مرتبط (Connected Papers) — تغییر وضعیت مقالات مرتبط (مقالات مرتبط چیست؟)
Litmaps — تغییر وضعیت Litmaps (Litmaps چیست؟)
scite.ai — تغییر وضعیت استنادات هوشمند scite (استنادات هوشمند scite چیست؟)
**کد، داده، رسانه**
کد، داده و رسانه مرتبط با این مقاله
alphaXiv — تغییر وضعیت alphaXiv (alphaXiv چیست؟)
لینک‌های کد — تغییر وضعیت CatalyzeX Code Finder for Papers (CatalyzeX چیست؟)
DagsHub — تغییر وضعیت DagsHub (DagsHub چیست؟)
GotitPub — تغییر وضعیت Gotit.pub (GotitPub چیست؟)
Huggingface — تغییر وضعیت Hugging Face (Hugging Face چیست؟)
ScienceCast — تغییر وضعیت ScienceCast (ScienceCast چیست؟)
**نمونه‌ها (Demos)**
نمونه‌ها
Replicate — تغییر وضعیت Replicate (Replicate چیست؟)
Spaces — تغییر وضعیت Hugging Face Spaces (Hugging Face Spaces چیست؟)
Spaces — تغییر وضعیت TXYZ.AI (TXYZ.AI چیست؟)
**مقالات مرتبط**
سیستم‌های توصیه‌گر و ابزارهای جستجو
لینک به گل تأثیر (Influence Flower) — گل تأثیر (گل‌های تأثیر چیست؟)
توصیه‌گر هسته (CORE Recommender) — تغییر وضعیت توصیه‌گر هسته (توصیه‌گر هسته چیست؟)
IArxiv recommender
تغییر وضعیت پیشنهاددهنده IArxiv (IArxiv چیست؟)
نویسنده | مکان انتشار | مؤسسه | موضوع | درباره arXivLabs
arXivLabs: پروژه‌های آزمایشی با همکاران جامعه
arXivLabs چارچوبی است که به همکاران اجازه می‌دهد ویژگی‌های جدید arXiv را مستقیماً در وب‌سایت ما توسعه دهند و به اشتراک بگذارند.
هرچند اشخاص و سازمان‌هایی که با arXivLabs کار می‌کنند، ارزش‌های باز بودن، جامعه، عالی بودن و حریم خصوصی داده‌های کاربر را پذیرفته و رعایت می‌کنند.
arXiv متعهد به این ارزش‌هاست و تنها با شرکایی که به آنها پایبند هستند کار می‌کند.
آیا ایده‌ای برای پروژه‌ای دارید که ارزشی برای جامعه arXiv افزوده کند؟ بیشتر درباره arXivLabs بیاموزید.
کدام نویسندگان این مقاله تأییدکننده هستند؟ | غیرفعال کردن MathJax (MathJax چیست؟)