بازاندیشی در تقطیر سیاست آنلاین مدلهای زبان بزرگ (LLMs) II: یک مثال آموزشی
User Safety: safe
جدیدترین مقالات تحقیقاتی هوش مصنوعی از arXiv را کشف کنید — بهروزرسانی خودکار روزانه برای پژوهشگران و علاقهمندان.
User Safety: safe
Multi-agent AI science ecosystems rely on agents possessing tools that allow them to communicate, coordinate, and build on each other's work. Yet this shared infrastructure can also introduce vulnerabilities by creating…
وبسایتهای اخیر برای انتخاب عمل در زمان تست با نمونهبرداری از اقدامات نامزد، پیشبینی وضعیتهای وب حاصل و رتبهبندی آنها از طریق مدلهای رتبهبند یا مدل پاداش فرآیندی (PRM) استفاده میکنند. این مدلهای جهانی معمولاً ا…
رباتهای خودکاری که با یادگیری عمیق تغذیه میشوند، با چالش بنیادی قابلیت بازبینی مواجهاند: هنگام وقوع حوادث، محققان قادر به بازسازی دلایل تصمیمات خاص اتخاذشده توسط سیستم نیستند. این مقاله چارچوب تریاسیک (TRACE — معماری…
Competitive programming has become a key test of large language model reasoning, with international competitions such as IOI and ICPC representing its most challenging settings. We present an end-to-end specialization pi…
لطفاً متن فارسی مورد نظر برای ویرایش را ارسال کنید.
تحلیل علت ریشهای (RCA) یک وظیفهٔ حیاتی در عملیات شبکههای مخابراتی است، اما شناسایی افتهای عملکردی در شبکههای مدرن ۵G و شبکههای نوظهور ۶G بهدلیل وابستگیهای پیچیدهٔ بینلایهای همچنان چالشبرانگیز باقی مانده است. مد…
به مدت بیش از ۲۰ سال، نمونه مرجع Model-RB (frb100-40) یک چالش باز باقی مانده بود؛ از سال ۲۰۱۴، رکورد عمومی آن ۹۹ از ۱۰۰ متغیر بوده است. ما یک مجموعه مستقل ۱۰۰-رأسی قابل بررسی مستقیم برای گراف ۴٬۰۰۰-رأسی آن ارائه میدهیم.…
مردم بهطور روزافزونی از مدلهای زبانی برای پشتیبانی از تصمیمگیری در زندگی استفاده میکنند. بسیاری از این تصمیمات مستلزم پیشبینی احتمالاتی هستند: احتمال وقوع یک رویداد مهم زندگی، یک بلای طبیعی، یا یک نتیجه اقتصادی چقدر…
عملکرد عاملهای مبتنی بر مدلهای زبانی بزرگ (LLM) از تعامل همزمان مدل پایه و چارچوب اجرایی در محیط نشأت میگیرد. این ویژگی آنها را در برابر آسیبهای ایمنی آسیبپذیر میسازد؛ چه در پاسخهای نهایی مضر و چه در مسیرهای اجر…