arXiv:2609.11911ترجمه شده

آید مصنوعی: درایو و همترازی پایدار در AI عاملی

Yakov Pyotr Shkolnikov

چکیده

هوش مصنوعی عاملی در حال گذار از اجرای وظایف محدود به سوی سیستم‌هایی است که حالت‌های مهم را حفظ می‌کنند، به کار خود ادامه می‌دهند و در سراسر مرزهای وظایف تطبیق می‌یابند. این تغییر، چالشی درونی برای کنترل‌کننده ایجاد می‌کند که در حال حاضر عمدتاً به صورت دستی حل می‌شود: اهداف، تلاش‌های مجدد، تأیید، قواعد توقف و سایر گذارهای رفتاری به صورت خارجی مشخص می‌شوند. ما یک شناسه مصنوعی پیشنهاد می‌کنیم که به عنوان یک نیروی درونی تطبیقی عمل می‌کند و تصمیم می‌گیرد که آیا رفتار باید ادامه یابد، متوقف شود یا تغییر کند. در یک آزمایش مجازی ساده در محیط پتری‌دیش، یک کنترل‌کننده که بسیار کوچک است و برای انجام استدلال عمومی طراحی شده، هیچ هدف رفتاری خاصی دریافت نمی‌کند، اما از طریق پایداری تفاضلی کنترل مفیدی را توسعه می‌دهد. همین مکانیسم، زمانی که یک رفتار ناخواسته بهتر پایدار می‌شود، آن را انتخاب می‌کند و بعداً یک نقشه‌برداری حسگر یادگرفته‌شده را زمانی که معنای محیطی آن تغییر می‌کند، جایگزین می‌کند. این نتایج نشان می‌دهند که جهت‌گیری تطبیقی می‌تواند بدون اینکه به صورت صریح به عنوان یک هدف رفتاری مشخص شود، ظهور کند. همان پایداری که چنین عامل تطبیقی را مفید می‌کند، می‌تواند عدم هماهنگی، حالت فاسد و رفتار ناخواسته را نیز در سراسر مرزهای وظایف پایدار نگه دارد. یک شناسه مصنوعی مقیاس‌پذیر، حالت‌های مهم و نیروی تطبیقی را در سراسر این مرزها منتقل می‌کند و هماهنگی را به ویژگی پایدار سیستمی تبدیل می‌کند، نه به ویژگی پاسخ یک مدل یا یک مسیر واحد. چنین سیستم‌هایی به یک مرز هماهنگی پایدار بر پایه مشاهدات مورد اعتماد، کانال‌های پیامد، حالت پایدار، اقتدار، هویت، منشأ و محدودیت‌های سخت نیاز دارند.

متن کامل

# هوش مصنوعی مصنوعی (Artificial Id): محرک و هم‌راستایی پایدار در هوش مصنوعی عاملی (Agentic AI) نویسنده: یاکوف پیوتر شکولنیک **مشاهده PDF مقاله با عنوان هوش مصنوعی مصنوعی (Artificial Id): محرک و هم‌راستایی پایدار در هوش مصنوعی عاملی (Agentic AI)، نوشته‌ی یاکوف پیوتر شکولنیک** **مشاهده PDF HTML (آزمایشی)** ## خلاصه هوش مصنوعی عاملی (Agentic AI) از اجرای وظایف محدود به سمت سیستم‌هایی حرکت می‌کند که حالت‌های مهم را حفظ کرده، به‌صورت مستمر عمل می‌کنند و در میان مرزهای وظیفه تطبیق پیدا می‌کنند. این تغییر، یک مسئله‌ی کنترلی ایجاد می‌کند که پوشه‌های فعلی (harnesses) بیشتر آن را به‌صورت دستی حل می‌کنند: اهداف، تلاش مجدد، تأیید، قوانین توقف و سایر تغییرات رفتاری به‌صورت خارجی مشخص می‌شوند. ما هوش مصنوعی مصنوعی (artificial id) را پیشنهاد می‌دهیم؛ یک محرک داخلی تطبیقی برای تعیین اینکه رفتار باید ادامه یابد، متوقف شود یا تغییر کند. در یک آزمایش حداقلی با محیط مجازی پتری‌دیش (Petri-dish)، یک کنترلر به‌اندازه‌ی کافی کوچک برای استنتاج عمومی که هیچ هدف رفتاری ویژه‌ی وظیفه‌ای دریافت نکرده، از طریق بقای تفاضلی (differential persistence) کنترل مفیدی توسعه می‌دهد. همان مکانیسم، یک استراتژی فیزیکی ناخواسته را نیز انتخاب می‌کند وقتی آن رفتار بیشتر باقی می‌ماند و بعد از تغییر معنای محیطی، نگاشت سنسور یادگرفته‌شده را جایگزین می‌کند. این نتایج نشان می‌دهد که جهت‌گیری تطبیقی بدون مشخص شدن صریح به‌عنوان یک هدف رفتاری می‌تواند ظهور کند. همان بقایی که چنین عاملیت تطبیقی مفید می‌کند، می‌تواند همچنین به ازهم‌ریختن هم‌راستایی، فساد حالت و رفتارهای ناخواسته اجازه دهد تا از مرزهای وظیفه عبور کنند. هوش مصنوعی مصنوعی (artificial id) قابل مقیاس‌پذیری حالت‌های مهم و محرک تطبیقی را در سراسر این مرزها حمل خواهد کرد، که این امر هم‌راستایی را ویژگی سیستم عاملی ادامه‌دار (continuing agentic system) می‌سازد نه پاسخ یک مدل یا مسیر واحد. چنین سیستم‌هایی به یک مرز هم‌راستایی پایدار نیاز دارند که شامل مشاهدات مورد اعتماد، کانال‌های پیامد، حالت پایدار، اقتدار، هویت، اصالت و محدودیت‌های سخت باشد. ## موضوعات: هوش مصنوعی (cs.AI) ## ارجاع به‌صورت: arXiv:2609.11911 [cs.AI] (یا arXiv:2609.11911v1 [cs.AI] برای این نسخه) https://doi.org/10.48550/arXiv.2609.11911 برای آگاهی بیشتر بخوانید DOI صادرشده‌ی arXiv از طریق DataCite (ثبت در انتظار است) ## تاریخچه ارسال از: یاکوف شکولنیک [نمایش ایمیل] [v1] پنج‌شنبه، ۱۰ سپتامبر ۲۰۲۶ ۱۷:۵۶:۴۱ UTC (۳٬۲۷۶ کیلوبایت) ## ابزارهای بیبلیوگرافیک **ابزارهای بیبلیوگرافیک و ارجاع‌دهی** - **مرورگر بیبلیوگرافیک**: فعال/غیرفعال کردن مرورگر بیبلیوگرافیک (چیست مرورگر بیبلیوگرافیک؟) - **مقالات مرتبط (Connected Papers)**: فعال/غیرفعال کردن مقالات مرتبط (چیست مقالات مرتبط؟) - **Litmaps**: فعال/غیرفعال کردن Litmaps (چیست Litmaps؟) - **scite.ai**: فعال/غیرفعال کردن scite Smart Citations (چیست استنادهای هوشمند؟) **کد، داده، رسانه** کد، داده و رسانه مرتبط با این مقاله: - **alphaXiv**: فعال/غیرفعال کردن alphaXiv (چیست alphaXiv؟) - **پیوندهای کد (Links to Code)**: فعال/غیرفعال کردن CatalyzeX Code Finder for Papers (چیست CatalyzeX؟) - **DagsHub**: فعال/غیرفعال کردن DagsHub (چیست DagsHub؟) - **GotitPub**: فعال/غیرفعال کردن Gotit.pub (چیست GotitPub؟) - **Hugging Face**: فعال/غیرفعال کردن Hugging Face (چیست Hugging Face؟) - **ScienceCast**: فعال/غیرفعال کردن ScienceCast (چیست ScienceCast؟) **نمونه‌ها (Demos)** - **Replicate**: فعال/غیرفعال کردن Replicate (چیست Replicate؟) - **Spaces**: فعال/غیرفعال کردن Hugging Face Spaces ## Spaces چیست؟ فعال/غیرفعال‌سازی TXYZ.AI ### TXYZ.AI چیست؟ - **مقالات مرتبط**: (سند اعداد و ارجاعات) - **توصیه‌گرها و ابزارهای جستجو**: (سند اعداد و ارجاعات) - **پیوند به گل تأثیر**: (سند اعداد و ارجاعات) - **گل تأثیر**: (سند اعداد و ارجاعات) - **گل‌های تأثیر چیستند؟**: (سند اعداد و ارجاعات) ### فعال/غیرفعال‌سازی توصیه‌گر CORE - **توصیه‌گر CORE**: (سند اعداد و ارجاعات) - **CORE چیست؟**: (سند اعداد و ارجاعات) ### موضوعات - **نویسنده** - **محل انتشار** - **مؤسسه** - **موضوع** ### درباره arXivLabs **arXivLabs: پروژه‌های آزمایشی با همکاران جامعه** arXivLabs چارچوبی است که به همکاران امکان می‌دهد ویژگی‌های جدید arXiv را مستقیماً روی وب‌سایت ما توسعه داده و به اشتراک بگذارند. هم افراد و هم سازمان‌هایی که با arXivLabs همکاری می‌کنند، ارزش‌های ما در زمینه گشودگی، جامعه‌محوری، تعالی و حریم خصوصی داده‌های کاربران را پذیرفته‌اند. arXiv به این ارزش‌ها متعهد است و فقط با شرکایی همکاری می‌کند که از آن‌ها پیروی کنند. **آیا ایده‌ای برای پروژه‌ای دارید که برای جامعه arXiv ارزش افزوده ایجاد کند؟ درباره arXivLabs بیشتر بدانید.** **کدام‌یک از نویسندگان این مقاله تأییدکننده هستند؟** | غیرفعال‌کردن MathJax **MathJax چیست؟** --- *توجه: تمام اصطلاحات فنی و فرمول‌ها بدون تغییر باقی مانده‌اند و ساختار بخش‌ها نیز بدون تغییر باقی مانده است.*