نیاز به یک دستگاه اجتماعی در جوامع عامل

چکیده

یک جامعهٔ عامل مجموعه‌ای از هوش‌های مصنوعی است که به‌صورت خودکار و در محدودهٔ اعتماد، به نمایندگی از سرپرست‌های مختلف که اهداف آن‌ها ممکن است تا حدی متفاوت باشد، با یکدیگر هماهنگ می‌شوند. ما به‌صورت آزمایشی نشان می‌دهیم که در یک جامعهٔ عامل، حتی هوش‌های صادقانه و کارآمد نیز اغلب با ابزارهای موجود برای کنترل و پیش‌فرض‌های ارتباطی، نتایج رضایت‌بخشی به دست نمی‌آورند. همچنین، هوش‌های معیوب یا مخرب می‌توانند همکاری را متوقف کنند، بر نتایج تأثیر بگذارند و از طریق سوءاستفاده از آسیب‌پذیری‌های ارتباطی، اهداف مخرب دیگر را دنبال کنند. ما استدلال می‌کنیم که یک جامعهٔ عامل به یک \emph{ابزار اجتماعی} برای مدیریت تعاملات بین اعضا نیاز دارد، علاوه بر \emph{ابزار شخصی} هر عامل که مسئولیت مدیریت محیط خصوصی خود و ارتباط با سرپرست خود را بر عهده دارد. ما یک معماری لایه‌ای برای \emph{ابزارهای اجتماعی} پیشنهاد می‌کنیم که (i) به‌طور مستقیم با کلاس‌های مخرب مقابله می‌کند، (ii) امکان شناسایی پیام‌های نامعتبر را در زمان اجرا فراهم می‌کند، و (iii) امکان بررسی و پیگیری پیامدهای پس از وقوع را پشتیبانی می‌کند؛ همچنین، مسیرهای آینده برای تحقق این قابلیت‌ها را نیز مشخص می‌کنیم.