چکیده
شبکههای عصبی عمیق اغلب از ارتباطات جعلی در دادههای آموزشی خود بهره میبرند؛ نقصی که با نام یادگیری میانبر شناخته میشود. روشهای تبیینپذیری مبتنی بر مفهوم، برای شناسایی این میانبرها، با بررسی این پرسش عمل میکنند که آیا مفاهیمی مانند جنسیت بیمار یا تنظیمات دستگاه تصویربرداری را میتوان از لایههای شبکه استخراج کرد. از آنجا که هر مفهوم بهصورت مستقل ارزیابی میشود، این روشها ممکن است همبستگی میان مفاهیم را با شواهدی که مدل واقعاً از آنها استفاده میکند، اشتباه بگیرند. ما روش تحلیل مبتنی بر مفهوم (ICON) را معرفی میکنیم که در عوض، میزان واریانس لایهای را که هر مفهوم پس از احتساب تمام مفاهیم دیگر و برچسب نتیجه تبیین میکند، اندازهگیری میکند. بر روی دادههای مصنوعی با حقیقت مبنای شناختهشده، ICON اهمیت مفهوم را دقیقتر از هفت روش پایه بازگردانده است. بر روی مدلهای آسیبشناسی پوست و تصویربرداری مغز، این روش مفاهیمی را که مدل واقعاً بر آنها تکیه دارد شناسایی میکند، مقدار نمایشی که توسط هیچیک از مفاهیم ارائهشده تبیین نمیشود را بهصورت عددی تعیین میکند، و توضیحاتی پراکنده تولید مینماید که با آموزش مجدد و آزمون توزیع بیرونی تأیید میکنیم.
متن کامل
علوم کامپیوتر > یادگیری ماشین (Machine Learning) arXiv:2608.26083v1 (cs) [ارسال شده در ۲۶ اوت ۲۰۲۶]
**عنوان:** تجزیه ICON: توضیحات چندمتغیره در سطح مفهوم برای نمایشهای عمیق جهت ممیزی مدل
**نویسندگان:** روشان پراکاش رانه، مارکو زیمناچر، مانوئل فایفر، مارک-آندره شولتز، نایس تجاده زیگل، ماکسیمیلیان درایر، فردریک پاهده، وویچیه سامک، سونیا گروِن، کِرشتین ریتر
مشاهده PDF مقاله با عنوان «تجزیه ICON: توضیحات چندمتغیره در سطح مفهوم برای نمایشهای عمیق جهت ممیزی مدل»، اثر روشان پراکاش رانه و ۹ نویسنده دیگر
مشاهده PDF (HTML آزمایشی)
**چکیده:** شبکههای عصبی عمیق اغلب از همبستگیهای جعلی موجود در دادههای آموزشی خود بهرهبرداری میکنند؛ شکستی که با عنوان یادگیری میانبر (shortcut learning) شناخته میشود. روشهای تبیینپذیری مبتنی بر مفهوم، با آزمایش اینکه آیا مفاهیمی مانند جنسیت بیمار یا تنظیمات اسکنر را میتوان از یک لایه شبکه رمزگشایی کرد، به غربالگری این میانبرها میپردازند. از آنجا که در این روشها هر مفهوم بهصورت مجزا ارزیابی میشود، ممکن است همبستگیهای بین مفاهیم را بهعنوان مدرکی دال بر استفاده مدل از آنها اشتباه تفسیر کنند. ما در این مقاله، تجزیه ICON را معرفی میکنیم که در مقابل، کمیت میسنجد که پس از لحاظ کردن تمامی مفاهیم دیگر و متغیر خروجی، هر مفهوم چه میزان از واریانس یک لایه را توضیح میدهد. بر روی دادههای مصنوعی با حقیقت زمینهای معلوم، ICON اهمیت مفاهیم را با دقت بیشتری نسبت به هفت روش جایگزین موجود بازیابی میکند. در کاربرد بر مدلهای ضایعات پوستی و تصویربرداری مغزی، این روش مفاهیمی را که مدل واقعاً به آنها متکی است، از یکدیگر تفکیک میکند، بخش نمایش توضیحدادهنشده توسط هیچیک از مفاهیم عرضهشده را کمیتسنجی میکند، و توضیحات تُنُکی ارائه میدهد که ما با آموزش مجدد و آزمایش توزیع خارجی (out-of-distribution) اعتبارسنجی میکنیم.
**توضیحات:**
**موضوعات:** یادگیری ماشین (cs.LG)؛ هوش مصنوعی (cs.AI)؛ بینایی کامپیوتر و تشخیص الگو (cs.CV)؛ یادگیری ماشین (stat.ML)
**ردههای ACM:** I.2.6؛ I.2.10؛ I.5.1؛ J.3
**نحوه استناد:** arXiv:2608.26083 [cs.LG] (یا arXiv:2608.26083v1 [cs.LG] برای این نسخه)
https://doi.org/10.48550/arXiv.2608.26083
برای کسب اطلاعات بیشتر درباره DOI صادر شده توسط arXiv از طریق DataCite (در انتظار ثبت) کلیک کنید
**تاریخچه ارسال**
از: روشان پراکاش رانه [مشاهده ایمیل]
[v1] چهارشنبه، ۲۶ اوت ۲۰۲۶، ساعت ۱۷:۴۷:۴۹ UTC (۳,۶۶۳ KB)
**ابزارهای کتابشناختی**
ابزارهای کتابشناختی و استنادی
کاوشگر کتابشناختی (Bibliographic Explorer)
تغییر وضعیت کاوشگر کتابشناختی (کاوشگر چیست؟)
مقالات مرتبط (Connected Papers)
تغییر وضعیت مقالات مرتبط (مقالات مرتبط چیست؟)
نقشههای ادبیات (Litmaps)
تغییر وضعیت نقشههای ادبیات (Litmaps چیست؟)
scite.ai
تغییر وضعیت استنادهای هوشمند scite (استنادهای هوشمند چیست؟)
**کد، داده، رسانه**
کد، داده و رسانه مرتبط با این مقاله
alphaXiv
تغییر وضعیت alphaXiv (alphaXiv چیست؟)
پیوندها به کد
تغییر وضعیت CatalyzeX (یابنده کد برای مقالات) (CatalyzeX چیست؟)
DagsHub
تغییر وضعیت DagsHub (DagsHub چیست؟)
GotitPub
تغییر وضعیت Gotit.pub (Gotit.pub چیست؟)
Huggingface
تغییر وضعیت Hugging Face (Huggingface چیست؟)
ScienceCast
تغییر وضعیت ScienceCast (ScienceCast چیست؟)
**نسخههای نمایشی (Demos)**
Replicate
تغییر وضعیت Replicate (Replicate چیست؟)
Spaces
تغییر وضعیت Hugging Face Spaces (Spaces چیست؟)
Spaces
تغییر وضعیت TXYZ.AI (TXYZ.AI چیست؟)
**مقالات مرتبط**
ابزارهای توصیهگر و جستجو
پیوند به جریان نفوذ (Influence Flow)
تأثیر گل (گلهای تأثیر چیست؟) تغییر وضعیت توصیهگر هستهای CORE Recommender (CORE چیست؟) تغییر وضعیت توصیهگر IArxiv IArxiv Recommender (IArxiv چیست؟) نویسنده همایش سازمان موضوع درباره arXivLabs arXivLabs: پروژههای آزمایشی با مشارکت جامعه arXivLabs چارچوبی است که به همکاران اجازه میدهد تا ویژگیهای جدید arXiv را مستقیماً بر روی وبسایت ما توسعه داده و به اشتراک بگذارند. افراد و سازمانهایی که با arXivLabs کار میکنند، ارزشهای ما مبنی بر openness، community، excellence، و حریم دادههای کاربر را پذیرفتهاند. arXiv متعهد به این ارزشها است و تنها با شرکایی که به آنها پایبند هستند همکاری میکند. آیا ایدهای برای پروژهای دارید که ارزش افزودهای برای جامعه arXiv ایجاد کند؟ درباره arXivLabs بیشتر بدانید. کدام نویسندگان این مقاله تأییدکننده هستند؟ | غیرفعالسازی MathJax (MathJax چیست؟)