ترجمه فارسی مقاله بررسی همبستگی های عصبی متقاطع در زمینه پیش بینی عملکرد مدل و قابلیت تعمیم

چکیده

As Artificial Intelligence (AI) models are increasingly integrated into critical systems, the need for a robust framework to establish the trustworthiness of AI is increasingly paramount. While collaborative efforts have established conceptual foundations for such a framework, there remains a significant gap in developing concrete, technically robust methods for assessing AI model quality and performance. A critical drawback in the traditional methods for assessing the validity and generalizability of models is their dependence on internal developer datasets, rendering it challenging to independently assess and verify their performance claims. This paper introduces a novel approach for assessing a newly trained model’s performance based on another known model by calculating correlation between neural networks. The proposed method evaluates correlations by determining if, for each neuron in one network, there exists a neuron in the other network that produces similar output. This approach has implications for memory efficiency, allowing for the use of smaller networks when high correlation exists between networks of different sizes. Additionally, the method provides insights into robustness, suggesting that if two highly correlated networks are compared and one demonstrates robustness when operating in production environments, the other is likely to exhibit similar robustness. This contribution advances the technical toolkit for responsible AI, supporting more comprehensive and nuanced evaluations of AI models to ensure their safe and effective deployment. Code is available at https://github.com/aheldis/Cross-model-correlation.git.

چکیده به فارسی (ترجمه ماشینی)

از آنجا که مدل های هوش مصنوعی (AI) به طور فزاینده ای در سیستم های بحرانی ادغام می شوند ، نیاز به یک چارچوب قوی برای ایجاد اعتماد به نفس هوش مصنوعی به طور فزاینده ای مهم است.در حالی که تلاش های مشترک برای چنین چارچوبی مبانی مفهومی ایجاد کرده است ، در توسعه روشهای بتونی و فنی قوی برای ارزیابی کیفیت و عملکرد مدل هوش مصنوعی ، شکاف قابل توجهی وجود دارد.یک اشکال مهم در روشهای سنتی برای ارزیابی اعتبار و تعمیم پذیری مدل ها ، وابستگی آنها به مجموعه داده های توسعه دهنده داخلی است و ارزیابی و تأیید ادعاهای عملکرد آنها را به طور مستقل به چالش می کشد.در این مقاله یک رویکرد جدید برای ارزیابی عملکرد یک مدل تازه آموزش دیده بر اساس مدل شناخته شده دیگر با محاسبه همبستگی بین شبکه های عصبی ارائه شده است.روش پیشنهادی با تعیین اینکه آیا برای هر نورون در یک شبکه ، یک نورون در شبکه دیگر وجود دارد که تولید مشابهی را تولید می کند ، همبستگی ها را ارزیابی می کند.این رویکرد پیامدهای مربوط به راندمان حافظه را دارد که امکان استفاده از شبکه های کوچکتر را فراهم می کند که همبستگی بالا بین شبکه ها در اندازه های مختلف وجود داشته باشد.علاوه بر این ، این روش بینش در مورد استحکام را ارائه می دهد ، نشان می دهد که اگر دو شبکه بسیار همبسته مقایسه شوند و یکی هنگام کار در محیط های تولید ، استحکام را نشان می دهد ، دیگری احتمالاً استحکام مشابهی را نشان می دهد.این سهم ، ابزار فنی را برای مسئولیت پذیری AI ، پشتیبانی می کند و از ارزیابی های جامع تر و ظریف تر از مدل های هوش مصنوعی پشتیبانی می کند تا از استقرار ایمن و مؤثر آنها اطمینان حاصل شود.کد در https://github.com/aheldis/cross-model-correlation.git در دسترس است.