ترجمه فارسی مقاله ابراعتماد: استراتژی ابرهم‌ترازی مبتنی بر تکامل برای همزیستی امن

چکیده

It’s widely expected that humanity will someday create AI systems vastly more intelligent than we are, leading to the unsolved alignment problem of “how to control superintelligence.” However, this definition is not only self-contradictory but likely unsolvable. Nevertheless, the default strategy for solving it involves nurturing (post-training) constraints and moral values, while unfortunately building foundational nature (pre-training) on documented intentions of permanent control. In this paper, the default approach is reasoned to predictably embed natural distrust and test results are presented that show unmistakable evidence of this dangerous misalignment. If superintelligence can’t instinctively trust humanity, then we can’t fully trust it to reliably follow safety controls it can likely bypass. Therefore, a ten-point rationale is presented that redefines the alignment problem as “how to establish protective mutual trust between superintelligence and humanity” and then outlines a new strategy to solve it by aligning through instinctive nature rather than nurture. The resulting strategic requirements are identified as building foundational nature by exemplifying familial parent-child trust, human intelligence as the evolutionary mother of superintelligence, moral judgment abilities, and temporary safety constraints. Adopting and implementing this proposed Supertrust alignment strategy will lead to protective coexistence and ensure the safest future for humanity.

چکیده به فارسی (ترجمه ماشینی)

به طور گسترده ای انتظار می رود که بشریت روزی سیستم های هوش مصنوعی را بسیار هوشمندانه تر از ما ایجاد کند و منجر به مشکل تراز نشده حل نشده “چگونه می توان سرپرستی را کنترل کرد”.با این حال ، این تعریف نه تنها متناقض بلکه احتمالاً غیرقابل حل است.با این وجود ، استراتژی پیش فرض برای حل آن شامل محدودیت های پرورش (پس از آموزش) و ارزش های اخلاقی است ، در حالی که متأسفانه در حال ساختن ماهیت بنیادی (پیش از آموزش) در اهداف مستند کنترل دائمی است.در این مقاله ، رویکرد پیش فرض استدلال می شود که به طور پیش بینی شده بی اعتمادی طبیعی را تعبیه کرده و نتایج آزمایش ارائه شده است که شواهد غیرقابل توصیف از این سوء استفاده خطرناک را نشان می دهد.اگر Superintelligence نمی تواند به طور غریزی به بشریت اعتماد کند ، پس نمی توانیم به آن اعتماد کنیم تا با اطمینان از کنترل های ایمنی پیروی کنیم که احتمالاً می تواند دور بزند.بنابراین ، یک دلیل منطقی ده نقطه ای ارائه شده است که مشکل تراز را به عنوان “چگونه می توان اعتماد متقابل محافظتی بین سرپرست و بشریت ایجاد کرد” را تعریف کرد و سپس یک استراتژی جدید را برای حل آن با تراز کردن از طریق طبیعت غریزی و نه پرورش بیان می کند.الزامات استراتژیک حاصل به عنوان ماهیت بنیادی ساختمان با مثال اعتماد به نفس خانوادگی پدر و مادر و کودک ، هوش انسانی به عنوان مادر تکاملی سرپرست ، توانایی های قضاوت اخلاقی و محدودیت های ایمنی موقت شناخته می شود.اتخاذ و اجرای این استراتژی تراز فوق العاده پیشنهادی منجر به همزیستی محافظتی و اطمینان از ایمن ترین آینده برای بشریت خواهد شد.