در سال‌های اخیر، معماری ترنسفورمر (Transformer) که ابتدا انقلابی در حوزه پردازش زبان طبیعی (NLP) ایجاد کرد، با موفقیت به دنیای بینایی کامپیوتر نیز راه یافته است. مدل ترنسفورمر بینایی (Vision Transformer – ViT) با تقسیم تصاویر به قطعات (Patches) و پردازش آن‌ها به عنوان یک توالی، توانسته است به نتایجی شگفت‌انگیز در وظایف تشخیص و طبقه‌بندی تصویر دست یابد. با این حال، مکانیزم اصلی این مدل‌ها، یعنی خودتوجهی ضرب نقطه‌ای مقیاس‌شده (Scaled Dot-Product Self-Attention)، یک چالش اساسی به همراه دارد: ابهام مقیاس (Scale Ambiguity). این پدیده باعث می‌شود ساختار هندسی فضای ویژگی‌ها در طول فرآیند یادگیری دچار اعوجاج شود که می‌تواند به کاهش پایداری و کارایی مدل منجر گردد.

مقاله «O-ViT: ترنسفورمر بینایی متعامد» با نگاهی نو و از منظر هندسی، راهکاری خلاقانه برای رفع این مشکل ارائه می‌دهد. این مقاله با معرفی یک محدودیت ریاضی به نام تعامد (Orthogonality)، تلاش می‌کند تا هندسه فضای ویژگی‌ها را در طول آموزش مدل حفظ کند. اهمیت این پژوهش در آن است که با تثبیت ساختار هندسی، نه تنها به پایداری بیشتر فرآیند یادگیری کمک می‌کند، بلکه منجر به بهبود قابل توجهی در دقت مدل‌های ViT می‌شود. این رویکرد، مسیری جدید برای بهینه‌سازی مدل‌های مبتنی بر ترنسفورمر در بینایی کامپیوتر می‌گشاید.

این مقاله توسط تیمی از پژوهشگران به نام‌های یانهونگ فِی (Yanhong Fei)، یینجی لیو (Yingjie Liu)، شیان وِی (Xian Wei) و مینگسونگ چِن (Mingsong Chen) به رشته تحریر درآمده است. حوزه تخصصی این تحقیق در تقاطع دو زمینه بسیار پرطرفدار در هوش مصنوعی، یعنی بینایی کامپیوتر و بازشناسی الگو (Computer Vision and Pattern Recognition) و یادگیری ماشین (Machine Learning) قرار دارد. تمرکز اصلی نویسندگان بر بهبود معماری‌های یادگیری عمیق، به ویژه مدل‌های مبتنی بر ترنسفورمر، برای کاربردهای بصری است. این پژوهش نمونه‌ای برجسته از ترکیب مفاهیم پیشرفته ریاضیات (مانند هندسه دیفرانسیل و جبر لی) با یادگیری عمیق برای حل مشکلات بنیادی در این مدل‌هاست.

مقاله O-ViT با الهام از موفقیت چشمگیر مکانیزم خودتوجهی در پردازش زبان طبیعی، به بررسی و بهبود عملکرد مدل ViT در حوزه بینایی کامپیوتر می‌پردازد. نویسندگان اشاره می‌کنند که مکانیزم خودتوجهی در ViT، با ایجاد ابهام در مقیاس، ساختار اصلی فضای ویژگی‌ها را برهم می‌زند. برای حل این مشکل، آن‌ها روشی نوین به نام ترنسفورمر بینایی متعامد (O-ViT) را پیشنهاد می‌کنند که مدل ViT را از دیدگاه هندسی بهینه می‌سازد.

ایده اصلی O-ViT این است که پارامترهای بلوک‌های خودتوجهی را به گونه‌ای محدود کند که بر روی یک خمینه متعامد حافظ هنجار (Norm-keeping Orthogonal Manifold) قرار گیرند. این محدودیت تضمین می‌کند که تبدیل‌های اعمال‌شده بر روی ویژگی‌ها، طول (یا هنجار) بردارها را تغییر ندهند و در نتیجه، ساختار هندسی فضای ویژگی‌ها (مانند فواصل و زوایا بین بردارها) حفظ شود. برای پیاده‌سازی این محدودیت به روشی کارآمد و با سربار محاسباتی کم، مقاله از یک نگاشت پوشا (Surjective Mapping) بین گروه متعامد و جبر لی (Lie Algebra) مرتبط با آن بهره می‌برد. آزمایش‌های مقایسه‌ای بر روی وظایف تشخیص تصویر نشان می‌دهد که O-ViT می‌تواند عملکرد ViT را تا ۳.۶ درصد بهبود بخشد.

روش‌شناسی این مقاله بر سه پایه اصلی استوار است: شناسایی مشکل، ارائه راه‌حل هندسی و پیاده‌سازی بهینه آن.

• مشکل: اعوجاج هندسی در ViT استاندارد
  در مکانیزم خودتوجهی، ماتریس‌های پرس‌وجو (Query)، کلید (Key) و مقدار (Value) از طریق ضرب ورودی‌ها در ماتریس‌های وزن (W_Q, W_K, W_V) به دست می‌آیند. در ViT استاندارد، این ماتریس‌های وزن هیچ محدودیتی ندارند و در طول آموزش می‌توانند مقادیر خود را آزادانه تغییر دهند. این آزادی عمل باعث می‌شود که هنجار (طول) بردارهای ویژگی به صورت غیرقابل پیش‌بینی تغییر کند و در نتیجه، فواصل و زوایای بین آن‌ها در فضای ویژگی دچار اعوجاج شود. این پدیده که به آن ابهام مقیاس می‌گویند، می‌تواند پایداری یادگیری را کاهش دهد.
• راه‌حل: اعمال محدودیت تعامد
  برای حل این مشکل، O-ViT یک راه‌حل هوشمندانه ارائه می‌دهد: ماتریس‌های وزن باید متعامد (Orthogonal) باشند. یک ماتریس متعامد، تبدیلی را توصیف می‌کند که تنها شامل چرخش (Rotation) یا بازتاب (Reflection) است. مهم‌ترین ویژگی چنین تبدیلی این است که حافظ هنجار (Norm-keeping) است؛ یعنی طول بردارها را پس از تبدیل تغییر نمی‌دهد. با ملزم کردن ماتریس‌های وزن به متعامد بودن، O-ViT تضمین می‌کند که ساختار هندسی فضای ویژگی‌ها در هر لایه از مدل دست‌نخورده باقی بماند.
• پیاده‌سازی بهینه با استفاده از جبر لی
  اعمال مستقیم محدودیت تعامد در فرآیند بهینه‌سازی گرادیانی بسیار پیچیده و پرهزینه است، زیرا فضای ماتریس‌های متعامد یک خمینه (Manifold) است و نه یک فضای برداری ساده. نویسندگان برای غلبه بر این چالش، از یک تکنیک ریاضی زیبا بهره می‌برند. آن‌ها به جای بهینه‌سازی مستقیم ماتریس متعامد W، یک ماتریس متناظر در فضای ساده‌تری به نام جبر لی (Lie Algebra) را بهینه‌سازی می‌کنند. فضای جبر لی متشکل از ماتریس‌های پادمتقارن است که یک فضای برداری خطی است و می‌توان به راحتی از الگوریتم‌های بهینه‌سازی استاندارد مانند SGD یا Adam در آن استفاده کرد. سپس با استفاده از یک نگاشت پوشا (مانند نگاشت Cayley)، ماتریس بهینه‌شده در جبر لی را به یک ماتریس متعامد معتبر تبدیل می‌کنند. این روش هوشمندانه، هم محدودیت تعامد را تضمین می‌کند و هم سربار محاسباتی را به حداقل می‌رساند.

آزمایش‌های انجام‌شده در این مقاله نتایج قابل توجهی را به همراه داشته است که اعتبار رویکرد O-ViT را تأیید می‌کند. یافته‌های اصلی عبارتند از:

• بهبود عملکرد: O-ViT به طور مداوم بر مدل پایه ViT در وظایف طبقه‌بندی تصویر برتری دارد. نتایج تجربی بر روی مجموعه داده‌های استاندارد مانند CIFAR-100 و ImageNet نشان‌دهنده بهبودی تا ۳.۶٪ در دقت طبقه‌بندی است. این بهبود نشان می‌دهد که حفظ ساختار هندسی به مدل کمک می‌کند تا ویژگی‌های معنادارتری را بیاموزد.
• پایداری در آموزش: با جلوگیری از تغییرات ناگهانی در مقیاس ویژگی‌ها، محدودیت تعامد به فرآیند آموزش پایدارتری منجر می‌شود. این امر می‌تواند به کاهش مشکلاتی مانند انفجار یا محو شدن گرادیان‌ها (Exploding/Vanishing Gradients) کمک کرده و همگرایی مدل را تسریع بخشد.
• کارایی محاسباتی: روش بهینه‌سازی مبتنی بر جبر لی که در O-ViT به کار رفته، سربار محاسباتی بسیار ناچیزی نسبت به مدل ViT استاندارد دارد. این بدان معناست که بهبود عملکرد بدون افزایش قابل توجه در زمان آموزش یا منابع محاسباتی مورد نیاز به دست می‌آید.

مقاله O-ViT دستاوردهای نظری و عملی مهمی را به ارمغان می‌آورد که فراتر از یک بهبود ساده در دقت مدل است.

• کاربردهای عملی: دستاورد اصلی این مقاله، ارائه یک مدل قدرتمندتر برای وظایف طبقه‌بندی تصویر است. با این حال، اصول به کار رفته در O-ViT می‌تواند به سادگی در سایر کاربردهای بینایی کامپیوتر که از معماری ترنسفورمر استفاده می‌کنند، مانند تشخیص اشیاء (Object Detection) و بخش‌بندی معنایی (Semantic Segmentation)، نیز تعمیم داده شود.
• دستاورد نظری: این پژوهش یک دیدگاه هندسی ارزشمند برای درک و بهبود مدل‌های یادگیری عمیق ارائه می‌دهد. با پیوند دادن مفاهیم ریاضی پیشرفته مانند گروه‌های متعامد و جبر لی به معماری ترنسفورمر، این مقاله راه را برای طراحی مدل‌های آگاه از هندسه (Geometry-Aware) هموار می‌سازد.
• سهولت در پیاده‌سازی: محدودیت تعامد O-ViT می‌تواند به عنوان یک ماژول “plug-and-play” به معماری‌های ViT موجود اضافه شود. این ویژگی باعث می‌شود که محققان و مهندسان بتوانند به راحتی از مزایای آن در پروژه‌های خود بهره‌مند شوند.

مقاله O-ViT: ترنسفورمر بینایی متعامد به طور موفقیت‌آمیزی یکی از ضعف‌های بنیادی معماری ViT، یعنی ابهام مقیاس در مکانیزم خودتوجهی را مورد بررسی قرار داده و راه‌حلی کارآمد و مبتنی بر اصول هندسی برای آن ارائه کرده است. با اعمال محدودیت تعامد بر روی ماتریس‌های وزن در بلوک‌های خودتوجهی، O-ViT موفق به حفظ ساختار هندسی فضای ویژگی‌ها می‌شود. این امر نه تنها به افزایش دقت و پایداری مدل کمک می‌کند، بلکه درک عمیق‌تری از نحوه عملکرد این مدل‌های پیچیده فراهم می‌آورد.

استفاده هوشمندانه از نگاشت بین جبر لی و گروه متعامد برای پیاده‌سازی این محدودیت با هزینه محاسباتی کم، نوآوری کلیدی این مقاله است. در نهایت، O-ViT گامی مهم به سوی طراحی نسل جدیدی از مدل‌های یادگیری عمیق است که نه تنها قدرتمند هستند، بلکه از نظر ریاضیاتی نیز خوش‌بنیه و قابل تفسیرتر عمل می‌کنند. این رویکرد پتانسیل بالایی برای بهبود سایر معماری‌های مبتنی بر ترنسفورمر در حوزه‌های مختلف هوش مصنوعی دارد.