ترجمه فارسی مقاله تنظیم دقیق CLIP به دلیل در مورد تفاوت های زوجی

چکیده

Vision-language models (VLMs) such as CLIP are trained via contrastive learning between text and image pairs, resulting in aligned image and text embeddings that are useful for many downstream tasks. A notable drawback of CLIP, however, is that the resulting embedding space seems to lack some of the structure of their purely text-based alternatives. For instance, while text embeddings have been long noted to satisfy \emph{analogies} in embedding space using vector arithmetic, CLIP has no such property. In this paper, we propose an approach to natively train CLIP in a contrastive manner to reason about differences in embedding space. We finetune CLIP so that the differences in image embedding space correspond to \emph{text descriptions of the image differences}, which we synthetically generate with large language models on image-caption paired datasets. We first demonstrate that our approach yields significantly improved capabilities in ranking images by a certain attribute (e.g., elephants are larger than cats), which is useful in retrieval or constructing attribute-based classifiers, and improved zeroshot classification performance on many downstream image classification tasks. In addition, our approach enables a new mechanism for inference that we refer to as comparative prompting, where we leverage prior knowledge of text descriptions of differences between classes of interest, achieving even larger performance gains in classification. Finally, we illustrate that the resulting embeddings obey a larger degree of geometric properties in embedding space, such as in text-to-image generation.

چکیده به فارسی (ترجمه ماشینی)

مدل های بینایی زبان (VLM) مانند کلیپ از طریق یادگیری متضاد بین جفت متن و تصویر آموزش می یابند ، در نتیجه تصویر و تعبیه متن تراز شده که برای بسیاری از کارهای پایین دست مفید است.با این حال ، اشکال قابل توجه کلیپ این است که به نظر می رسد فضای تعبیه شده حاصل از برخی از ساختار گزینه های کاملاً مبتنی بر متن آنها فاقد است.به عنوان مثال ، در حالی که تعبیه متن مدتهاست که برای برآورده کردن \ itm {قیاس} در جاسازی فضای با استفاده از حسابی وکتور ذکر شده است ، کلیپ چنین خاصیتی ندارد.در این مقاله ، ما یک رویکرد برای آموزش کلیپ بومی به روشی متضاد پیشنهاد می کنیم تا در مورد تفاوت در فضای تعبیه شده استدلال کنیم.ما کلیپ های finetune را به گونه ای که تفاوت در فضای تعبیه کننده تصویر با توصیفات متن از تفاوت های تصویر مطابقت دارد ، که ما از نظر مصنوعی با مدل های زبان بزرگ در مجموعه داده های جفت شده تصویر سازگار می شویم.ما ابتدا نشان می دهیم که رویکرد ما قابلیت های قابل توجهی در رتبه بندی تصاویر توسط یک ویژگی خاص (به عنوان مثال ، فیل ها بزرگتر از گربه ها هستند) ، که در بازیابی یا ساخت طبقه بندی کننده های مبتنی بر ویژگی ها مفید است و عملکرد طبقه بندی Zeroshot را در بسیاری از کارهای طبقه بندی تصویر پایین دست مفید است.بشرعلاوه بر این ، رویکرد ما مکانیسم جدیدی را برای استنباط که ما از آن به عنوان فرکانس مقایسه ای یاد می کنیم ، امکان پذیر می کند ، جایی که ما از دانش قبلی در مورد توصیف متن از تفاوت های بین کلاس های مورد علاقه استفاده می کنیم و به دست آوردن سود حتی بیشتر در طبقه بندی نیز می رسد.سرانجام ، ما نشان می دهیم که تعبیه های حاصل از درجه بیشتری از خواص هندسی در فضای تعبیه ، مانند تولید متن به تصویر پیروی می کنند.