ترجمه فارسی مقاله آموزش متضاد برای تشخیص شخصیت در پاپیروس یونان باستان

چکیده

This thesis investigates the effectiveness of SimCLR, a contrastive learning technique, in Greek letter recognition, focusing on the impact of various augmentation techniques. We pretrain the SimCLR backbone using the Alpub dataset (pretraining dataset) and fine-tune it on a smaller ICDAR dataset (finetuning dataset) to compare SimCLR’s performance against traditional baseline models, which use cross-entropy and triplet loss functions. Additionally, we explore the role of different data augmentation strategies, essential for the SimCLR training process. Methodologically, we examine three primary approaches: (1) a baseline model using cross-entropy loss, (2) a triplet embedding model with a classification layer, and (3) a SimCLR pretrained model with a classification layer. Initially, we train the baseline, triplet, and SimCLR models using 93 augmentations on ResNet-18 and ResNet-50 networks with the ICDAR dataset. From these, the top four augmentations are selected using a statistical t-test. Pretraining of SimCLR is conducted on the Alpub dataset, followed by fine-tuning on the ICDAR dataset. The triplet loss model undergoes a similar process, being pretrained on the top four augmentations before fine-tuning on ICDAR. Our experiments show that SimCLR does not outperform the baselines in letter recognition tasks. The baseline model with cross-entropy loss demonstrates better performance than both SimCLR and the triplet loss model. This study provides a detailed evaluation of contrastive learning for letter recognition, highlighting SimCLR’s limitations while emphasizing the strengths of traditional supervised learning models in this task. We believe SimCLR’s cropping strategies may cause a semantic shift in the input image, reducing training effectiveness despite the large pretraining dataset. Our code is available at https://github.com/DIVA-DIA/MT_augmentation_and_contrastive_learning/.

چکیده به فارسی (ترجمه ماشینی)

این پایان نامه به بررسی اثربخشی SIMCLR ، یک تکنیک یادگیری متضاد ، در شناخت نامه یونانی ، با تمرکز بر تأثیر تکنیک های مختلف تقویت می پردازد.ما ستون فقرات SIMCLR را با استفاده از مجموعه داده ALPUB (مجموعه داده پیش از پیش) تنظیم می کنیم و آن را بر روی یک مجموعه داده کوچکتر ICDAR (مجموعه داده های FinetUning) تنظیم می کنیم تا عملکرد SIMCLR را در برابر مدلهای پایه سنتی مقایسه کنیم ، که از آنتروپی و عملکردهای از دست دادن سه گانه استفاده می کنند.علاوه بر این ، ما نقش استراتژی های مختلف تقویت داده ها را بررسی می کنیم ، که برای فرآیند آموزش SIMCLR ضروری است.از نظر روش شناختی ، ما سه روش اصلی را بررسی می کنیم: (1) یک مدل پایه با استفاده از از دست دادن متقابل آنتروپی ، (2) یک مدل تعبیه سه گانه با یک لایه طبقه بندی ، و (3) یک مدل پیش ساخته SIMCLR با یک لایه طبقه بندی.در ابتدا ، ما مدل های پایه ، سه گانه و SIMCLR را با استفاده از 93 تقویت در شبکه های RESNET-18 و RESNET-50 با مجموعه داده ICDAR آموزش می دهیم.از این تعداد ، چهار افزودنی برتر با استفاده از آزمون آماری T انتخاب می شوند.پیش بینی SIMCLR در مجموعه داده Alpub انجام می شود و به دنبال آن تنظیم دقیق در مجموعه داده ICDAR انجام می شود.مدل از دست دادن سه گانه تحت یک فرآیند مشابه قرار می گیرد و قبل از تنظیم دقیق در ICDAR در چهار افزودنی برتر قرار می گیرد.آزمایشات ما نشان می دهد که SIMCLR در کارهای تشخیص نامه از خطوط پایه بهتر عمل نمی کند.مدل پایه با از دست دادن متقابل آنتروپی عملکرد بهتری نسبت به SIMCLR و مدل از دست دادن سه گانه نشان می دهد.این مطالعه یک ارزیابی دقیق از یادگیری متضاد برای شناخت نامه ارائه می دهد ، و ضمن تأکید بر نقاط قوت مدلهای یادگیری سنتی تحت نظارت در این کار ، محدودیت های SIMCLR را برجسته می کند.ما معتقدیم که استراتژی های برداشت SIMCLR ممکن است باعث تغییر معنایی در تصویر ورودی شود و علی رغم مجموعه داده های بزرگ پیش بینی ، اثربخشی آموزش را کاهش می دهد.کد ما در https://github.com/diva-dia/mt_augmentation_and_contrastive_learning/ در دسترس است.