مقاله بهبود کیفیت OCR در اسناد تاریخی قرن نوزدهم با استفاده از یک رویکرد مبتنی بر یادگیری ماشین ترکیبی

چکیده

This paper addresses a major challenge to historical research on the 19th century. Large quantities of sources have become digitally available for the first time, while extraction techniques are lagging behind. Therefore, we researched machine learning (ML) models to recognise and extract complex data structures in a high-value historical primary source, the Schematismus. It records every single person in the Habsburg civil service above a certain hierarchical level between 1702 and 1918 and documents the genesis of the central administration over two centuries. Its complex and intricate structure as well as its enormous size have so far made any more comprehensive analysis of the administrative and social structure of the later Habsburg Empire on the basis of this source impossible. We pursued two central objectives: Primarily, the improvement of the OCR quality, for which we considered an improved structure recognition to be essential; in the further course, it turned out that this also made the extraction of the data structure possible. We chose Faster R-CNN as base for the ML architecture for structure recognition. In order to obtain the required amount of training data quickly and economically, we synthesised Hof- und Staatsschematismus-style data, which we used to train our model. The model was then fine-tuned with a smaller set of manually annotated historical source data. We then used Tesseract-OCR, which was further optimised for the style of our documents, to complete the combined structure extraction and OCR process. Results show a significant decrease in the two standard parameters of OCR-performance, WER and CER (where lower values are better). Combined structure detection and fine-tuned OCR improved CER and WER values by remarkable 71.98 percent (CER) respectively 52.49 percent (WER).

چکیده به فارسی (ترجمه ماشینی)

در این مقاله به یک چالش بزرگ برای تحقیقات تاریخی در قرن نوزدهم می پردازیم.مقادیر زیادی از منابع برای اولین بار به صورت دیجیتالی در دسترس قرار گرفته اند ، در حالی که تکنیک های استخراج عقب مانده اند.بنابراین ، ما مدل های یادگیری ماشین (ML) را برای تشخیص و استخراج ساختار داده های پیچیده در یک منبع اولیه تاریخی با ارزش بالا ، شماتیسم تحقیق کردیم.این فرد تک شخص را در خدمات ملکی هابسبورگ بالاتر از سطح سلسله مراتبی خاص بین سالهای 1702 تا 1918 ثبت می کند و پیدایش دولت مرکزی را طی دو قرن مستند می کند.ساختار پیچیده و پیچیده آن و همچنین اندازه عظیم آن تاکنون تجزیه و تحلیل جامع تری از ساختار اداری و اجتماعی امپراتوری بعدی هابسبورگ بر اساس این منبع غیرممکن انجام داده است.ما دو هدف اصلی را دنبال کردیم: در درجه اول ، بهبود کیفیت OCR ، که برای آن ما یک ساختار بهبود یافته را ضروری دانستیم.در دوره بعدی ، معلوم شد که این امر همچنین باعث شده است که استخراج ساختار داده ممکن باشد.ما R-CNN سریعتر را به عنوان پایه برای معماری ML برای شناخت ساختار انتخاب کردیم.به منظور به دست آوردن مقدار مورد نیاز داده های آموزشی به سرعت و اقتصادی ، ما داده های Hof- und Staatsschematismus را که از آن برای آموزش مدل خود استفاده می کردیم ، سنتز کردیم.سپس این مدل با مجموعه ای کوچکتر از داده های منبع تاریخی حاشیه نویسی دستی تنظیم شد.ما سپس از Tesseract-OCR استفاده کردیم که بیشتر برای سبک اسناد ما بهینه سازی شد تا روند استخراج ساختار ترکیبی و فرآیند OCR را تکمیل کنیم.نتایج نشان می دهد که کاهش قابل توجهی در دو پارامتر استاندارد عملکرد OCR ، WER و CER (جایی که مقادیر پایین بهتر هستند) نشان می دهد.تشخیص ساختار ترکیبی و OCR با تنظیم دقیق مقادیر CER و WER را با 71.98 درصد قابل توجه (CER) به ترتیب 52.49 درصد (WER) بهبود بخشید.