ترجمه فارسی مقاله یادگیری نمودار مولکولی یادگیری ادغام مدلهای بزرگ زبان با مدلهای کوچک خاص دامنه

چکیده

Molecular property prediction is a crucial foundation for drug discovery. In recent years, pre-trained deep learning models have been widely applied to this task. Some approaches that incorporate prior biological domain knowledge into the pre-training framework have achieved impressive results. However, these methods heavily rely on biochemical experts, and retrieving and summarizing vast amounts of domain knowledge literature is both time-consuming and expensive. Large Language Models (LLMs) have demonstrated remarkable performance in understanding and efficiently providing general knowledge. Nevertheless, they occasionally exhibit hallucinations and lack precision in generating domain-specific knowledge. Conversely, Domain-specific Small Models (DSMs) possess rich domain knowledge and can accurately calculate molecular domain-related metrics. However, due to their limited model size and singular functionality, they lack the breadth of knowledge necessary for comprehensive representation learning. To leverage the advantages of both approaches in molecular property prediction, we propose a novel Molecular Graph representation learning framework that integrates Large language models and Domain-specific small models (MolGraph-LarDo). Technically, we design a two-stage prompt strategy where DSMs are introduced to calibrate the knowledge provided by LLMs, enhancing the accuracy of domain-specific information and thus enabling LLMs to generate more precise textual descriptions for molecular samples. Subsequently, we employ a multi-modal alignment method to coordinate various modalities, including molecular graphs and their corresponding descriptive texts, to guide the pre-training of molecular representations. Extensive experiments demonstrate the effectiveness of the proposed method.

چکیده به فارسی (ترجمه ماشینی)

پیش بینی خاصیت مولکولی پایه و اساس مهمی برای کشف مواد مخدر است.در سالهای اخیر ، مدل های یادگیری عمیق از قبل آموزش دیده به طور گسترده ای برای این کار کاربرد داشته اند.برخی از رویکردها که دانش دامنه بیولوژیکی قبلی را در چارچوب قبل از آموزش قرار می دهند ، به نتایج چشمگیری رسیده اند.با این حال ، این روش ها به شدت به متخصصان بیوشیمیایی متکی هستند ، و بازیابی و خلاصه کردن مقادیر گسترده ادبیات دانش دامنه هم وقت گیر و هم گران است.مدل های بزرگ زبان (LLM) عملکرد قابل توجهی در درک و ارائه کارآمد دانش عمومی نشان داده اند.با این وجود ، آنها گهگاه توهم را نشان می دهند و در تولید دانش خاص دامنه فاقد دقت هستند.در مقابل ، مدلهای کوچک خاص دامنه (DSM) دارای دانش دامنه غنی هستند و می توانند معیارهای مربوط به دامنه مولکولی را با دقت محاسبه کنند.با این حال ، به دلیل اندازه مدل محدود و عملکرد مفرد ، آنها فاقد وسعت دانش لازم برای یادگیری جامع بازنمایی هستند.برای بهره‌گیری از مزایای هر دو رویکرد در پیش بینی خاصیت مولکولی ، ما یک چارچوب یادگیری نمودار مولکولی جدید را پیشنهاد می کنیم که مدلهای بزرگ زبان و مدلهای کوچک خاص دامنه را ادغام می کند (Molgraph-Lardo).از نظر فنی ، ما یک استراتژی سریع دو مرحله ای را طراحی می کنیم که DSM ها برای کالیبراسیون دانش ارائه شده توسط LLM ها معرفی می شوند ، و باعث افزایش دقت اطلاعات خاص دامنه می شوند و در نتیجه LLM ها را قادر می سازند تا توضیحات دقیق تری را برای نمونه های مولکولی تولید کنند.پس از آن ، ما از یک روش تراز چند منظوره برای هماهنگی روشهای مختلف ، از جمله نمودارهای مولکولی و متون توصیفی مربوط به آنها ، برای هدایت پیش از بازدیدهای مولکولی استفاده می کنیم.آزمایش های گسترده اثربخشی روش پیشنهادی را نشان می دهد.