در دهه‌های اخیر، هوش مصنوعی (AI) و یادگیری ماشین (ML) تحولات شگرفی را در حوزه‌های مختلف علمی و صنعتی رقم زده‌اند. یکی از قدرتمندترین پارادایم‌ها در این زمینه، یادگیری انتقال (Transfer Learning) است. در این رویکرد، یک مدل هوش مصنوعی ابتدا بر روی یک مجموعه داده بسیار بزرگ و عمومی (مانند تمام متون ویکی‌پدیا) آموزش داده می‌شود تا دانش پایه‌ای را کسب کند. سپس، این مدلِ از پیش آموزش‌دیده (Pretrained) برای انجام یک وظیفه خاص و تخصصی، با داده‌های کمتر، «تنظیم دقیق» (Finetune) می‌شود. این روش، که در پردازش زبان طبیعی (NLP) با مدل‌هایی مانند BERT و GPT به موفقیت‌های چشمگیری دست یافته است، اکنون در حال گسترش به سایر حوزه‌های علمی، از جمله شیمی محاسباتی و علوم مولکولی است.

شبیه‌سازی رفتار مولکول‌ها برای کشف داروهای جدید، طراحی مواد پیشرفته و درک فرآیندهای بیولوژیکی امری حیاتی است. با این حال، آموزش مدل‌های هوش مصنوعی برای این منظور با یک چالش بزرگ روبروست: هزینه محاسباتی بسیار بالا. آموزش این مدل‌ها بر روی کامپیوترهای معمولی می‌تواند هفته‌ها یا حتی ماه‌ها به طول انجامد. مقاله حاضر با عنوان «کاهش زمان پردازش پایین‌دستی: پیش‌آموزش GNNهای مولکولی با شتاب‌دهنده‌های هوش مصنوعی ناهمگن» یک راه‌حل نوآورانه برای این مشکل ارائه می‌دهد. این پژوهش نشان می‌دهد که چگونه می‌توان با استفاده از سخت‌افزارهای تخصصی هوش مصنوعی، فرآیند آموزش را به طرز چشمگیری سرعت بخشید و راه را برای اکتشافات علمی سریع‌تر هموار کرد.

این مقاله حاصل همکاری یک تیم بین‌رشته‌ای از محققان برجسته است:
Jenna A. Bilbrey, Kristina M. Herman, Henry Sprueill, Soritis S. Xantheas, Payel Das, Manuel Lopez Roldan, Mike Kraus, Hatem Helal, و Sutanay Choudhury.
این تیم متشکل از متخصصانی از مؤسسات تحقیقاتی پیشرو و شرکت‌های فناوری مانند Graphcore است که نشان‌دهنده تلاقی سه حوزه کلیدی است:

• شیمی محاسباتی: تمرکز بر شبیه‌سازی و مدل‌سازی سیستم‌های مولکولی.
• یادگیری ماشین: استفاده از شبکه‌های عصبی پیشرفته، به ویژه شبکه‌های عصبی گرافی (GNN).
• محاسبات با عملکرد بالا (HPC): بهره‌گیری از شتاب‌دهنده‌های سخت‌افزاری نوین برای حل مسائل پیچیده.

زمینه اصلی این تحقیق، کاربرد هوش مصنوعی برای تسریع شبیه‌سازی‌های علمی است، چالشی که نیازمند نوآوری هم در الگوریتم‌ها و هم در زیرساخت‌های محاسباتی است.

هدف اصلی این پژوهش، نمایش یک چارچوب کاری کارآمد برای آموزش و استفاده از مدل‌های هوش مصنوعی در علوم مولکولی است. این چارچوب بر دو مرحله اصلی استوار است: پیش‌آموزش (Pretraining) و تنظیم دقیق (Finetuning).

در مرحله اول، محققان یک شبکه عصبی گرافی (Graph Neural Network – GNN) را بر روی یک پایگاه داده عظیم شامل ۲.۷ میلیون خوشه مولکولی آب آموزش دادند. نکته کلیدی در این مرحله، استفاده از شتاب‌دهنده‌های هوش مصنوعی تخصصی به نام واحدهای پردازش هوش (IPU) محصول شرکت Graphcore بود. این سخت‌افزارها به طور خاص برای پردازش داده‌های گرافی طراحی شده‌اند و توانستند زمان آموزش را به شدت کاهش دهند.

در مرحله دوم، مدلِ از پیش آموزش‌دیده که اکنون درک عمیقی از تعاملات بین‌اتمی پیدا کرده بود، برای دو وظیفه مشخص در حوزه شیمی تنظیم دقیق شد: شبیه‌سازی دینامیک مولکولی و انتقال به یک سطح انرژی پتانسیل جدید. این مرحله بر روی یک پردازنده گرافیکی (GPU) استاندارد و رایج انجام شد. نتایج نشان داد که این رویکرد ترکیبی، زمان مورد نیاز برای دستیابی به نتایج دقیق را از چندین روز یا هفته به تنها چند ساعت یا حتی چند دقیقه کاهش می‌دهد.

روش‌شناسی این تحقیق را می‌توان به دو فاز اصلی تقسیم کرد که هر یک از مدل، داده و سخت‌افزار منحصربه‌فردی بهره می‌برند.

فاز اول: پیش‌آموزش در مقیاس بزرگ

• مدل (GNN): شبکه‌های عصبی گرافی مدلی ایده‌آل برای کار با مولکول‌ها هستند. در این مدل‌ها، هر اتم به عنوان یک «گره» (Node) و هر پیوند شیمیایی به عنوان یک «یال» (Edge) در یک گراف در نظر گرفته می‌شود. GNN با تبادل اطلاعات بین گره‌های همسایه (اتم‌ها)، یاد می‌گیرد که ساختار سه‌بعدی و خواص الکترونیکی کل مولکول را درک کند.
• مجموعه داده: محققان از یک مجموعه داده شامل ۲.۷ میلیون خوشه آبی استفاده کردند. آب (H₂O) بنیادی‌ترین مولکول در شیمی و زیست‌شناسی است. آموزش مدل بر روی این داده‌های متنوع به آن اجازه می‌دهد تا قوانین فیزیکی حاکم بر پیوندهای هیدروژنی و نیروهای بین‌مولکولی را بیاموزد؛ دانشی که برای مدل‌سازی سایر مولکول‌ها نیز بسیار ارزشمند است.
• سخت‌افزار (Graphcore IPU): برخلاف GPUها که برای عملیات ماتریسی متراکم بهینه شده‌اند، IPUها برای پردازش موازی و کارآمد داده‌های پراکنده و نامنظم مانند گراف‌ها طراحی شده‌اند. معماری خاص IPU به آن اجازه می‌دهد تا هزاران پردازش کوچک را به صورت همزمان انجام دهد که این امر منجر به شتاب خیره‌کننده در آموزش GNNها می‌شود.

فاز دوم: تنظیم دقیق برای وظایف پایین‌دستی

پس از آنکه مدل در فاز اول دانش پایه‌ای را کسب کرد، نوبت به تخصصی کردن آن برای کاربردهای واقعی می‌رسد.

• وظیفه ۱: دینامیک مولکولی (Molecular Dynamics): این شبیه‌سازی‌ها حرکت اتم‌ها و مولکول‌ها را در طول زمان پیش‌بینی می‌کنند. این فرآیند برای مطالعه تاخوردگی پروتئین‌ها یا تعامل دارو با سلول هدف ضروری است، اما به طور سنتی بسیار زمان‌بر است. در این تحقیق، مدل پیش‌آموخته برای پیش‌بینی نیروهای بین‌اتمی در یک شبیه‌سازی دینامیک مولکولی تنظیم دقیق شد.
• وظیفه ۲: انتقال به سطح انرژی پتانسیل (PES) جدید: سطح انرژی پتانسیل، یک «نقشه» ریاضی است که انرژی یک سیستم مولکولی را بر اساس موقعیت اتم‌های آن توصیف می‌کند. ساختن مدل برای یک PES جدید معمولاً نیازمند محاسبات کوانتومی پرهزینه است. این پژوهش نشان داد که مدل پیش‌آموخته را می‌توان به سرعت برای کار با یک PES متفاوت تطبیق داد.
• سخت‌افزار (Single GPU): نکته مهم این است که تمام فرآیند تنظیم دقیق تنها روی یک واحد پردازنده گرافیکی (GPU) انجام شد. این امر نشان می‌دهد که پس از انجام مرحله سنگین پیش‌آموزش روی سخت‌افزار تخصصی، نتایج آن می‌تواند توسط آزمایشگاه‌ها و محققان با دسترسی به تجهیزات استاندارد نیز مورد استفاده قرار گیرد.

نتایج عددی این پژوهش، موفقیت چشمگیر رویکرد پیشنهادی را به وضوح نشان می‌دهد:

• شتاب‌دهی عظیم در پیش‌آموزش: در کارهای قبلی گزارش شده بود که آموزش مدلی مشابه بر روی ۰.۵ میلیون خوشه مولکولی حدود ۲.۷ روز (معادل ۶۵ ساعت) طول می‌کشد. در این تحقیق، آموزش مدل بر روی مجموعه داده‌ای ۵.۴ برابر بزرگتر (۲.۷ میلیون خوشه) با استفاده از IPUها تنها ۱.۲ ساعت به طول انجامید. این به معنای یک شتاب‌دهی مؤثر بیش از ۲۹۰ برابری است!
• کارایی بی‌نظیر در تنظیم دقیق:
  • فرآیند تنظیم دقیق برای وظیفه پیچیده دینامیک مولکولی بر روی یک GPU تنها ۸.۳ ساعت زمان برد. دستیابی به چنین مدلی از ابتدا می‌توانست هفته‌ها زمان نیاز داشته باشد.
  • شگفت‌انگیزتر آنکه، تطبیق مدل با یک سطح انرژی پتانسیل جدید تنها در ۲۸ دقیقه روی همان GPU انجام شد. این سرعت، امکان آزمون و خطای سریع ایده‌های جدید را برای شیمیدانان فراهم می‌کند.

این یافته‌ها ثابت می‌کنند که پارادایم پیش‌آموزش و تنظیم دقیق، زمانی که با یک معماری محاسباتی ناهمگن (استفاده از IPU برای آموزش و GPU برای استنتاج) ترکیب شود، می‌تواند تنگناهای محاسباتی در علوم مولکولی را از میان بردارد.

پیامدهای این پژوهش فراتر از یک مقاله علمی صرف است و می‌تواند تأثیرات عملی گسترده‌ای در پی داشته باشد:

• تسریع کشف دارو و علم مواد: با کاهش زمان شبیه‌سازی‌ها، محققان می‌توانند در مدت زمان کوتاه‌تری تعداد بسیار بیشتری از ترکیبات کاندید برای داروها را غربالگری کنند یا مواد جدید با خواص مطلوب (مانند کاتالیزورهای بهینه‌تر یا باتری‌های با ظرفیت بالاتر) را طراحی نمایند.
• دموکراتیک‌سازی هوش مصنوعی در شیمی: با ارائه مدل‌های قدرتمندِ از پیش آموزش‌دیده، محققان در سراسر جهان می‌توانند بدون نیاز به دسترسی به ابرکامپیوترها یا خوشه‌های IPU، از این مدل‌ها بر روی GPUهای استاندارد خود برای حل مسائل تحقیقاتی‌شان استفاده کنند.
• تثبیت الگوی محاسبات ناهمگن: این مقاله یک نمونه موفق از به کارگیری «ابزار مناسب برای کار مناسب» است. به جای تکیه بر یک نوع پردازنده، از توانمندی‌های منحصربه‌فرد IPUها برای پردازش گراف و از قدرت GPUها برای محاسبات عمومی‌تر استفاده می‌شود. این الگو می‌تواند در سایر زمینه‌های علمی نیز به کار گرفته شود.
• تأیید قدرت یادگیری انتقال در علوم پایه: این تحقیق شواهد محکمی ارائه می‌دهد که نشان می‌دهد همانند زبان انسان، «زبان مولکول‌ها» نیز دارای قواعد و الگوهای بنیادینی است که یک مدل هوش مصنوعی می‌تواند آن‌ها را بیاموزد و سپس برای کاربردهای گوناگون به کار گیرد.

مقاله «کاهش زمان پردازش پایین‌دستی» یک گام مهم رو به جلو در تلاقی هوش مصنوعی و علوم شیمیایی است. نویسندگان با ترکیب هوشمندانه سه فناوری کلیدی—شبکه‌های عصبی گرافی (GNNs)، پارادایم یادگیری انتقال، و شتاب‌دهنده‌های تخصصی هوش مصنوعی (IPUs)—موفق به ایجاد یک چارچوب کاری شده‌اند که زمان مورد نیاز برای شبیه‌سازی‌های مولکولی پیچیده را به طرز چشمگیری کاهش می‌دهد.

این دستاورد نه تنها سرعت تحقیقات را در زمینه‌هایی مانند داروسازی و علم مواد افزایش می‌دهد، بلکه با دسترس‌پذیر کردن ابزارهای پیشرفته برای جامعه علمی گسترده‌تر، به دموکراتیک شدن علم کمک می‌کند. این پژوهش راه را برای آینده‌ای هموار می‌کند که در آن هوش مصنوعی به عنوان یک همکار قدرتمند در کنار دانشمندان، به اکتشافات علمی سرعت می‌بخشد و به حل برخی از بزرگترین چالش‌های پیش روی بشر کمک می‌کند.