{"id":228259,"date":"2025-11-04T08:01:26","date_gmt":"2025-11-04T09:01:26","guid":{"rendered":"https:\/\/express24.ir\/d\/product\/2206-11719\/"},"modified":"2025-11-04T08:01:26","modified_gmt":"2025-11-04T09:01:26","slug":"2206-11719","status":"publish","type":"product","link":"https:\/\/express24.ir\/d\/product\/2206-11719\/","title":{"rendered":"\u0645\u0642\u0627\u0644\u0647 AST-Probe: \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 \u0628\u0647 \u0647\u0645\u0631\u0627\u0647 PDF \u0641\u0627\u0631\u0633\u06cc + \u067e\u0627\u062f\u06a9\u0633\u062a \u0635\u0648\u062a\u06cc \u0641\u0627\u0631\u0633\u06cc + \u0648\u06cc\u062f\u06cc\u0648 \u0622\u0645\u0648\u0632\u0634\u06cc \u0641\u0627\u0631\u0633\u06cc"},"content":{"rendered":"<div style=\"background: linear-gradient(135deg, #667eea 0%, #764ba2 100%); padding: 30px; border-radius: 15px; color: white; margin-bottom: 30px;\">\n<h2 style=\"color: white; text-align: center; margin-bottom: 20px;\">\ud83d\udcda \u0645\u0642\u0627\u0644\u0647 \u0639\u0644\u0645\u06cc<\/h2>\n<\/p><\/div>\n<table class=\"paper-info-table\" border=\"1\" cellpadding=\"10\" cellspacing=\"0\" style=\"width: 100%; margin-bottom: 20px; border-collapse: collapse; direction: rtl;\">\n<tr>\n<th style=\"background-color: #1F3A5E; color: white; text-align: right; width: 35%;\">\u0639\u0646\u0648\u0627\u0646 \u0641\u0627\u0631\u0633\u06cc \u0645\u0642\u0627\u0644\u0647<\/th>\n<td style=\"text-align: right; background-color: #f8f9fa; font-weight: bold;\">AST-Probe: \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647<\/td>\n<\/tr>\n<tr>\n<th style=\"background-color: #1F3A5E; color: white; text-align: right;\">\u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646<\/th>\n<td style=\"text-align: right; background-color: #ffffff;\">Jos\u00e9 Antonio Hern\u00e1ndez L\u00f3pez, Martin Weyssow, Jes\u00fas S\u00e1nchez Cuadrado, Houari Sahraoui<\/td>\n<\/tr>\n<tr>\n<th style=\"background-color: #1F3A5E; color: white; text-align: right;\">\u062f\u0633\u062a\u0647\u200c\u0628\u0646\u062f\u06cc \u0639\u0644\u0645\u06cc<\/th>\n<td style=\"text-align: right; background-color: #f8f9fa;\">Computation and Language,Artificial Intelligence,Machine Learning,Programming Languages,Software Engineering<\/td>\n<\/tr>\n<\/table>\n<div style=\"border: 2px dashed #4CAF50; border-radius: 16px; padding: 20px; background: #f9fff9; font-family: 'IRANSans', sans-serif;\">\r\n  <h2 style=\"color: #2E7D32; margin-top: 0;\">\ud83d\udcd8 \u0645\u062d\u062a\u0648\u0627\u06cc \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u0622\u0645\u0648\u0632\u0634\u06cc<\/h2>\r\n  <ul style=\"list-style-type: \u2705; padding-left: 20px; font-size: 16px; line-height: 1.8;\">\r\n    <li>\u0634\u0627\u0645\u0644 <strong>\u0641\u0627\u06cc\u0644 \u0627\u0635\u0644\u06cc \u0645\u0642\u0627\u0644\u0647 (PDF \u0627\u0646\u06af\u0644\u06cc\u0633\u06cc)<\/strong><\/li>\r\n    <li>\u0628\u0647 \u0647\u0645\u0631\u0627\u0647 <strong>\u0641\u0627\u06cc\u0644 PDF \u062a\u0648\u0636\u06cc\u062d \u0641\u0627\u0631\u0633\u06cc<\/strong> \u0628\u0627 \u0628\u06cc\u0627\u0646 \u0633\u0627\u062f\u0647 \u0648 \u0631\u0648\u0627\u0646<\/li>\r\n    <li>\u062f\u0627\u0631\u0627\u06cc <strong>\u067e\u0627\u062f\u06a9\u0633\u062a \u0635\u0648\u062a\u06cc \u0641\u0627\u0631\u0633\u06cc<\/strong> \u062a\u0648\u0636\u06cc\u062d \u06a9\u0627\u0645\u0644 \u0645\u0642\u0627\u0644\u0647<\/li>\r\n    <li>\u0628\u0647 \u0647\u0645\u0631\u0627\u0647 <strong>\u0648\u06cc\u062f\u06cc\u0648 \u0622\u0645\u0648\u0632\u0634\u06cc \u0641\u0627\u0631\u0633\u06cc<\/strong> \u0628\u0631\u0627\u06cc \u062f\u0631\u06a9 \u0639\u0645\u06cc\u0642\u200c\u062a\u0631 \u0645\u0641\u0627\u0647\u06cc\u0645 \u0645\u0642\u0627\u0644\u0647<\/li>\r\n  <\/ul>\r\n  <p style=\"color: #388E3C; font-weight: bold; font-size: 18px; margin-top: 20px;\">\r\n    \ud83c\udfaf \u0647\u0645\u0647\u200c\u06cc \u0641\u0627\u06cc\u0644\u200c\u0647\u0627 \u0628\u0627 \u0647\u062f\u0641 \u062f\u0631\u06a9 \u0622\u0633\u0627\u0646 \u0648 \u0633\u0631\u06cc\u0639 \u0645\u0641\u0627\u0647\u06cc\u0645 \u0639\u0644\u0645\u06cc \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u062a\u0647\u06cc\u0647 \u0634\u062f\u0647\u200c\u0627\u0646\u062f.\r\n  <\/p>\r\n  <p style=\"font-size: 16px; line-height: 1.8;\">\r\n    \u0686\u0646\u0627\u0646\u0686\u0647 \u062f\u0631 <strong>\u062f\u0627\u0646\u0644\u0648\u062f \u0641\u0627\u06cc\u0644\u200c\u0647\u0627<\/strong> \u0628\u0627 \u0645\u0634\u06a9\u0644\u06cc \u0645\u0648\u0627\u062c\u0647 \u0634\u062f\u06cc\u062f\u060c \u0644\u0637\u0641\u0627\u064b \u0627\u0632 \u0637\u0631\u06cc\u0642 \u0648\u0627\u062a\u0633\u200c\u0627\u067e \u0628\u0627 \u0634\u0645\u0627\u0631\u0647 \r\n    <strong>09395106248<\/strong> \u06cc\u0627 \u0627\u0632 \u0637\u0631\u06cc\u0642 \u0622\u06cc\u062f\u06cc \u062a\u0644\u06af\u0631\u0627\u0645 \r\n    <strong>@ma_limbs<\/strong> \u067e\u06cc\u0627\u0645 \u062f\u0647\u06cc\u062f \u062a\u0627 \u0644\u06cc\u0646\u06a9\u200c\u0647\u0627 \u0641\u0648\u0631\u0627\u064b \u0628\u0631\u0627\u06cc\u062a\u0627\u0646 \u0645\u062c\u062f\u062f\u0627\u064b \u0627\u0631\u0633\u0627\u0644 \u0634\u0648\u0646\u062f.\r\n  <\/p>\r\n<\/div>\r\n\n<article class=\"violin-complex-pieces\" style=\"font-family: 'Vazirmatn', sans-serif;color: #2E2E2E;line-height: 1.75;max-width: 800px;margin: 40px auto;padding: 30px;background: #FFFFFF;border-radius: 12px;box-shadow: 0 6px 20px rgba(0,0,0,0.05);\">\n<style>\n.violin-complex-pieces h1 { text-align: center; font-size: 2.8rem; color: #1F3A5E; margin-bottom: 24px; }\n.violin-complex-pieces h2 { position: relative; font-size: 1.9rem; color: #243A5E; margin-top: 36px; margin-bottom: 16px; padding-bottom: 6px; }\n.violin-complex-pieces h2::after { content: \"\"; position: absolute; left: 0; bottom: 0; width: 60px; height: 4px; background: linear-gradient(90deg,#4A90E2,#50E3C2); border-radius: 2px; }\n.section-box { background: #F7F9FC; border: 1px solid #E0E4E8; border-radius: 8px; padding: 24px; margin-top: 20px; transition: transform 0.2s, box-shadow 0.2s; }\n.section-box:hover { transform: translateY(-4px); box-shadow: 0 8px 24px rgba(42,77,102,0.1); }\n.section-box p, .section-box ul { margin-bottom: 12px; }\nul { margin-left: 24px; }\nul li { margin-bottom: 8px; }\n.highlight { background: #EAF4FF; color: #1F3A5E; padding: 3px 6px; border-radius: 4px; font-weight: bold; }\n<\/style>\n<h1>AST-Probe: \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647<\/h1>\n<div class=\"section-box\">\n<h2>\u06f1. \u0645\u0639\u0631\u0641\u06cc \u0645\u0642\u0627\u0644\u0647 \u0648 \u0627\u0647\u0645\u06cc\u062a \u0622\u0646<\/h2>\n<p>\u062f\u0631 \u0633\u0627\u0644\u06cc\u0627\u0646 \u0627\u062e\u06cc\u0631\u060c <span class=\"highlight\">\u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 (Pre-trained Language Models &#8211; PLMs)<\/span> \u0627\u0646\u0642\u0644\u0627\u0628\u06cc \u062f\u0631 \u062d\u0648\u0632\u0647 \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646\u200c\u0647\u0627\u06cc \u0637\u0628\u06cc\u0639\u06cc (NLP) \u0648 \u0645\u062f\u0644\u200c\u0633\u0627\u0632\u06cc \u06a9\u062f \u0627\u06cc\u062c\u0627\u062f \u06a9\u0631\u062f\u0647\u200c\u0627\u0646\u062f. \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u06a9\u0647 \u0628\u0631 \u0631\u0648\u06cc \u062d\u062c\u0645 \u0639\u0638\u06cc\u0645\u06cc \u0627\u0632 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0645\u062a\u0646\u06cc \u06cc\u0627 \u06a9\u062f\u06cc \u0622\u0645\u0648\u0632\u0634 \u062f\u06cc\u062f\u0647\u200c\u0627\u0646\u062f\u060c \u0642\u0627\u062f\u0631\u0646\u062f \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u0645\u062a\u0646\u06cc (contextual representations) \u063a\u0646\u06cc \u0648 \u067e\u06cc\u0686\u06cc\u062f\u0647\u200c\u0627\u06cc \u0627\u0632 \u0648\u0631\u0648\u062f\u06cc\u200c\u0647\u0627 \u0627\u06cc\u062c\u0627\u062f \u06a9\u0646\u0646\u062f. \u0647\u062f\u0641 \u0627\u0635\u0644\u06cc \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u060c \u062f\u0631\u06a9 \u0633\u0627\u062e\u062a\u0627\u0631\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0648 \u0645\u0639\u0646\u0627\u06cc\u06cc \u0627\u0633\u062a \u06a9\u0647 \u0628\u0647 \u0622\u0646\u200c\u0647\u0627 \u0627\u062c\u0627\u0632\u0647 \u0645\u06cc\u200c\u062f\u0647\u062f \u062f\u0631 \u0648\u0638\u0627\u06cc\u0641 \u0645\u062e\u062a\u0644\u0641\u06cc \u0646\u0638\u06cc\u0631 \u062a\u0631\u062c\u0645\u0647 \u0645\u0627\u0634\u06cc\u0646\u06cc\u060c \u062e\u0644\u0627\u0635\u0647\u200c\u0633\u0627\u0632\u06cc\u060c \u067e\u0627\u0633\u062e \u0628\u0647 \u0633\u0624\u0627\u0644 \u0648 \u062d\u062a\u06cc \u062a\u0648\u0644\u06cc\u062f \u06a9\u062f\u060c \u0639\u0645\u0644\u06a9\u0631\u062f\u06cc \u0628\u06cc\u200c\u0633\u0627\u0628\u0642\u0647 \u0627\u0632 \u062e\u0648\u062f \u0646\u0634\u0627\u0646 \u062f\u0647\u0646\u062f.<\/p>\n<p>\u0628\u0627 \u0627\u06cc\u0646 \u062d\u0627\u0644\u060c \u06cc\u06a9 \u0633\u0624\u0627\u0644 \u0627\u0633\u0627\u0633\u06cc \u0647\u0645\u0648\u0627\u0631\u0647 \u0628\u0627\u0642\u06cc \u0645\u0627\u0646\u062f\u0647 \u0627\u0633\u062a: \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u062f\u0642\u06cc\u0642\u0627\u064b \u0686\u0647 \u0686\u06cc\u0632\u06cc \u0631\u0627 \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u062e\u0648\u062f \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f\u061f \u0622\u06cc\u0627 \u0622\u0646\u200c\u0647\u0627 \u0641\u0642\u0637 \u0631\u0648\u0627\u0628\u0637 \u0622\u0645\u0627\u0631\u06cc \u06a9\u0644\u0645\u0627\u062a \u0631\u0627 \u06cc\u0627\u062f \u0645\u06cc\u200c\u06af\u06cc\u0631\u0646\u062f \u06cc\u0627 \u0633\u0627\u062e\u062a\u0627\u0631\u0647\u0627\u06cc \u06af\u0631\u0627\u0645\u0631\u06cc \u0648 \u0645\u0646\u0637\u0642\u06cc \u0639\u0645\u06cc\u0642\u200c\u062a\u0631\u06cc \u0631\u0627 \u0646\u06cc\u0632 \u062f\u0631\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f\u061f \u062f\u0631 \u0645\u0648\u0631\u062f \u06a9\u062f\u0647\u0627\u06cc \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc\u060c \u0627\u06cc\u0646 \u0633\u0624\u0627\u0644 \u0627\u0647\u0645\u06cc\u062a \u062f\u0648\u0686\u0646\u062f\u0627\u0646\u06cc \u067e\u06cc\u062f\u0627 \u0645\u06cc\u200c\u06a9\u0646\u062f. <span class=\"highlight\">\u062f\u0631\u062e\u062a\u200c\u0647\u0627\u06cc \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc (Abstract Syntax Trees &#8211; ASTs)<\/span> \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u0633\u0627\u062e\u062a\u0627\u0631\u06cc\u0627\u0641\u062a\u0647 \u0648 \u0633\u0644\u0633\u0644\u0647\u200c\u0645\u0631\u0627\u062a\u0628\u06cc \u0627\u0632 \u06a9\u062f \u0645\u0646\u0628\u0639 \u0647\u0633\u062a\u0646\u062f \u06a9\u0647 \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u06cc\u06a9 \u0628\u0631\u0646\u0627\u0645\u0647 \u0631\u0627 \u0628\u062f\u0648\u0646 \u062c\u0632\u0626\u06cc\u0627\u062a \u06a9\u0645\u200c\u0627\u0647\u0645\u06cc\u062a (\u0645\u0627\u0646\u0646\u062f \u067e\u0631\u0627\u0646\u062a\u0632\u0647\u0627\u06cc \u0627\u0636\u0627\u0641\u06cc \u06cc\u0627 \u0646\u0642\u0637\u0647 \u0648\u06cc\u0631\u06af\u0648\u0644\u200c\u0647\u0627) \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u0646\u062f. AST\u0647\u0627 \u062f\u0631 \u0628\u0633\u06cc\u0627\u0631\u06cc \u0627\u0632 \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u0645\u0647\u0646\u062f\u0633\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631\u060c \u0627\u0632 \u06a9\u0627\u0645\u067e\u0627\u06cc\u0644\u0631\u0647\u0627 \u06af\u0631\u0641\u062a\u0647 \u062a\u0627 \u062a\u062d\u0644\u06cc\u0644\u200c\u06af\u0631\u0647\u0627\u06cc \u06a9\u062f \u0648 \u0645\u062d\u06cc\u0637\u200c\u0647\u0627\u06cc \u062a\u0648\u0633\u0639\u0647 \u06cc\u06a9\u067e\u0627\u0631\u0686\u0647 (IDE)\u060c \u0646\u0642\u0634\u06cc \u0645\u062d\u0648\u0631\u06cc \u062f\u0627\u0631\u0646\u062f.<\/p>\n<p>\u0645\u0642\u0627\u0644\u0647 &#8220;AST-Probe: Recovering abstract syntax trees from hidden representations of pre-trained language models&#8221; \u0628\u0647 \u0628\u0631\u0631\u0633\u06cc \u062f\u0642\u06cc\u0642 \u0627\u06cc\u0646 \u0645\u0648\u0636\u0648\u0639 \u0645\u06cc\u200c\u067e\u0631\u062f\u0627\u0632\u062f \u06a9\u0647 \u0622\u06cc\u0627 PLM\u0647\u0627 \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u06a9\u0627\u0645\u0644 \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0631\u0627 \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u062e\u0648\u062f \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u06cc\u0627 \u062e\u06cc\u0631. \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u0628\u0627 \u0645\u0639\u0631\u0641\u06cc \u06cc\u06a9 \u0631\u0648\u0634 \u067e\u0631\u0648\u0628\u06cc\u0646\u06af (probing) \u0646\u0648\u0622\u0648\u0631\u0627\u0646\u0647 \u0628\u0647 \u0646\u0627\u0645 <span class=\"highlight\">AST-Probe<\/span>\u060c \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0646\u0647 \u062a\u0646\u0647\u0627 \u0686\u0646\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a\u06cc \u062f\u0631 \u0645\u062f\u0644\u200c\u0647\u0627 \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f\u060c \u0628\u0644\u06a9\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u06a9\u0644 \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc \u06cc\u06a9 \u0642\u0637\u0639\u0647 \u06a9\u062f \u0648\u0631\u0648\u062f\u06cc \u0631\u0627 \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644 \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u06a9\u0631\u062f. \u0627\u0647\u0645\u06cc\u062a \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u062f\u0631 \u0627\u062b\u0628\u0627\u062a \u0639\u0645\u0642 \u062f\u0631\u06a9 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u0633\u0627\u062e\u062a\u0627\u0631 \u06a9\u062f \u0648 \u06af\u0634\u0648\u062f\u0646 \u0645\u0633\u06cc\u0631\u0647\u0627\u06cc \u062c\u062f\u06cc\u062f\u06cc \u0628\u0631\u0627\u06cc \u062a\u0641\u0633\u06cc\u0631\u067e\u0630\u06cc\u0631\u06cc \u0648 \u0628\u0647\u0628\u0648\u062f \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u0646\u0647\u0641\u062a\u0647 \u0627\u0633\u062a.<\/p>\n<\/p><\/div>\n<div class=\"section-box\">\n<h2>\u06f2. \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 \u0648 \u0632\u0645\u06cc\u0646\u0647 \u062a\u062d\u0642\u06cc\u0642<\/h2>\n<p>\u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u062a\u0648\u0633\u0637 \u062a\u06cc\u0645\u06cc \u0627\u0632 \u067e\u0698\u0648\u0647\u0634\u06af\u0631\u0627\u0646 \u0634\u0627\u0645\u0644 <span class=\"highlight\">Jos\u00e9 Antonio Hern\u00e1ndez L\u00f3pez\u060c Martin Weyssow\u060c Jes\u00fas S\u00e1nchez Cuadrado \u0648 Houari Sahraoui<\/span> \u0627\u0646\u062c\u0627\u0645 \u0634\u062f\u0647 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 \u0627\u0632 \u062d\u0648\u0632\u0647\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u06cc \u062f\u0631 \u0639\u0644\u0645 \u06a9\u0627\u0645\u067e\u06cc\u0648\u062a\u0631\u060c \u0627\u0632 \u062c\u0645\u0644\u0647 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0627\u0634\u06cc\u0646\u060c \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646\u200c\u0647\u0627\u06cc \u0637\u0628\u06cc\u0639\u06cc\u060c \u0632\u0628\u0627\u0646\u200c\u0647\u0627\u06cc \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0648 \u0645\u0647\u0646\u062f\u0633\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631\u060c \u062a\u062e\u0635\u0635 \u062f\u0627\u0631\u0646\u062f. \u0627\u06cc\u0646 \u062a\u0631\u06a9\u06cc\u0628 \u062a\u062e\u0635\u0635\u200c\u0647\u0627 \u0646\u0634\u0627\u0646\u200c\u062f\u0647\u0646\u062f\u0647 \u0645\u0627\u0647\u06cc\u062a \u0628\u06cc\u0646\u200c\u0631\u0634\u062a\u0647\u200c\u0627\u06cc \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u0627\u0633\u062a \u06a9\u0647 \u067e\u0644\u06cc \u0645\u06cc\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u067e\u06cc\u0634\u0631\u0641\u062a\u0647 \u0648 \u062f\u0631\u06a9 \u0639\u0645\u06cc\u0642 \u0633\u0627\u062e\u062a\u0627\u0631\u0647\u0627\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631\u06cc \u0627\u06cc\u062c\u0627\u062f \u0645\u06cc\u200c\u06a9\u0646\u062f.<\/p>\n<p>\u0632\u0645\u06cc\u0646\u0647 \u0627\u0635\u0644\u06cc \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642\u060c \u0645\u0637\u0627\u0644\u0639\u0647 <span class=\"highlight\">\u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0641\u0636\u0627\u0647\u0627\u06cc \u0628\u0631\u062f\u0627\u0631\u06cc \u067e\u0646\u0647\u0627\u0646 (hidden vector spaces)<\/span> \u062f\u0631 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0631\u0648\u0634 \u06a9\u0647 \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 &#8220;\u067e\u0631\u0648\u0628\u06cc\u0646\u06af&#8221; \u0634\u0646\u0627\u062e\u062a\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f\u060c \u0634\u0627\u0645\u0644 \u0622\u0645\u0648\u0632\u0634 \u06cc\u06a9 \u0637\u0628\u0642\u0647\u200c\u0628\u0646\u062f \u0633\u0627\u062f\u0647 (\u0645\u0639\u0645\u0648\u0644\u0627\u064b \u062e\u0637\u06cc) \u0628\u0631 \u0631\u0648\u06cc \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644 \u0628\u0631\u0627\u06cc \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u06cc\u06a9 \u0648\u06cc\u0698\u06af\u06cc \u0632\u0628\u0627\u0646\u06cc \u062e\u0627\u0635 \u0627\u0633\u062a. \u0645\u0648\u0641\u0642\u06cc\u062a \u0637\u0628\u0642\u0647\u200c\u0628\u0646\u062f \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0645\u062f\u0644 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0645\u0631\u0628\u0648\u0637 \u0628\u0647 \u0622\u0646 \u0648\u06cc\u0698\u06af\u06cc \u0631\u0627 \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u062e\u0648\u062f \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u06a9\u0631\u062f\u0647 \u0627\u0633\u062a. \u067e\u06cc\u0634 \u0627\u0632 \u0627\u06cc\u0646\u060c \u062a\u062d\u0642\u06cc\u0642\u0627\u062a \u0632\u06cc\u0627\u062f\u06cc \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u067e\u0631\u0648\u0628\u06cc\u0646\u06af \u0646\u0634\u0627\u0646 \u062f\u0627\u062f\u0647 \u0628\u0648\u062f\u0646\u062f \u06a9\u0647 PLM\u0647\u0627 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0633\u0627\u062f\u0647\u200c\u062a\u0631 \u0645\u0627\u0646\u0646\u062f \u0646\u0642\u0634\u200c\u0647\u0627\u06cc \u06af\u0631\u0627\u0645\u0631\u06cc (part-of-speech)\u060c \u0648\u0627\u0628\u0633\u062a\u06af\u06cc\u200c\u0647\u0627\u06cc \u0646\u062d\u0648\u06cc (syntactic dependencies) \u06cc\u0627 \u062d\u062a\u06cc \u062c\u0646\u0633\u06cc\u062a \u06a9\u0644\u0645\u0627\u062a \u0631\u0627 \u062f\u0631 \u062e\u0648\u062f \u062c\u0627\u06cc \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f.<\/p>\n<p>\u0627\u0645\u0627 \u0646\u0642\u0637\u0647 \u062a\u0645\u0627\u06cc\u0632 \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u062f\u0631 \u0622\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0647\u06cc\u0686 \u06cc\u06a9 \u0627\u0632 \u06a9\u0627\u0631\u0647\u0627\u06cc \u0642\u0628\u0644\u06cc \u0628\u0647 \u0627\u0631\u0632\u06cc\u0627\u0628\u06cc \u0627\u06cc\u0646 \u0645\u0648\u0636\u0648\u0639 \u0646\u067e\u0631\u062f\u0627\u062e\u062a\u0647 \u0628\u0648\u062f\u0646\u062f \u06a9\u0647 \u0622\u06cc\u0627 \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 <span class=\"highlight\">\u06a9\u0644 \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc<\/span> \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0631\u0627 \u0631\u0645\u0632\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u06cc\u0627 \u062e\u06cc\u0631. \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u0627\u06cc\u0646 \u062e\u0644\u0623 \u062a\u062d\u0642\u06cc\u0642\u0627\u062a\u06cc \u0631\u0627 \u0628\u0627 \u062a\u0645\u0631\u06a9\u0632 \u0628\u0631 AST\u0647\u0627 \u067e\u0631 \u0645\u06cc\u200c\u06a9\u0646\u062f\u060c \u06a9\u0647 \u0646\u0634\u0627\u0646\u200c\u062f\u0647\u0646\u062f\u0647 \u06cc\u06a9 \u06af\u0627\u0645 \u0628\u0632\u0631\u06af \u0627\u0632 \u062f\u0631\u06a9 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0633\u0637\u062d\u06cc \u0628\u0647 \u0633\u0648\u06cc \u0641\u0647\u0645 \u0633\u0627\u062e\u062a\u0627\u0631\u0647\u0627\u06cc \u0639\u0645\u06cc\u0642 \u0648 \u0633\u0644\u0633\u0644\u0647\u200c\u0645\u0631\u0627\u062a\u0628\u06cc \u0627\u0633\u062a.<\/p>\n<\/p><\/div>\n<div class=\"section-box\">\n<h2>\u06f3. \u0686\u06a9\u06cc\u062f\u0647 \u0648 \u062e\u0644\u0627\u0635\u0647 \u0645\u062d\u062a\u0648\u0627<\/h2>\n<p>\u0647\u062f\u0641 \u0627\u0635\u0644\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647\u060c \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u0645\u062a\u0646\u06cc \u0627\u0632 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0645\u062a\u0646\u06cc \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u0628\u0647 \u0637\u0648\u0631 \u06af\u0633\u062a\u0631\u062f\u0647\u200c\u0627\u06cc \u062f\u0631 \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646 \u0637\u0628\u06cc\u0639\u06cc \u0648 \u0645\u062f\u0644\u200c\u0633\u0627\u0632\u06cc \u06a9\u062f \u0645\u0648\u0631\u062f \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0642\u0631\u0627\u0631 \u0645\u06cc\u200c\u06af\u06cc\u0631\u0646\u062f. \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0631\u0648\u0634 \u067e\u0631\u0648\u0628\u06cc\u0646\u06af\u060c \u06a9\u0647 \u062a\u06a9\u0646\u06cc\u06a9\u06cc \u0628\u0631\u0627\u06cc \u0645\u0637\u0627\u0644\u0639\u0647 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0641\u0636\u0627\u0647\u0627\u06cc \u0628\u0631\u062f\u0627\u0631\u06cc \u067e\u0646\u0647\u0627\u0646 \u0627\u0633\u062a\u060c \u06a9\u0627\u0631\u0647\u0627\u06cc \u0642\u0628\u0644\u06cc \u0646\u0634\u0627\u0646 \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f \u06a9\u0647 \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0633\u0627\u062f\u0647 \u0631\u0627 \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u062e\u0648\u062f \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/p>\n<p>\u0628\u0627 \u0627\u06cc\u0646 \u062d\u0627\u0644\u060c \u0647\u0645\u0627\u0646\u0637\u0648\u0631 \u06a9\u0647 \u0627\u0634\u0627\u0631\u0647 \u0634\u062f\u060c \u0647\u06cc\u0686 \u06cc\u06a9 \u0627\u0632 \u062a\u062d\u0642\u06cc\u0642\u0627\u062a \u0642\u0628\u0644\u06cc \u0627\u06cc\u0646 \u0645\u0648\u0636\u0648\u0639 \u0631\u0627 \u0627\u0631\u0632\u06cc\u0627\u0628\u06cc \u0646\u06a9\u0631\u062f\u0647 \u0628\u0648\u062f\u0646\u062f \u06a9\u0647 \u0622\u06cc\u0627 \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 <span class=\"highlight\">\u06a9\u0644 \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc<\/span> \u0631\u0627 \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u0627\u06cc\u0646 \u067e\u0631\u0633\u0634 \u0628\u0646\u06cc\u0627\u062f\u06cc\u0646 \u0631\u0627 \u0645\u0637\u0631\u062d \u06a9\u0631\u062f\u0647 \u0648 \u0628\u0647 \u0622\u0646 \u067e\u0627\u0633\u062e \u0645\u06cc\u200c\u062f\u0647\u062f. \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 \u0648\u062c\u0648\u062f \u06cc\u06a9 <span class=\"highlight\">\u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc (syntactic subspace)<\/span> \u0631\u0627 \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 PLM\u0647\u0627 \u0627\u062b\u0628\u0627\u062a \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u06a9\u0647 \u062d\u0627\u0648\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u06a9\u0627\u0645\u0644 \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0627\u0633\u062a.<\/p>\n<p>\u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627 \u0642\u0627\u0628\u0644 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u0645\u062f\u0644\u200c\u0647\u0627 \u0627\u0633\u062a \u0648 \u06cc\u06a9 \u0631\u0648\u0634 \u067e\u0631\u0648\u0628\u06cc\u0646\u06af \u062c\u062f\u06cc\u062f \u0628\u0647 \u0646\u0627\u0645 <span class=\"highlight\">AST-Probe<\/span> \u0631\u0627 \u0645\u0639\u0631\u0641\u06cc \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0631\u0648\u0634 \u0642\u0627\u062f\u0631 \u0627\u0633\u062a \u06a9\u0644 \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc (AST) \u06cc\u06a9 \u0642\u0637\u0639\u0647 \u06a9\u062f \u0648\u0631\u0648\u062f\u06cc \u0631\u0627 \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u06a9\u0646\u062f. \u062f\u0631 \u0622\u0632\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u0627\u0646\u062c\u0627\u0645 \u0634\u062f\u0647\u060c \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 \u0648\u062c\u0648\u062f \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc \u0631\u0627 \u062f\u0631 \u067e\u0646\u062c \u0645\u062f\u0644 \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 \u067e\u06cc\u0634\u0631\u0641\u062a\u0647 \u0627\u062b\u0628\u0627\u062a \u06a9\u0631\u062f\u0647\u200c\u0627\u0646\u062f.<\/p>\n<p>\u0639\u0644\u0627\u0648\u0647 \u0628\u0631 \u0627\u06cc\u0646\u060c \u0646\u062a\u0627\u06cc\u062c \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u0646\u062f \u06a9\u0647 <span class=\"highlight\">\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc<\/span> \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u0628\u06cc\u0634\u062a\u0631\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST \u0631\u0627 \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647 \u0628\u0633\u06cc\u0627\u0631 \u0645\u0647\u0645 \u0627\u0633\u062a\u060c \u0632\u06cc\u0631\u0627 \u0628\u0647 \u062f\u0631\u06a9 \u0628\u0647\u062a\u0631 \u0646\u062d\u0648\u0647 \u06a9\u0627\u0631\u06a9\u0631\u062f \u062f\u0627\u062e\u0644\u06cc PLM\u0647\u0627 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u062f\u0631 \u0646\u0647\u0627\u06cc\u062a\u060c \u0645\u0642\u0627\u0644\u0647 \u0627\u0646\u062f\u0627\u0632\u0647 \u0628\u0647\u06cc\u0646\u0647 \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc \u0631\u0627 \u062a\u062e\u0645\u06cc\u0646 \u0645\u06cc\u200c\u0632\u0646\u062f \u0648 \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0627\u0628\u0639\u0627\u062f \u0622\u0646 \u0628\u0647 \u0637\u0648\u0631 \u0642\u0627\u0628\u0644 \u062a\u0648\u062c\u0647\u06cc \u06a9\u0645\u062a\u0631 \u0627\u0632 \u0627\u0628\u0639\u0627\u062f \u0641\u0636\u0627\u0647\u0627\u06cc \u0646\u0645\u0627\u06cc\u0634\u06cc \u062e\u0648\u062f \u0645\u062f\u0644\u200c\u0647\u0627 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0645\u0648\u0636\u0648\u0639 \u062d\u0627\u06a9\u06cc \u0627\u0632 \u0622\u0646 \u0627\u0633\u062a \u06a9\u0647 PLM\u0647\u0627 \u0627\u0632 \u0628\u062e\u0634 \u06a9\u0648\u0686\u06a9\u06cc \u0627\u0632 \u0641\u0636\u0627\u0647\u0627\u06cc \u0646\u0645\u0627\u06cc\u0634\u06cc \u062e\u0648\u062f \u0628\u0631\u0627\u06cc \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u0632\u0628\u0627\u0646\u200c\u0647\u0627\u06cc \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/p>\n<\/p><\/div>\n<div class=\"section-box\">\n<h2>\u06f4. \u0631\u0648\u0634\u200c\u0634\u0646\u0627\u0633\u06cc \u062a\u062d\u0642\u06cc\u0642<\/h2>\n<p>\u0631\u0648\u0634\u200c\u0634\u0646\u0627\u0633\u06cc \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u0628\u0631 \u067e\u0627\u06cc\u0647 \u0645\u0641\u0647\u0648\u0645 <span class=\"highlight\">\u067e\u0631\u0648\u0628\u06cc\u0646\u06af (Probing)<\/span> \u0627\u0633\u062a\u0648\u0627\u0631 \u0627\u0633\u062a\u060c \u0627\u0645\u0627 \u0628\u0627 \u06cc\u06a9 \u0646\u0648\u0622\u0648\u0631\u06cc \u06a9\u0644\u06cc\u062f\u06cc: \u0628\u0647 \u062c\u0627\u06cc \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0646\u062d\u0648\u06cc \u062c\u0632\u0626\u06cc\u060c \u0647\u062f\u0641 <span class=\"highlight\">\u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u06a9\u0627\u0645\u0644 \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc (AST)<\/span> \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0631\u0648\u06cc\u06a9\u0631\u062f \u0646\u06cc\u0627\u0632\u0645\u0646\u062f \u0637\u0631\u0627\u062d\u06cc \u062f\u0642\u06cc\u0642\u200c\u062a\u0631\u06cc \u0627\u0632 \u067e\u0631\u0648\u0628 \u0648 \u0645\u0639\u06cc\u0627\u0631\u0647\u0627\u06cc \u0627\u0631\u0632\u06cc\u0627\u0628\u06cc \u0627\u0633\u062a.<\/p>\n<h3>\u0627\u0644\u0641. \u0686\u0627\u0631\u0686\u0648\u0628 AST-Probe:<\/h3>\n<p>AST-Probe \u06cc\u06a9 \u0686\u0627\u0631\u0686\u0648\u0628 \u0633\u0647 \u0645\u0631\u062d\u0644\u0647\u200c\u0627\u06cc \u0631\u0627 \u062f\u0646\u0628\u0627\u0644 \u0645\u06cc\u200c\u06a9\u0646\u062f:<\/p>\n<ul>\n<li><span class=\"highlight\">\u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646:<\/span> \u0628\u0631\u0627\u06cc \u0647\u0631 \u0642\u0637\u0639\u0647 \u06a9\u062f \u0648\u0631\u0648\u062f\u06cc\u060c \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 (hidden representations) \u0627\u0632 \u0647\u0631 \u0644\u0627\u06cc\u0647 \u0645\u062f\u0644 \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0645\u06cc\u200c\u0634\u0648\u062f. \u0627\u06cc\u0646 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627 \u0628\u0647 \u0635\u0648\u0631\u062a \u0628\u0631\u062f\u0627\u0631\u0647\u0627\u06cc\u06cc \u0647\u0633\u062a\u0646\u062f \u06a9\u0647 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u06a9\u062f \u0631\u0627 \u062f\u0631 \u062e\u0648\u062f \u0641\u0634\u0631\u062f\u0647 \u06a9\u0631\u062f\u0647\u200c\u0627\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0637\u0631\u0627\u062d\u06cc \u067e\u0631\u0648\u0628 \u0628\u0631\u0627\u06cc \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc AST:<\/span> \u0628\u0647 \u062c\u0627\u06cc \u0622\u0645\u0648\u0632\u0634 \u06cc\u06a9 \u0637\u0628\u0642\u0647\u200c\u0628\u0646\u062f \u0648\u0627\u062d\u062f \u0628\u0631\u0627\u06cc \u06a9\u0644 AST\u060c AST-Probe \u0628\u0647 \u0686\u0646\u062f\u06cc\u0646 \u067e\u0631\u0648\u0628 \u0633\u0627\u062f\u0647\u200c\u062a\u0631 \u062a\u0642\u0633\u06cc\u0645 \u0645\u06cc\u200c\u0634\u0648\u062f \u06a9\u0647 \u0647\u0631 \u06cc\u06a9 \u0648\u0638\u06cc\u0641\u0647 \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u06cc\u06a9 \u062c\u0632\u0621 \u062e\u0627\u0635 \u0627\u0632 AST \u0631\u0627 \u062f\u0627\u0631\u0646\u062f. \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u0645\u062b\u0627\u0644:\n<ul>\n<li><span class=\"highlight\">\u067e\u0631\u0648\u0628 \u0646\u0648\u0639 \u06af\u0631\u0647 (Node Type Probe):<\/span> \u06cc\u06a9 \u0637\u0628\u0642\u0647\u200c\u0628\u0646\u062f \u062e\u0637\u06cc \u0622\u0645\u0648\u0632\u0634 \u0645\u06cc\u200c\u0628\u06cc\u0646\u062f \u062a\u0627 \u0646\u0648\u0639 \u06af\u0631\u0647 AST \u0631\u0627 (\u0645\u062b\u0644\u0627\u064b &#8216;IfStatement&#8217;, &#8216;VariableDeclarator&#8217;, &#8216;BinaryExpression&#8217;) \u0627\u0632 \u0628\u0631\u062f\u0627\u0631 \u0646\u0645\u0627\u06cc\u0634 \u067e\u0646\u0647\u0627\u0646 \u0645\u062a\u0646\u0627\u0638\u0631 \u0628\u0627 \u062a\u0648\u06a9\u0646 \u0645\u0631\u0628\u0648\u0637\u0647 \u062f\u0631 \u06a9\u062f \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u06a9\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u067e\u0631\u0648\u0628 \u0631\u0627\u0628\u0637\u0647 \u0648\u0627\u0644\u062f-\u0641\u0631\u0632\u0646\u062f\u06cc (Parent-Child Relation Probe):<\/span> \u0627\u06cc\u0646 \u067e\u0631\u0648\u0628 \u0628\u0631\u0631\u0633\u06cc \u0645\u06cc\u200c\u06a9\u0646\u062f \u06a9\u0647 \u0622\u06cc\u0627 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u062a\u0648\u06a9\u0646\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u060c \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u06a9\u0627\u0641\u06cc \u0628\u0631\u0627\u06cc \u0628\u0627\u0632\u0633\u0627\u0632\u06cc \u0631\u0648\u0627\u0628\u0637 \u0633\u0644\u0633\u0644\u0647\u200c\u0645\u0631\u0627\u062a\u0628\u06cc (\u0645\u0627\u0646\u0646\u062f \u06a9\u062f\u0627\u0645 \u062a\u0648\u06a9\u0646 \u0641\u0631\u0632\u0646\u062f \u06a9\u062f\u0627\u0645 \u062a\u0648\u06a9\u0646 \u0627\u0633\u062a) \u0631\u0627 \u062f\u0631 \u062e\u0648\u062f \u062f\u0627\u0631\u0646\u062f. \u0627\u06cc\u0646 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0627 \u0622\u0645\u0648\u0632\u0634 \u0637\u0628\u0642\u0647\u200c\u0628\u0646\u062f\u0647\u0627\u06cc\u06cc \u0628\u0631\u0627\u06cc \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u0627\u06cc\u0646\u06a9\u0647 \u06cc\u06a9 \u062a\u0648\u06a9\u0646 \u062e\u0627\u0635\u060c \u0648\u0627\u0644\u062f \u06cc\u0627 \u0641\u0631\u0632\u0646\u062f \u062a\u0648\u06a9\u0646 \u062f\u06cc\u06af\u0631\u06cc \u0627\u0633\u062a\u060c \u0627\u0646\u062c\u0627\u0645 \u0634\u0648\u062f.<\/li>\n<li><span class=\"highlight\">\u067e\u0631\u0648\u0628 \u062a\u0631\u062a\u06cc\u0628 \u062e\u0648\u0627\u0647\u0631-\u0628\u0631\u0627\u062f\u0631\u06cc (Sibling Order Probe):<\/span> \u0628\u0631\u0627\u06cc \u0628\u0627\u0632\u0633\u0627\u0632\u06cc \u06a9\u0627\u0645\u0644 AST\u060c \u062a\u0631\u062a\u06cc\u0628 \u06af\u0631\u0647\u200c\u0647\u0627\u06cc \u062e\u0648\u0627\u0647\u0631-\u0628\u0631\u0627\u062f\u0631 \u0646\u06cc\u0632 \u0627\u0647\u0645\u06cc\u062a \u062f\u0627\u0631\u062f. \u067e\u0631\u0648\u0628\u200c\u0647\u0627\u06cc\u06cc \u0628\u0631\u0627\u06cc \u062a\u0634\u062e\u06cc\u0635 \u062a\u0631\u062a\u06cc\u0628 \u0646\u0633\u0628\u06cc \u062a\u0648\u06a9\u0646\u200c\u0647\u0627 \u062f\u0631 \u06cc\u06a9 \u0633\u0637\u062d \u0627\u0632 AST \u0637\u0631\u0627\u062d\u06cc \u0645\u06cc\u200c\u0634\u0648\u0646\u062f.<\/li>\n<\/ul>\n<\/li>\n<li><span class=\"highlight\">\u0628\u0627\u0632\u0633\u0627\u0632\u06cc \u0648 \u0627\u0631\u0632\u06cc\u0627\u0628\u06cc AST:<\/span> \u067e\u0633 \u0627\u0632 \u0622\u0645\u0648\u0632\u0634 \u067e\u0631\u0648\u0628\u200c\u0647\u0627\u060c \u0627\u0632 \u062e\u0631\u0648\u062c\u06cc \u0622\u0646\u200c\u0647\u0627 \u0628\u0631\u0627\u06cc \u0628\u0627\u0632\u0633\u0627\u0632\u06cc \u06a9\u0627\u0645\u0644 AST \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f. \u0633\u067e\u0633 AST \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u0634\u062f\u0647 \u0628\u0627 AST \u0648\u0627\u0642\u0639\u06cc \u0642\u0637\u0639\u0647 \u06a9\u062f \u0645\u0642\u0627\u06cc\u0633\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f. \u0645\u0639\u06cc\u0627\u0631\u0647\u0627\u06cc \u0627\u0631\u0632\u06cc\u0627\u0628\u06cc \u0634\u0627\u0645\u0644 \u062f\u0642\u062a \u0628\u0627\u0632\u0633\u0627\u0632\u06cc \u0627\u0646\u0648\u0627\u0639 \u06af\u0631\u0647\u200c\u0647\u0627\u060c \u062f\u0642\u062a \u0631\u0648\u0627\u0628\u0637 \u0633\u0644\u0633\u0644\u0647\u200c\u0645\u0631\u0627\u062a\u0628\u06cc \u0648 \u062d\u062a\u06cc \u0634\u0628\u0627\u0647\u062a \u062a\u0648\u067e\u0648\u0644\u0648\u0698\u06cc\u06a9\u06cc \u0628\u06cc\u0646 AST\u0647\u0627\u06cc \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u0634\u062f\u0647 \u0648 \u0648\u0627\u0642\u0639\u06cc \u0627\u0633\u062a.<\/li>\n<\/ul>\n<h3>\u0628. \u0645\u062c\u0645\u0648\u0639\u0647 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0648 \u0645\u062f\u0644\u200c\u0647\u0627:<\/h3>\n<p>\u0627\u06cc\u0646 \u0645\u0637\u0627\u0644\u0639\u0647 \u0627\u0632 \u0645\u062c\u0645\u0648\u0639\u0647\u200c\u0647\u0627\u06cc \u062f\u0627\u062f\u0647\u200c\u0627\u06cc \u0634\u0627\u0645\u0644 \u06a9\u062f\u0647\u0627\u06cc \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc\u200c\u06a9\u0646\u062f \u06a9\u0647 \u0627\u0632 \u0631\u06cc\u067e\u0627\u0632\u06cc\u062a\u0648\u0631\u06cc\u200c\u0647\u0627\u06cc \u06af\u06cc\u062a\u200c\u0647\u0627\u0628 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0634\u062f\u0647\u200c\u0627\u0646\u062f \u062a\u0627 \u062a\u0646\u0648\u0639 \u0648 \u0648\u0627\u0642\u0639\u200c\u06af\u0631\u0627\u06cc\u06cc \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u062a\u0636\u0645\u06cc\u0646 \u0634\u0648\u062f. \u0632\u0628\u0627\u0646\u200c\u0647\u0627\u06cc \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0645\u062e\u062a\u0644\u0641\u06cc \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u062f\u0631 \u0646\u0638\u0631 \u06af\u0631\u0641\u062a\u0647 \u0634\u062f\u0647 \u0628\u0627\u0634\u0646\u062f \u062a\u0627 \u062c\u0627\u0645\u0639\u06cc\u062a \u0631\u0648\u0634 \u0627\u062b\u0628\u0627\u062a \u0634\u0648\u062f (\u0627\u06af\u0631\u0686\u0647 \u062f\u0631 \u0686\u06a9\u06cc\u062f\u0647 \u0646\u0627\u0645 \u0632\u0628\u0627\u0646 \u062e\u0627\u0635\u06cc \u0630\u06a9\u0631 \u0646\u0634\u062f\u0647 \u0627\u0633\u062a). \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 \u0622\u0632\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u062e\u0648\u062f \u0631\u0627 \u0628\u0631 \u0631\u0648\u06cc <span class=\"highlight\">\u067e\u0646\u062c \u0645\u062f\u0644 \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 \u067e\u06cc\u0634\u0631\u0641\u062a\u0647<\/span> \u0627\u0646\u062c\u0627\u0645 \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f. \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u0628\u0647 \u0627\u062d\u062a\u0645\u0627\u0644 \u0632\u06cc\u0627\u062f \u0634\u0627\u0645\u0644 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc\u06cc \u0647\u0633\u062a\u0646\u062f \u06a9\u0647 \u0628\u0631\u0627\u06cc \u06a9\u062f \u0637\u0631\u0627\u062d\u06cc \u0634\u062f\u0647\u200c\u0627\u0646\u062f (\u0645\u0627\u0646\u0646\u062f CodeBERT, GraphCodeBERT, CodeT5) \u0648 \u0647\u0645\u0686\u0646\u06cc\u0646 \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0639\u0645\u0648\u0645\u06cc\u200c\u062a\u0631 (\u0645\u0627\u0646\u0646\u062f BERT \u06cc\u0627 RoBERTa) \u06a9\u0647 \u0628\u0631 \u0631\u0648\u06cc \u06a9\u062f fine-tuned \u0634\u062f\u0647\u200c\u0627\u0646\u062f\u060c \u0628\u0627\u0634\u0646\u062f.<\/p>\n<h3>\u062c. \u062a\u062e\u0645\u06cc\u0646 \u0627\u0628\u0639\u0627\u062f \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc:<\/h3>\n<p>\u06cc\u06a9\u06cc \u0627\u0632 \u062c\u0646\u0628\u0647\u200c\u0647\u0627\u06cc \u0646\u0648\u0622\u0648\u0631\u0627\u0646\u0647 \u0631\u0648\u0634\u200c\u0634\u0646\u0627\u0633\u06cc\u060c <span class=\"highlight\">\u062a\u062e\u0645\u06cc\u0646 \u0627\u0628\u0639\u0627\u062f \u0628\u0647\u06cc\u0646\u0647 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc<\/span> \u0627\u0633\u062a. \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062a\u06a9\u0646\u06cc\u06a9\u200c\u0647\u0627\u06cc\u06cc \u0645\u0627\u0646\u0646\u062f \u06a9\u0627\u0647\u0634 \u0627\u0628\u0639\u0627\u062f (\u0645\u0627\u0646\u0646\u062f PCA) \u06cc\u0627 \u0628\u0627 \u0645\u062d\u062f\u0648\u062f \u06a9\u0631\u062f\u0646 \u0638\u0631\u0641\u06cc\u062a \u067e\u0631\u0648\u0628\u200c\u0647\u0627 (\u0645\u062b\u0644\u0627\u064b \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u067e\u0631\u0648\u0628\u200c\u0647\u0627\u06cc\u06cc \u0628\u0627 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0628\u0627\u0631\u06cc\u06a9\u200c\u062a\u0631) \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u0634\u0648\u062f. \u0647\u062f\u0641 \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u062d\u062f\u0627\u0642\u0644 \u0627\u0628\u0639\u0627\u062f\u06cc \u06a9\u0647 \u0628\u0631\u0627\u06cc \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST \u06a9\u0627\u0641\u06cc \u0627\u0633\u062a\u060c \u0634\u0646\u0627\u0633\u0627\u06cc\u06cc \u0634\u0648\u062f. \u0627\u06cc\u0646 \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0645\u062f\u0644\u200c\u0647\u0627 \u0686\u0642\u062f\u0631 &#8220;\u0641\u0634\u0631\u062f\u0647&#8221; \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u0631\u0627 \u0630\u062e\u06cc\u0631\u0647 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/p>\n<p>\u0628\u0647 \u0637\u0648\u0631 \u062e\u0644\u0627\u0635\u0647\u060c \u0631\u0648\u0634\u200c\u0634\u0646\u0627\u0633\u06cc AST-Probe \u06cc\u06a9 \u0631\u0648\u06cc\u06a9\u0631\u062f \u0633\u06cc\u0633\u062a\u0645\u0627\u062a\u06cc\u06a9 \u0648 \u0686\u0646\u062f\u0648\u062c\u0647\u06cc \u0631\u0627 \u0628\u0631\u0627\u06cc \u0622\u0634\u06a9\u0627\u0631\u0633\u0627\u0632\u06cc \u0648 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u06a9\u0627\u0645\u0644 \u06a9\u062f \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 PLM\u0647\u0627 \u0627\u0631\u0627\u0626\u0647 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0627\u0632 \u0631\u0648\u0634\u200c\u0647\u0627\u06cc \u067e\u0631\u0648\u0628\u06cc\u0646\u06af \u0633\u0646\u062a\u06cc \u0641\u0631\u0627\u062a\u0631 \u0645\u06cc\u200c\u0631\u0648\u062f.<\/p>\n<\/p><\/div>\n<div class=\"section-box\">\n<h2>\u06f5. \u06cc\u0627\u0641\u062a\u0647\u200c\u0647\u0627\u06cc \u06a9\u0644\u06cc\u062f\u06cc<\/h2>\n<p>\u062a\u062d\u0642\u06cc\u0642 AST-Probe \u0628\u0647 \u0686\u0646\u062f\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647 \u0645\u0647\u0645 \u0648 \u062a\u0623\u0645\u0644\u200c\u0628\u0631\u0627\u0646\u06af\u06cc\u0632 \u062f\u0633\u062a \u06cc\u0627\u0641\u062a\u0647 \u0627\u0633\u062a \u06a9\u0647 \u062f\u0631\u06a9 \u0645\u0627 \u0627\u0632 \u0642\u0627\u0628\u0644\u06cc\u062a\u200c\u0647\u0627\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 (PLMs) \u062f\u0631 \u0632\u0645\u06cc\u0646\u0647 \u06a9\u062f \u0631\u0627 \u0639\u0645\u06cc\u0642\u200c\u062a\u0631 \u0645\u06cc\u200c\u06a9\u0646\u062f:<\/p>\n<ol>\n<li>\n<p><span class=\"highlight\">\u0648\u062c\u0648\u062f \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc:<\/span> \u0645\u0647\u0645\u062a\u0631\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647 \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u06cc\u06a9 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0645\u0634\u062e\u0635 \u0648 \u0642\u0627\u0628\u0644 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 PLM\u0647\u0627 \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f \u06a9\u0647 \u0628\u0647 \u0637\u0648\u0631 \u06a9\u0627\u0645\u0644 <span class=\"highlight\">\u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u0632\u0628\u0627\u0646 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc<\/span> \u0631\u0627 \u062f\u0631 \u062e\u0648\u062f \u062c\u0627\u06cc \u062f\u0627\u062f\u0647 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647 \u0628\u0647 \u0635\u0648\u0631\u062a \u062a\u062c\u0631\u0628\u06cc \u062f\u0631 \u062a\u0645\u0627\u0645\u06cc \u067e\u0646\u062c \u0645\u062f\u0644 \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 \u0645\u0648\u0631\u062f \u0622\u0632\u0645\u0627\u06cc\u0634 \u062a\u0623\u06cc\u06cc\u062f \u0634\u062f\u0647 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0628\u062f\u0627\u0646 \u0645\u0639\u0646\u0627\u0633\u062a \u06a9\u0647 PLM\u0647\u0627 \u0646\u0647 \u062a\u0646\u0647\u0627 \u0631\u0648\u0627\u0628\u0637 \u06a9\u0644\u0645\u0647\u200c\u0627\u06cc \u06cc\u0627 \u0639\u0628\u0627\u0631\u062a\u06cc \u0631\u0627 \u06cc\u0627\u062f \u0645\u06cc\u200c\u06af\u06cc\u0631\u0646\u062f\u060c \u0628\u0644\u06a9\u0647 \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u0633\u0644\u0633\u0644\u0647\u200c\u0645\u0631\u0627\u062a\u0628\u06cc \u06a9\u062f \u0631\u0627 \u0646\u06cc\u0632 \u062f\u0631\u0648\u0646\u06cc\u200c\u0633\u0627\u0632\u06cc \u06a9\u0631\u062f\u0647\u200c\u0627\u0646\u062f.<\/p>\n<p><strong>\u0645\u062b\u0627\u0644 \u0639\u0645\u0644\u06cc:<\/strong> \u0627\u06af\u0631 \u0645\u062f\u0644 \u06cc\u06a9 \u062e\u0637 \u06a9\u062f \u0645\u0627\u0646\u0646\u062f <code dir=\"ltr\">if (x > 0) { y = 1; }<\/code> \u0631\u0627 \u067e\u0631\u062f\u0627\u0632\u0634 \u06a9\u0646\u062f\u060c \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0622\u0646 \u062d\u0627\u0648\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a\u06cc \u062f\u0631 \u0645\u0648\u0631\u062f \u0627\u06cc\u0646\u06a9\u0647 <code dir=\"ltr\">if<\/code> \u06cc\u06a9 \u06af\u0631\u0647 \u0634\u0631\u0637\u06cc\u060c <code dir=\"ltr\">x > 0<\/code> \u06cc\u06a9 \u06af\u0631\u0647 \u0639\u0628\u0627\u0631\u062a \u0628\u0648\u0644\u06cc \u0648 <code dir=\"ltr\">y = 1<\/code> \u06cc\u06a9 \u06af\u0631\u0647 \u062a\u062e\u0635\u06cc\u0635 \u0627\u0633\u062a\u060c \u0645\u06cc\u200c\u0628\u0627\u0634\u062f. \u0647\u0645\u0686\u0646\u06cc\u0646 \u0631\u0648\u0627\u0628\u0637 \u0648\u0627\u0644\u062f-\u0641\u0631\u0632\u0646\u062f\u06cc \u0628\u06cc\u0646 \u0627\u06cc\u0646 \u06af\u0631\u0647\u200c\u0647\u0627 (\u0645\u062b\u0644\u0627\u064b \u0639\u0628\u0627\u0631\u062a \u0628\u0648\u0644\u06cc \u0641\u0631\u0632\u0646\u062f \u06af\u0631\u0647 \u0634\u0631\u0637\u06cc \u0627\u0633\u062a) \u0646\u06cc\u0632 \u062f\u0631 \u0627\u06cc\u0646 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627 \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0634\u062f\u0647 \u0627\u0633\u062a.<\/p>\n<\/li>\n<li>\n<p><span class=\"highlight\">\u0645\u0648\u0642\u0639\u06cc\u062a \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST \u062f\u0631 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627:<\/span> \u0646\u062a\u0627\u06cc\u062c \u0628\u0647 \u0648\u0636\u0648\u062d \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u0646\u062f \u06a9\u0647 <span class=\"highlight\">\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc<\/span> \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0628\u06cc\u0634\u062a\u0631\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0645\u0631\u0628\u0648\u0637 \u0628\u0647 AST \u0631\u0627 \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647 \u0628\u0627 \u0634\u0647\u0648\u062f \u0645\u0627 \u0627\u0632 \u0646\u062d\u0648\u0647 \u0639\u0645\u0644\u06a9\u0631\u062f \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0639\u0645\u06cc\u0642 \u0647\u0645\u062e\u0648\u0627\u0646\u06cc \u062f\u0627\u0631\u062f:<\/p>\n<ul>\n<li><span class=\"highlight\">\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0627\u0648\u0644\u06cc\u0647:<\/span> \u0645\u0639\u0645\u0648\u0644\u0627\u064b \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0633\u0637\u062d \u067e\u0627\u06cc\u06cc\u0646\u200c\u062a\u0631 \u0648 \u0644\u063a\u0648\u06cc (lexical) \u0631\u0627 \u067e\u0631\u062f\u0627\u0632\u0634 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f\u060c \u0645\u0627\u0646\u0646\u062f \u062a\u0648\u06a9\u0646\u200c\u0647\u0627\u06cc \u0641\u0631\u062f\u06cc \u0648 \u0631\u0648\u0627\u0628\u0637 \u0646\u0632\u062f\u06cc\u06a9 \u0628\u06cc\u0646 \u0622\u0646\u200c\u0647\u0627.<\/li>\n<li><span class=\"highlight\">\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc:<\/span> \u0633\u0627\u062e\u062a\u0627\u0631\u0647\u0627\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647\u200c\u062a\u0631 \u0648 \u0646\u062d\u0648\u06cc \u0631\u0627 \u062f\u0631\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f\u060c \u06a9\u0647 \u0628\u0631\u0627\u06cc \u062a\u0634\u06a9\u06cc\u0644 AST \u0636\u0631\u0648\u0631\u06cc \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627 \u062f\u0631\u06a9 \u0639\u0645\u06cc\u0642\u200c\u062a\u0631\u06cc \u0627\u0632 \u062a\u0631\u062a\u06cc\u0628 \u06a9\u0644\u0645\u0627\u062a\u060c \u0648\u0627\u0628\u0633\u062a\u06af\u06cc\u200c\u0647\u0627\u06cc \u06af\u0631\u0627\u0645\u0631\u06cc \u0648 \u0633\u0627\u062e\u062a\u0627\u0631 \u062c\u0645\u0644\u0647 \u0628\u0647 \u062f\u0633\u062a \u0645\u06cc\u200c\u0622\u0648\u0631\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u067e\u0627\u06cc\u0627\u0646\u06cc:<\/span> \u0628\u06cc\u0634\u062a\u0631 \u0628\u0631 \u0631\u0648\u06cc \u0645\u0639\u0646\u0627\u0634\u0646\u0627\u0633\u06cc \u0648 \u0645\u0641\u0627\u0647\u06cc\u0645 \u0627\u0646\u062a\u0632\u0627\u0639\u06cc\u200c\u062a\u0631 \u062a\u0645\u0631\u06a9\u0632 \u062f\u0627\u0631\u0646\u062f \u0648 \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0631\u062e\u06cc \u0627\u0632 \u062c\u0632\u0626\u06cc\u0627\u062a \u0646\u062d\u0648\u06cc \u0631\u0627 \u0641\u06cc\u0644\u062a\u0631 \u06cc\u0627 \u062a\u062c\u0645\u06cc\u0639 \u06a9\u0646\u0646\u062f.<\/li>\n<\/ul>\n<\/li>\n<li>\n<p><span class=\"highlight\">\u0627\u0628\u0639\u0627\u062f \u0628\u0647\u06cc\u0646\u0647 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc:<\/span> \u06cc\u06a9\u06cc \u062f\u06cc\u06af\u0631 \u0627\u0632 \u06cc\u0627\u0641\u062a\u0647\u200c\u0647\u0627\u06cc \u06a9\u0644\u06cc\u062f\u06cc \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 <span class=\"highlight\">\u0627\u0628\u0639\u0627\u062f \u0628\u0647\u06cc\u0646\u0647 \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc \u0628\u0647 \u0637\u0648\u0631 \u0642\u0627\u0628\u0644 \u062a\u0648\u062c\u0647\u06cc \u06a9\u0645\u062a\u0631<\/span> \u0627\u0632 \u0627\u0628\u0639\u0627\u062f \u0641\u0636\u0627\u0647\u0627\u06cc \u0646\u0645\u0627\u06cc\u0634\u06cc \u06a9\u0627\u0645\u0644 \u062e\u0648\u062f \u0645\u062f\u0644\u200c\u0647\u0627 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0645\u0648\u0636\u0648\u0639 \u067e\u06cc\u0627\u0645\u062f\u0647\u0627\u06cc \u0645\u0647\u0645\u06cc \u062f\u0627\u0631\u062f:<\/p>\n<ul>\n<li><span class=\"highlight\">\u06a9\u0627\u0631\u0627\u06cc\u06cc (Efficiency):<\/span> \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 PLM\u0647\u0627 \u0628\u0631\u0627\u06cc \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u0628\u0647 \u062a\u0645\u0627\u0645 \u0638\u0631\u0641\u06cc\u062a \u0646\u0645\u0627\u06cc\u0634\u06cc \u062e\u0648\u062f \u0646\u06cc\u0627\u0632 \u0646\u062f\u0627\u0631\u0646\u062f. \u0627\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0628\u0647 \u0635\u0648\u0631\u062a \u0641\u0634\u0631\u062f\u0647 \u0648 \u06a9\u0627\u0631\u0622\u0645\u062f \u0630\u062e\u06cc\u0631\u0647 \u0645\u06cc\u200c\u0634\u0648\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0641\u0634\u0631\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u0637\u0644\u0627\u0639\u0627\u062a:<\/span> \u0645\u062f\u0644\u200c\u0647\u0627 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0633\u0627\u062e\u062a\u0627\u0631\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647 \u0631\u0627 \u062f\u0631 \u06cc\u06a9 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u0633\u0628\u062a\u0627\u064b \u06a9\u0648\u0686\u06a9 \u0641\u0634\u0631\u062f\u0647 \u06a9\u0646\u0646\u062f\u060c \u06a9\u0647 \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0647 \u0645\u0639\u0646\u0627\u06cc \u0627\u06cc\u0646 \u0628\u0627\u0634\u062f \u06a9\u0647 \u0628\u062e\u0634 \u0639\u0645\u062f\u0647\u200c\u0627\u06cc \u0627\u0632 \u0641\u0636\u0627\u06cc \u0646\u0645\u0627\u06cc\u0634 \u0628\u0631\u0627\u06cc \u0648\u0638\u0627\u06cc\u0641 \u062f\u06cc\u06af\u0631 (\u0645\u0627\u0646\u0646\u062f \u0645\u0639\u0646\u0627\u0634\u0646\u0627\u0633\u06cc \u06cc\u0627 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0632\u0645\u06cc\u0646\u0647\u200c\u0627\u06cc) \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f.<\/li>\n<li><span class=\"highlight\">\u067e\u062a\u0627\u0646\u0633\u06cc\u0644 \u0628\u0631\u0627\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u062a\u062e\u0635\u0635\u06cc:<\/span> \u0627\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647 \u0645\u0633\u06cc\u0631 \u0631\u0627 \u0628\u0631\u0627\u06cc \u0637\u0631\u0627\u062d\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0633\u0628\u06a9\u200c\u062a\u0631 \u0648 \u06a9\u0627\u0631\u0622\u0645\u062f\u062a\u0631 \u06a9\u0647 \u0628\u0631 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0648 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc \u0645\u062a\u0645\u0631\u06a9\u0632 \u0647\u0633\u062a\u0646\u062f\u060c \u0628\u0627\u0632 \u0645\u06cc\u200c\u06a9\u0646\u062f.<\/li>\n<\/ul>\n<\/li>\n<li>\n<p><span class=\"highlight\">\u0642\u0627\u0628\u0644\u06cc\u062a \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u06a9\u0627\u0645\u0644 AST:<\/span> \u0631\u0648\u0634 AST-Probe \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0646\u0647 \u062a\u0646\u0647\u0627 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u0645 \u0628\u062e\u0634\u200c\u0647\u0627\u06cc\u06cc \u0627\u0632 AST \u0631\u0627 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u06a9\u0646\u06cc\u0645\u060c \u0628\u0644\u06a9\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u0645 <span class=\"highlight\">\u06a9\u0644 \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc<\/span> \u0631\u0627 \u0628\u0627 \u062f\u0642\u062a \u0642\u0627\u0628\u0644 \u0642\u0628\u0648\u0644\u06cc \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644 \u0628\u0627\u0632\u06cc\u0627\u0628\u06cc \u06a9\u0646\u06cc\u0645. \u0627\u06cc\u0646 \u06cc\u06a9 \u062f\u0633\u062a\u0627\u0648\u0631\u062f \u0628\u0632\u0631\u06af \u062f\u0631 \u0632\u0645\u06cc\u0646\u0647 \u062a\u0641\u0633\u06cc\u0631\u067e\u0630\u06cc\u0631\u06cc \u0648 \u062f\u0631\u06a9 PLM\u0647\u0627 \u0627\u0633\u062a.<\/p>\n<\/li>\n<\/ol>\n<p>\u0628\u0647 \u0637\u0648\u0631 \u062e\u0644\u0627\u0635\u0647\u060c \u0627\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647\u200c\u0647\u0627 \u0628\u0647 \u0645\u0627 \u0645\u06cc\u200c\u06af\u0648\u06cc\u0646\u062f \u06a9\u0647 PLM\u0647\u0627 \u0646\u0647 \u062a\u0646\u0647\u0627 &#8220;\u0632\u0628\u0627\u0646&#8221; \u0631\u0627 \u062f\u0631\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f\u060c \u0628\u0644\u06a9\u0647 &#8220;\u062f\u0633\u062a\u0648\u0631 \u0632\u0628\u0627\u0646&#8221; (\u06af\u0631\u0627\u0645\u0631) \u0622\u0646 \u0631\u0627 \u0646\u06cc\u0632 \u0628\u0647 \u062e\u0648\u0628\u06cc \u0645\u06cc\u200c\u0634\u0646\u0627\u0633\u0646\u062f \u0648 \u0627\u06cc\u0646 \u062f\u0627\u0646\u0634 \u0631\u0627 \u062f\u0631 \u0628\u062e\u0634 \u062e\u0627\u0635\u06cc \u0627\u0632 \u0645\u063a\u0632 \u0645\u062c\u0627\u0632\u06cc \u062e\u0648\u062f (\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc \u0648 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u06a9\u0648\u0686\u06a9\u200c\u062a\u0631) \u0630\u062e\u06cc\u0631\u0647 \u06a9\u0631\u062f\u0647\u200c\u0627\u0646\u062f.<\/p>\n<\/p><\/div>\n<div class=\"section-box\">\n<h2>\u06f6. \u06a9\u0627\u0631\u0628\u0631\u062f\u0647\u0627 \u0648 \u062f\u0633\u062a\u0627\u0648\u0631\u062f\u0647\u0627<\/h2>\n<p>\u062f\u0633\u062a\u0627\u0648\u0631\u062f\u0647\u0627 \u0648 \u06cc\u0627\u0641\u062a\u0647\u200c\u0647\u0627\u06cc \u0645\u0642\u0627\u0644\u0647 AST-Probe \u067e\u06cc\u0627\u0645\u062f\u0647\u0627\u06cc \u0639\u0645\u06cc\u0642\u06cc \u0628\u0631\u0627\u06cc \u062d\u0648\u0632\u0647 \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc\u060c \u0628\u0647 \u0648\u06cc\u0698\u0647 \u062f\u0631 \u06a9\u0627\u0631\u0628\u0631\u062f\u0647\u0627\u06cc \u0645\u0631\u0628\u0648\u0637 \u0628\u0647 \u062a\u062d\u0644\u06cc\u0644 \u0648 \u062a\u0648\u0644\u06cc\u062f \u06a9\u062f\u060c \u062f\u0627\u0631\u062f. \u0627\u06cc\u0646 \u0646\u062a\u0627\u06cc\u062c \u062a\u0646\u0647\u0627 \u06cc\u06a9 \u06af\u0627\u0645 \u0646\u0638\u0631\u06cc \u0646\u06cc\u0633\u062a\u0646\u062f\u060c \u0628\u0644\u06a9\u0647 \u0645\u0633\u06cc\u0631\u0647\u0627\u06cc \u0639\u0645\u0644\u06cc \u062c\u062f\u06cc\u062f\u06cc \u0631\u0627 \u0628\u0627\u0632 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f:<\/p>\n<h3>\u06f1. \u0627\u0641\u0632\u0627\u06cc\u0634 \u062a\u0641\u0633\u06cc\u0631\u067e\u0630\u06cc\u0631\u06cc \u0645\u062f\u0644\u200c\u0647\u0627 (Model Interpretability):<\/h3>\n<p>\u06cc\u06a9\u06cc \u0627\u0632 \u0628\u0632\u0631\u06af\u062a\u0631\u06cc\u0646 \u0686\u0627\u0644\u0634\u200c\u0647\u0627 \u062f\u0631 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642\u060c \u062f\u0631\u06a9 &#8220;\u0686\u0631\u0627&#8221; \u0648 &#8220;\u0686\u06af\u0648\u0646\u0647&#8221; \u0622\u0646\u200c\u0647\u0627 \u062a\u0635\u0645\u06cc\u0645\u200c\u06af\u06cc\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. AST-Probe \u0628\u0627 \u0627\u062b\u0628\u0627\u062a \u0648\u062c\u0648\u062f \u0648 \u0642\u0627\u0628\u0644\u06cc\u062a \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST\u060c \u06af\u0627\u0645\u06cc \u0628\u0644\u0646\u062f \u062f\u0631 \u0627\u06cc\u0646 \u0631\u0627\u0633\u062a\u0627 \u0628\u0631\u0645\u06cc\u200c\u062f\u0627\u0631\u062f. \u0627\u06a9\u0646\u0648\u0646 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u0645 \u0628\u0627 \u0627\u0637\u0645\u06cc\u0646\u0627\u0646 \u0628\u06cc\u0634\u062a\u0631\u06cc \u0628\u06af\u0648\u06cc\u06cc\u0645 \u06a9\u0647 \u0648\u0642\u062a\u06cc \u06cc\u06a9 PLM \u06a9\u062f\u06cc \u0631\u0627 \u067e\u0631\u062f\u0627\u0632\u0634 \u0645\u06cc\u200c\u06a9\u0646\u062f\u060c \u062f\u0631\u06a9 \u0633\u0627\u062e\u062a\u0627\u0631\u06cc \u0639\u0645\u06cc\u0642\u06cc \u0627\u0632 \u0622\u0646 \u062f\u0627\u0631\u062f. \u0627\u06cc\u0646 \u0628\u0647 \u0645\u0627 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u062a\u0627:<\/p>\n<ul>\n<li><span class=\"highlight\">\u0627\u0639\u062a\u0645\u0627\u062f\u067e\u0630\u06cc\u0631\u06cc:<\/span> \u0628\u0647 \u0645\u062f\u0644\u200c\u0647\u0627 \u0628\u06cc\u0634\u062a\u0631 \u0627\u0639\u062a\u0645\u0627\u062f \u06a9\u0646\u06cc\u0645\u060c \u0632\u06cc\u0631\u0627 \u0645\u06cc\u200c\u062f\u0627\u0646\u06cc\u0645 \u06a9\u0647 \u0622\u0646\u0647\u0627 \u0641\u0642\u0637 \u0627\u0644\u06af\u0648\u0647\u0627\u06cc \u0633\u0637\u062d\u06cc \u0631\u0627 \u0646\u0645\u06cc\u200c\u0628\u06cc\u0646\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0639\u06cc\u0628\u200c\u06cc\u0627\u0628\u06cc:<\/span> \u0628\u0647\u062a\u0631 \u0628\u0641\u0647\u0645\u06cc\u0645 \u06a9\u0647 \u0686\u0631\u0627 \u0645\u062f\u0644 \u062f\u0631 \u0628\u0631\u062e\u06cc \u0645\u0648\u0627\u0631\u062f \u062e\u0627\u0635 \u0627\u0634\u062a\u0628\u0627\u0647 \u0645\u06cc\u200c\u06a9\u0646\u062f\u060c \u0634\u0627\u06cc\u062f \u0628\u0647 \u062f\u0644\u06cc\u0644 \u0639\u062f\u0645 \u062f\u0631\u06a9 \u0635\u062d\u06cc\u062d \u0633\u0627\u062e\u062a\u0627\u0631 \u0646\u062d\u0648\u06cc.<\/li>\n<\/ul>\n<h3>\u06f2. \u0628\u0647\u0628\u0648\u062f \u0637\u0631\u0627\u062d\u06cc \u0648 \u0645\u0639\u0645\u0627\u0631\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0622\u06cc\u0646\u062f\u0647:<\/h3>\n<p>\u062f\u0627\u0646\u0633\u062a\u0646 \u0627\u06cc\u0646\u06a9\u0647 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc \u0645\u062f\u0644 \u0628\u06cc\u0634\u062a\u0631\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST \u0631\u0627 \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u0648 \u0627\u06cc\u0646\u06a9\u0647 \u0627\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u062f\u0631 \u06cc\u06a9 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u06a9\u0645\u200c\u0628\u0639\u062f \u0642\u0631\u0627\u0631 \u062f\u0627\u0631\u0646\u062f\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0631\u0627\u0647\u0646\u0645\u0627\u06cc \u0645\u0647\u0646\u062f\u0633\u0627\u0646 \u0628\u0631\u0627\u06cc \u0637\u0631\u0627\u062d\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u062c\u062f\u06cc\u062f \u0628\u0627\u0634\u062f:<\/p>\n<ul>\n<li><span class=\"highlight\">\u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u06a9\u0627\u0631\u0622\u0645\u062f\u062a\u0631:<\/span> \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc\u06cc \u0633\u0627\u062e\u062a \u06a9\u0647 \u0628\u0647 \u0637\u0648\u0631 \u062e\u0627\u0635 \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc \u0631\u0627 \u0647\u062f\u0641 \u0642\u0631\u0627\u0631 \u062f\u0647\u0646\u062f \u0648 \u0627\u0632 \u0644\u062d\u0627\u0638 \u0645\u062d\u0627\u0633\u0628\u0627\u062a\u06cc \u0628\u0647\u06cc\u0646\u0647\u200c\u062a\u0631 \u0628\u0627\u0634\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0627\u0641\u0632\u0648\u062f\u0646 \u0635\u0631\u06cc\u062d \u062f\u0627\u0646\u0634 \u0646\u062d\u0648\u06cc:<\/span> \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u0645\u0639\u0645\u0627\u0631\u06cc\u200c\u0647\u0627\u06cc\u06cc \u0631\u0627 \u0637\u0631\u0627\u062d\u06cc \u06a9\u0631\u062f \u06a9\u0647 \u0622\u06af\u0627\u0647\u0627\u0646\u0647 \u0627\u0632 \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST \u062f\u0631 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u0646\u062f \u06cc\u0627 \u0622\u0646\u200c\u0647\u0627 \u0631\u0627 \u062a\u0642\u0648\u06cc\u062a \u06a9\u0646\u0646\u062f\u060c \u0628\u0647 \u062c\u0627\u06cc \u0627\u06cc\u0646\u06a9\u0647 \u0641\u0642\u0637 \u0628\u0647 \u0645\u062f\u0644 \u0627\u062c\u0627\u0632\u0647 \u062f\u0647\u06cc\u0645 \u0628\u0647 \u0635\u0648\u0631\u062a \u0636\u0645\u0646\u06cc \u0622\u0646\u200c\u0647\u0627 \u0631\u0627 \u06cc\u0627\u062f \u0628\u06af\u06cc\u0631\u062f. \u0627\u06cc\u0646 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0645\u0646\u062c\u0631 \u0628\u0647 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0642\u0648\u06cc\u200c\u062a\u0631 \u0648 \u0628\u0627 \u0642\u0627\u0628\u0644\u06cc\u062a generalization \u0628\u0647\u062a\u0631 \u0634\u0648\u062f.<\/li>\n<\/ul>\n<h3>\u06f3. \u06a9\u0627\u0631\u0628\u0631\u062f\u0647\u0627\u06cc \u0645\u0647\u0646\u062f\u0633\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631:<\/h3>\n<p>\u062f\u0631\u06a9 \u0639\u0645\u06cc\u0642 PLM\u0647\u0627 \u0627\u0632 AST\u0647\u0627 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0647 \u0637\u0648\u0631 \u0645\u0633\u062a\u0642\u06cc\u0645 \u062f\u0631 \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u0645\u0647\u0646\u062f\u0633\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631 \u0645\u0641\u06cc\u062f \u0628\u0627\u0634\u062f:<\/p>\n<ul>\n<li><span class=\"highlight\">\u062a\u0648\u0644\u06cc\u062f \u06a9\u062f \u0647\u0648\u0634\u0645\u0646\u062f\u062a\u0631:<\/span> \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u062a\u0648\u0644\u06cc\u062f \u06a9\u062f \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u06a9\u062f\u06cc \u0631\u0627 \u0628\u0627 \u0633\u0627\u062e\u062a\u0627\u0631 \u0646\u062d\u0648\u06cc \u0635\u062d\u06cc\u062d\u200c\u062a\u0631 \u0648 \u0645\u0646\u0637\u0642\u06cc\u200c\u062a\u0631 \u062a\u0648\u0644\u06cc\u062f \u06a9\u0646\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u062a\u06a9\u0645\u06cc\u0644 \u06a9\u062f (Code Completion):<\/span> \u0628\u0627 \u062f\u0631\u06a9 AST \u062f\u0631 \u062d\u0627\u0644 \u0633\u0627\u062e\u062a\u060c \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u062a\u06a9\u0645\u06cc\u0644 \u06a9\u062f \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u067e\u06cc\u0634\u0646\u0647\u0627\u062f\u0627\u062a \u062f\u0642\u06cc\u0642\u200c\u062a\u0631 \u0648 \u0645\u0631\u062a\u0628\u0637\u200c\u062a\u0631\u06cc \u0627\u0631\u0627\u0626\u0647 \u062f\u0647\u0646\u062f \u06a9\u0647 \u0627\u0632 \u0646\u0638\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u0635\u062d\u06cc\u062d \u0628\u0627\u0634\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0631\u0641\u0639 \u0627\u0634\u06a9\u0627\u0644 \u0648 \u062a\u062d\u0644\u06cc\u0644 \u062b\u0627\u0628\u062a (Static Analysis):<\/span> \u0645\u062f\u0644\u200c\u0647\u0627 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0627 \u062f\u0642\u062a \u0628\u06cc\u0634\u062a\u0631\u06cc \u0627\u0634\u06a9\u0627\u0644\u0627\u062a \u0646\u062d\u0648\u06cc \u0648 \u062d\u062a\u06cc \u0645\u0639\u0646\u0627\u06cc\u06cc \u0631\u0627 \u062f\u0631 \u06a9\u062f \u062a\u0634\u062e\u06cc\u0635 \u062f\u0647\u0646\u062f. \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u0645\u062b\u0627\u0644\u060c \u0627\u06af\u0631 \u06cc\u06a9 \u0645\u062f\u0644 \u0645\u062a\u0648\u062c\u0647 \u0634\u0648\u062f \u06a9\u0647 \u06cc\u06a9 \u0628\u062e\u0634 \u0627\u0632 \u06a9\u062f \u0627\u0632 \u0646\u0638\u0631 AST \u063a\u06cc\u0631\u0639\u0627\u062f\u06cc \u0627\u0633\u062a\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u06cc\u06a9 \u0627\u062e\u0637\u0627\u0631 (warning) \u0635\u0627\u062f\u0631 \u06a9\u0646\u062f.<\/li>\n<li><span class=\"highlight\">\u0628\u0627\u0632\u0622\u0631\u0627\u06cc\u06cc \u06a9\u062f (Refactoring):<\/span> \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u0628\u0627\u0632\u0622\u0631\u0627\u06cc\u06cc \u06a9\u062f \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062f\u0631\u06a9 \u0645\u062f\u0644 \u0627\u0632 \u0633\u0627\u062e\u062a\u0627\u0631 AST\u060c \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0633\u0627\u062e\u062a\u0627\u0631\u06cc \u0631\u0627 \u0628\u0647 \u0637\u0648\u0631 \u0627\u06cc\u0645\u0646 \u0648 \u06a9\u0627\u0631\u0622\u0645\u062f \u0627\u0639\u0645\u0627\u0644 \u06a9\u0646\u0646\u062f.<\/li>\n<\/ul>\n<h3>\u06f4. \u062a\u0648\u0633\u0639\u0647 \u0645\u062a\u062f\u0648\u0644\u0648\u0698\u06cc\u200c\u0647\u0627\u06cc \u067e\u0631\u0648\u0628\u06cc\u0646\u06af \u062c\u062f\u06cc\u062f:<\/h3>\n<p>AST-Probe \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u06cc\u06a9 \u0631\u0648\u0634 \u062c\u062f\u06cc\u062f\u060c \u0627\u0644\u0647\u0627\u0645\u200c\u0628\u062e\u0634 \u062a\u062d\u0642\u06cc\u0642\u0627\u062a \u0622\u062a\u06cc \u062f\u0631 \u0632\u0645\u06cc\u0646\u0647 \u067e\u0631\u0648\u0628\u06cc\u0646\u06af \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0645\u062a\u062f\u0648\u0644\u0648\u0698\u06cc \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0631\u0627\u06cc \u0628\u0631\u0631\u0633\u06cc \u0633\u0627\u06cc\u0631 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0633\u0627\u062e\u062a\u0627\u0631\u06cc \u06cc\u0627 \u0645\u0639\u0646\u0627\u06cc\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647 \u062f\u0631 \u0645\u062f\u0644\u200c\u0647\u0627 \u0646\u06cc\u0632 \u0645\u0648\u0631\u062f \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0642\u0631\u0627\u0631 \u06af\u06cc\u0631\u062f\u060c \u0646\u0647 \u0641\u0642\u0637 \u0645\u062d\u062f\u0648\u062f \u0628\u0647 AST\u0647\u0627. \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u0645\u062b\u0627\u0644\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u0627\u0632 \u0631\u0648\u06cc\u06a9\u0631\u062f\u0647\u0627\u06cc \u0645\u0634\u0627\u0628\u0647 \u0628\u0631\u0627\u06cc \u0628\u0631\u0631\u0633\u06cc \u062f\u0631\u06a9 \u0645\u062f\u0644 \u0627\u0632 <span class=\"highlight\">\u06af\u0631\u0627\u0641\u200c\u0647\u0627\u06cc \u062c\u0631\u06cc\u0627\u0646 \u06a9\u0646\u062a\u0631\u0644 (Control Flow Graphs)<\/span> \u06cc\u0627 <span class=\"highlight\">\u06af\u0631\u0627\u0641\u200c\u0647\u0627\u06cc \u062c\u0631\u06cc\u0627\u0646 \u062f\u0627\u062f\u0647 (Data Flow Graphs)<\/span> \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0631\u062f.<\/p>\n<h3>\u06f5. \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0645\u0646\u0627\u0628\u0639 \u0645\u062d\u0627\u0633\u0628\u0627\u062a\u06cc:<\/h3>\n<p>\u0628\u0627 \u062a\u0648\u062c\u0647 \u0628\u0647 \u0627\u06cc\u0646\u06a9\u0647 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u062f\u0631 \u06cc\u06a9 \u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u06a9\u0645\u200c\u0628\u0639\u062f \u0642\u0631\u0627\u0631 \u062f\u0627\u0631\u062f\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u0628\u0647 \u062f\u0646\u0628\u0627\u0644 \u0631\u0648\u0634\u200c\u0647\u0627\u06cc\u06cc \u0628\u0631\u0627\u06cc \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u06cc\u0627 \u062a\u0642\u0637\u06cc\u0631 (distillation) \u0627\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0628\u0647 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u06a9\u0648\u0686\u06a9\u200c\u062a\u0631 \u0648 \u0633\u0628\u06a9\u200c\u062a\u0631 \u0628\u0648\u062f \u06a9\u0647 \u0646\u06cc\u0627\u0632\u0645\u0646\u062f \u0645\u0646\u0627\u0628\u0639 \u0645\u062d\u0627\u0633\u0628\u0627\u062a\u06cc \u06a9\u0645\u062a\u0631\u06cc \u0647\u0633\u062a\u0646\u062f. \u0627\u06cc\u0646 \u0627\u0645\u0631 \u0628\u0631\u0627\u06cc \u0627\u0633\u062a\u0642\u0631\u0627\u0631 \u0645\u062f\u0644\u200c\u0647\u0627 \u062f\u0631 \u0645\u062d\u06cc\u0637\u200c\u0647\u0627\u06cc \u0628\u0627 \u0645\u0646\u0627\u0628\u0639 \u0645\u062d\u062f\u0648\u062f \u0628\u0633\u06cc\u0627\u0631 \u0645\u0641\u06cc\u062f \u0627\u0633\u062a.<\/p>\n<p>\u062f\u0631 \u0645\u062c\u0645\u0648\u0639\u060c \u0645\u0642\u0627\u0644\u0647 AST-Probe \u0646\u0647 \u062a\u0646\u0647\u0627 \u06cc\u06a9 \u062f\u0633\u062a\u0627\u0648\u0631\u062f \u0639\u0644\u0645\u06cc \u0645\u0647\u0645 \u0627\u0633\u062a\u060c \u0628\u0644\u06a9\u0647 \u067e\u062a\u0627\u0646\u0633\u06cc\u0644 \u0632\u06cc\u0627\u062f\u06cc \u0628\u0631\u0627\u06cc \u062a\u062d\u0648\u0644 \u062f\u0631 \u0646\u062d\u0648\u0647 \u062a\u0639\u0627\u0645\u0644 \u0645\u0627 \u0628\u0627 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc \u062f\u0631 \u062d\u0648\u0632\u0647 \u0645\u0647\u0646\u062f\u0633\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631 \u0648 \u0641\u0647\u0645 \u0639\u0645\u06cc\u0642\u200c\u062a\u0631 \u0642\u0627\u0628\u0644\u06cc\u062a\u200c\u0647\u0627\u06cc \u0622\u0646\u200c\u0647\u0627 \u062f\u0627\u0631\u062f.<\/p>\n<\/p><\/div>\n<div class=\"section-box\">\n<h2>\u06f7. \u0646\u062a\u06cc\u062c\u0647\u200c\u06af\u06cc\u0631\u06cc<\/h2>\n<p>\u062a\u062d\u0642\u06cc\u0642 &#8220;AST-Probe: \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647&#8221; \u06af\u0627\u0645 \u0645\u0647\u0645\u06cc \u062f\u0631 \u0631\u0648\u0634\u0646\u200c\u0633\u0627\u0632\u06cc \u0639\u0645\u0642 \u062f\u0631\u06a9 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u0633\u0627\u062e\u062a\u0627\u0631 \u06a9\u062f\u0647\u0627\u06cc \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0628\u0631\u062f\u0627\u0634\u062a\u0647 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0645\u0642\u0627\u0644\u0647 \u0628\u0647 \u0637\u0648\u0631 \u0642\u0637\u0639\u06cc \u0627\u062b\u0628\u0627\u062a \u0645\u06cc\u200c\u06a9\u0646\u062f \u06a9\u0647 <span class=\"highlight\">\u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 (PLMs)<\/span>\u060c \u0639\u0644\u0627\u0648\u0647 \u0628\u0631 \u062f\u0631\u06a9 \u0631\u0648\u0627\u0628\u0637 \u06a9\u0644\u0645\u0647\u200c\u0627\u06cc \u0648 \u0645\u0639\u0646\u0627\u06cc\u06cc\u060c \u0633\u0627\u062e\u062a\u0627\u0631 \u06af\u0631\u0627\u0645\u0631\u06cc \u06a9\u0627\u0645\u0644 \u06cc\u06a9 \u0632\u0628\u0627\u0646 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0631\u0627 \u062f\u0631 \u0642\u0627\u0644\u0628 <span class=\"highlight\">\u062f\u0631\u062e\u062a\u200c\u0647\u0627\u06cc \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc (ASTs)<\/span> \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u062e\u0648\u062f \u06a9\u062f\u06af\u0630\u0627\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/p>\n<p>\u0628\u0627 \u0645\u0639\u0631\u0641\u06cc \u0631\u0648\u0634 \u067e\u0631\u0648\u0628\u06cc\u0646\u06af \u0646\u0648\u0622\u0648\u0631\u0627\u0646\u0647 <span class=\"highlight\">AST-Probe<\/span>\u060c \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 \u0646\u0634\u0627\u0646 \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f \u06a9\u0647 \u0627\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u0646\u062d\u0648\u06cc \u0646\u0647 \u062a\u0646\u0647\u0627 \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u0646\u062f\u060c \u0628\u0644\u06a9\u0647 \u0642\u0627\u0628\u0644 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0648 \u0628\u0627\u0632\u0633\u0627\u0632\u06cc \u06a9\u0627\u0645\u0644 \u0647\u0633\u062a\u0646\u062f. \u06cc\u0627\u0641\u062a\u0647\u200c\u0647\u0627\u06cc \u06a9\u0644\u06cc\u062f\u06cc \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642\u060c \u0634\u0627\u0645\u0644 \u0648\u062c\u0648\u062f \u06cc\u06a9 <span class=\"highlight\">\u0632\u06cc\u0631\u0641\u0636\u0627\u06cc \u0646\u062d\u0648\u06cc<\/span> \u062f\u0631 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u060c \u062a\u0645\u0631\u06a9\u0632 \u0628\u06cc\u0634\u062a\u0631\u06cc\u0646 \u0627\u0637\u0644\u0627\u0639\u0627\u062a AST \u062f\u0631 <span class=\"highlight\">\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646\u06cc<\/span> \u0648 <span class=\"highlight\">\u0627\u0628\u0639\u0627\u062f \u0628\u0647 \u0645\u0631\u0627\u062a\u0628 \u06a9\u0645\u062a\u0631<\/span> \u0627\u06cc\u0646 \u0632\u06cc\u0631\u0641\u0636\u0627 \u0646\u0633\u0628\u062a \u0628\u0647 \u06a9\u0644 \u0641\u0636\u0627\u06cc \u0646\u0645\u0627\u06cc\u0634\u060c \u0628\u06cc\u0646\u0634\u200c\u0647\u0627\u06cc \u0639\u0645\u06cc\u0642\u06cc \u062f\u0631\u0628\u0627\u0631\u0647 \u0646\u062d\u0648\u0647 \u06a9\u0627\u0631\u06a9\u0631\u062f \u062f\u0627\u062e\u0644\u06cc \u0648 \u06a9\u0627\u0631\u0627\u06cc\u06cc PLM\u0647\u0627 \u0627\u0631\u0627\u0626\u0647 \u0645\u06cc\u200c\u062f\u0647\u062f.<\/p>\n<p>\u067e\u06cc\u0627\u0645\u062f\u0647\u0627\u06cc \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u06af\u0633\u062a\u0631\u062f\u0647 \u0648 \u062d\u0627\u0626\u0632 \u0627\u0647\u0645\u06cc\u062a \u0627\u0633\u062a. \u0627\u0632 \u06cc\u06a9 \u0633\u0648\u060c \u0628\u0647 <span class=\"highlight\">\u0627\u0641\u0632\u0627\u06cc\u0634 \u062a\u0641\u0633\u06cc\u0631\u067e\u0630\u06cc\u0631\u06cc<\/span> \u0645\u062f\u0644\u200c\u0647\u0627 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0648 \u0628\u0647 \u0645\u0627 \u0627\u0645\u06a9\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u0628\u0627 \u0627\u0637\u0645\u06cc\u0646\u0627\u0646 \u0628\u06cc\u0634\u062a\u0631\u06cc \u0628\u0647 \u062f\u0631\u06a9 \u0622\u0646\u200c\u0647\u0627 \u0627\u0632 \u06a9\u062f \u0627\u0639\u062a\u0645\u0627\u062f \u06a9\u0646\u06cc\u0645. \u0627\u0632 \u0633\u0648\u06cc \u062f\u06cc\u06af\u0631\u060c \u0627\u06cc\u0646 \u06cc\u0627\u0641\u062a\u0647\u200c\u0647\u0627 \u0645\u0633\u06cc\u0631 \u0631\u0627 \u0628\u0631\u0627\u06cc <span class=\"highlight\">\u0637\u0631\u0627\u062d\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u06a9\u0627\u0631\u0622\u0645\u062f\u062a\u0631 \u0648 \u0642\u0648\u06cc\u200c\u062a\u0631<\/span> \u062f\u0631 \u0622\u06cc\u0646\u062f\u0647 \u0647\u0645\u0648\u0627\u0631 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u06a9\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0647 \u0637\u0648\u0631 \u0635\u0631\u06cc\u062d \u0627\u0632 \u062f\u0627\u0646\u0634 \u0646\u062d\u0648\u06cc \u0628\u0631\u0627\u06cc \u0627\u0646\u062c\u0627\u0645 \u0648\u0638\u0627\u06cc\u0641 \u0645\u0647\u0646\u062f\u0633\u06cc \u0646\u0631\u0645\u200c\u0627\u0641\u0632\u0627\u0631 (\u0645\u0627\u0646\u0646\u062f \u062a\u0648\u0644\u06cc\u062f\u060c \u062a\u06a9\u0645\u06cc\u0644\u060c \u0631\u0641\u0639 \u0627\u0634\u06a9\u0627\u0644 \u0648 \u0628\u0627\u0632\u0622\u0631\u0627\u06cc\u06cc \u06a9\u062f) \u0628\u0647\u0631\u0647\u200c\u0628\u0631\u062f\u0627\u0631\u06cc \u06a9\u0646\u0646\u062f.<\/p>\n<p>\u062f\u0631 \u0646\u0647\u0627\u06cc\u062a\u060c AST-Probe \u0646\u0647 \u062a\u0646\u0647\u0627 \u06cc\u06a9 \u062f\u0633\u062a\u0627\u0648\u0631\u062f \u062a\u062d\u0642\u06cc\u0642\u0627\u062a\u06cc \u0628\u0631\u062c\u0633\u062a\u0647 \u0627\u0633\u062a\u060c \u0628\u0644\u06a9\u0647 \u0627\u0628\u0632\u0627\u0631\u06cc \u0642\u062f\u0631\u062a\u0645\u0646\u062f \u0628\u0631\u0627\u06cc \u06a9\u0627\u0648\u0634 \u0639\u0645\u06cc\u0642\u200c\u062a\u0631 \u062f\u0631 \u0642\u0627\u0628\u0644\u06cc\u062a\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc \u0648 \u06af\u0627\u0645\u06cc \u0627\u0633\u0627\u0633\u06cc \u0628\u0647 \u0633\u0648\u06cc \u062a\u0648\u0633\u0639\u0647 <span class=\"highlight\">\u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u06a9\u062f \u0647\u0648\u0634\u0645\u0646\u062f<\/span> \u0648 <span class=\"highlight\">\u0633\u06cc\u0633\u062a\u0645\u200c\u0647\u0627\u06cc \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc \u0642\u0627\u0628\u0644 \u0627\u0639\u062a\u0645\u0627\u062f\u062a\u0631<\/span> \u062f\u0631 \u062d\u0648\u0632\u0647 \u0628\u0631\u0646\u0627\u0645\u0647\u200c\u0646\u0648\u06cc\u0633\u06cc \u0645\u062d\u0633\u0648\u0628 \u0645\u06cc\u200c\u0634\u0648\u062f. \u0627\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642 \u0645\u0627 \u0631\u0627 \u0628\u0647 \u0622\u06cc\u0646\u062f\u0647\u200c\u0627\u06cc \u0646\u0632\u062f\u06cc\u06a9\u200c\u062a\u0631 \u0645\u06cc\u200c\u06a9\u0646\u062f \u06a9\u0647 \u062f\u0631 \u0622\u0646 \u0645\u0627\u0634\u06cc\u0646\u200c\u0647\u0627 \u0646\u0647 \u062a\u0646\u0647\u0627 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u06a9\u062f \u0631\u0627 \u0628\u062e\u0648\u0627\u0646\u0646\u062f \u0648 \u0628\u0646\u0648\u06cc\u0633\u0646\u062f\u060c \u0628\u0644\u06a9\u0647 \u0633\u0627\u062e\u062a\u0627\u0631 \u0648 \u0645\u0646\u0637\u0642 \u0622\u0646 \u0631\u0627 \u0646\u06cc\u0632 \u0628\u0647 \u062f\u0631\u0633\u062a\u06cc \u062f\u0631\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/p>\n<\/p><\/div>\n<\/article>\n","protected":false},"excerpt":{"rendered":"<p>\ud83d\udcda \u0645\u0642\u0627\u0644\u0647 \u0639\u0644\u0645\u06cc \u0639\u0646\u0648\u0627\u0646 \u0641\u0627\u0631\u0633\u06cc \u0645\u0642\u0627\u0644\u0647 AST-Probe: \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u062f\u0631\u062e\u062a \u0646\u062d\u0648\u06cc \u0627\u0646\u062a\u0632\u0627\u0639\u06cc \u0627\u0632 \u0646\u0645\u0627\u06cc\u0634\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0627\u0632 \u067e\u06cc\u0634 \u0622\u0645\u0648\u0632\u0634\u200c\u062f\u06cc\u062f\u0647 \u0646\u0648\u06cc\u0633\u0646\u062f\u06af\u0627\u0646 [&hellip;]<\/p>\n","protected":false},"featured_media":208799,"comment_status":"open","ping_status":"closed","template":"","meta":{"pmpro_default_level":"","site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-gradient":""}}},"product_brand":[],"product_cat":[137319,137318],"product_tag":[170791,107,187362,199028,199030,183882,142505,199027,199029,143520,19,1675,142725,139621,333,142795,142790,199024,1671,199025,199023,199026,176480,183876,1894,187262,164887,261,138216,267],"class_list":["post-228259","product","type-product","status-publish","has-post-thumbnail","product_cat-arxiv","product_cat-137318","product_tag-abstract-syntax-tree","product_tag-artificial-intelligence","product_tag-ast","product_tag-ast-recovery","product_tag-ast-probe","product_tag-code-modeling","product_tag-contextual-representation","product_tag-hidden-representation","product_tag-hidden-vector-space","product_tag-linguistic-properties","product_tag-machine-learning","product_tag-natural-language-processing","product_tag-pre-trained-language-model","product_tag-probing","product_tag-software-engineering","product_tag-textual-representation","product_tag-142790","product_tag-199024","product_tag-1671","product_tag-199025","product_tag-199023","product_tag-199026","product_tag-176480","product_tag-183876","product_tag-1894","product_tag-187262","product_tag-164887","product_tag-261","product_tag-138216","product_tag-267","pmpro-has-access","desktop-align-left","tablet-align-left","mobile-align-left","first","instock","downloadable","virtual","purchasable","product-type-simple"],"_links":{"self":[{"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/product\/228259","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/product"}],"about":[{"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/types\/product"}],"replies":[{"embeddable":true,"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/comments?post=228259"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/media\/208799"}],"wp:attachment":[{"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/media?parent=228259"}],"wp:term":[{"taxonomy":"product_brand","embeddable":true,"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/product_brand?post=228259"},{"taxonomy":"product_cat","embeddable":true,"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/product_cat?post=228259"},{"taxonomy":"product_tag","embeddable":true,"href":"https:\/\/express24.ir\/d\/wp-json\/wp\/v2\/product_tag?post=228259"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}