{"id":14741,"date":"2024-08-31T17:18:41","date_gmt":"2024-08-31T12:48:41","guid":{"rendered":"https:\/\/cafetadris.com\/blog\/?p=14741"},"modified":"2024-08-31T17:18:42","modified_gmt":"2024-08-31T12:48:42","slug":"bert-%d9%88-%d9%86%d8%b3%d9%84%d9%87%d8%a7%db%8c-%d8%a8%d8%b9%d8%af%db%8c-%d9%85%d8%af%d9%84%d9%87%d8%a7%db%8c-%d8%b2%d8%a8%d8%a7%d9%86%db%8c-%d8%af%d8%b1-%d9%87%d9%88%d8%b4","status":"publish","type":"post","link":"https:\/\/cafetadris.com\/blog\/bert-%d9%88-%d9%86%d8%b3%d9%84%d9%87%d8%a7%db%8c-%d8%a8%d8%b9%d8%af%db%8c-%d9%85%d8%af%d9%84%d9%87%d8%a7%db%8c-%d8%b2%d8%a8%d8%a7%d9%86%db%8c-%d8%af%d8%b1-%d9%87%d9%88%d8%b4\/","title":{"rendered":"\u00a0BERT \u0648 \u0646\u0633\u0644\u200c\u0647\u0627\u06cc \u0628\u0639\u062f\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u062f\u0631 \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc"},"content":{"rendered":"\n

\u062f\u0631 \u062f\u0646\u06cc\u0627\u06cc \u067e\u0631\u0634\u062a\u0627\u0628 \u062a\u06a9\u0646\u0648\u0644\u0648\u0698\u06cc \u0648 \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc\u060c \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u0632\u0628\u0627\u0646\u06cc \u0646\u0642\u0634 \u0645\u062d\u0648\u0631\u06cc \u0627\u06cc\u0641\u0627 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. \u06cc\u06a9\u06cc \u0627\u0632 \u067e\u06cc\u0634\u0631\u0641\u062a\u0647\u200c\u062a\u0631\u06cc\u0646 \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627\u060c BERT <\/a>(Bidirectional Encoder Representations from Transformers) \u0627\u0633\u062a \u06a9\u0647 \u062a\u0648\u0633\u0637 \u06af\u0648\u06af\u0644 \u0645\u0639\u0631\u0641\u06cc \u0634\u062f\u0647 \u0648 \u0627\u0646\u0642\u0644\u0627\u0628\u06cc \u062f\u0631 \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646 \u0637\u0628\u06cc\u0639\u06cc \u0627\u06cc\u062c\u0627\u062f \u06a9\u0631\u062f\u0647 \u0627\u0633\u062a.<\/p>\n\n\n\n

BERT \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062a\u06a9\u0646\u06cc\u06a9\u200c\u0647\u0627\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647 \u0645\u0627\u0646\u0646\u062f Transformer\u060c \u062a\u0648\u0627\u0646\u0633\u062a\u0647 \u0627\u0633\u062a \u062a\u0627 \u062f\u0642\u062a \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0645\u0628\u062a\u0646\u06cc \u0628\u0631 \u0645\u062a\u0646 \u0631\u0627 \u0628\u0647 \u0637\u0631\u0632 \u0686\u0634\u0645\u06af\u06cc\u0631\u06cc \u0628\u0647\u0628\u0648\u062f \u0628\u0628\u062e\u0634\u062f. \u0627\u0647\u0645\u06cc\u062a BERT \u0628\u0647 \u062d\u062f\u06cc \u0627\u0633\u062a \u06a9\u0647 \u062a\u0648\u0633\u0639\u0647\u200c\u062f\u0647\u0646\u062f\u06af\u0627\u0646 \u0648 \u067e\u0698\u0648\u0647\u0634\u06af\u0631\u0627\u0646\u060c \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u06cc \u0631\u0627 \u0628\u0631 \u067e\u0627\u06cc\u0647 \u0622\u0646 \u0627\u06cc\u062c\u0627\u062f \u06a9\u0631\u062f\u0647\u200c\u0627\u0646\u062f \u062a\u0627 \u0628\u0647 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0648 \u062a\u062e\u0635\u0635\u06cc\u200c\u0633\u0627\u0632\u06cc \u0628\u06cc\u0634\u062a\u0631\u06cc \u062f\u0631 \u0632\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062a\u0641\u0627\u0648\u062a \u0628\u0631\u0633\u0646\u062f.<\/p>\n\n\n\n

 \u062a\u0627\u0631\u06cc\u062e\u0686\u0647 \u0648 \u062a\u0648\u0633\u0639\u0647 BERT<\/h2>\n\n\n\n

\u0645\u0639\u0631\u0641\u06cc BERT \u062f\u0631 \u0633\u0627\u0644 \u06f2\u06f0\u06f1\u06f8\u060c \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u06cc\u06a9 \u06af\u0627\u0645 \u0628\u0632\u0631\u06af \u062f\u0631 \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646 \u0637\u0628\u06cc\u0639\u06cc \u0628\u0648\u062f. \u0627\u06cc\u0646 \u0645\u062f\u0644 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0645\u0639\u0645\u0627\u0631\u06cc Transformer\u060c \u06a9\u0647 \u0628\u0647 \u0637\u0648\u0631 \u062e\u0627\u0635 \u0628\u0631\u0627\u06cc \u062a\u062d\u0644\u06cc\u0644 \u0645\u062a\u0648\u0646 \u0637\u0631\u0627\u062d\u06cc \u0634\u062f\u0647 \u0628\u0648\u062f\u060c \u062a\u0648\u0627\u0646\u0633\u062a \u0646\u062d\u0648\u0647 \u062f\u0631\u06a9 \u0645\u0627 \u0627\u0632 \u0645\u062a\u0648\u0646 \u0631\u0627 \u062f\u06af\u0631\u06af\u0648\u0646 \u0633\u0627\u0632\u062f. \u0646\u0648\u0622\u0648\u0631\u06cc\u200c\u0647\u0627\u06cc \u0627\u0635\u0644\u06cc \u0627\u06cc\u0646 \u0645\u062f\u0644 \u0634\u0627\u0645\u0644 \u067e\u0631\u062f\u0627\u0632\u0634 \u062f\u0648\u0633\u0648\u06cc\u0647 \u0645\u062a\u0646 (\u0628\u0647 \u062c\u0627\u06cc \u06cc\u06a9\u200c\u0633\u0648\u06cc\u0647) \u0648 \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc \u062f\u0631\u06a9 \u0645\u0641\u0627\u0647\u06cc\u0645 \u067e\u06cc\u0686\u06cc\u062f\u0647\u200c\u062a\u0631 \u0648 \u0632\u0645\u06cc\u0646\u0647\u200c\u0627\u06cc \u0628\u0648\u062f. \u0627\u06cc\u0646 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627 \u0628\u0647 BERT \u0627\u062c\u0627\u0632\u0647 \u062f\u0627\u062f \u062a\u0627 \u062f\u0631 \u0648\u0638\u0627\u06cc\u0641 \u0645\u062e\u062a\u0644\u0641\u06cc \u0645\u0627\u0646\u0646\u062f \u062a\u0631\u062c\u0645\u0647\u060c \u062e\u0644\u0627\u0635\u0647\u200c\u0633\u0627\u0632\u06cc \u0648 \u062a\u0634\u062e\u06cc\u0635 \u0646\u0627\u0645\u200c\u0647\u0627 \u0628\u0633\u06cc\u0627\u0631 \u0645\u0648\u0641\u0642 \u0639\u0645\u0644 \u06a9\u0646\u062f.<\/p>\n\n\n\n

\u0647\u0645\u0686\u0646\u06cc\u0646 \u0628\u062e\u0648\u0627\u0646\u06cc\u062f: \u0634\u0628\u06a9\u0647 BERT \u0686\u06cc\u0633\u062a \u0648 \u062f\u0631 \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646\u200c\u0647\u0627\u06cc \u0637\u0628\u06cc\u0639\u06cc (NLP) \u0686\u0647 \u0646\u0642\u0634\u06cc \u062f\u0627\u0631\u062f\u061f<\/mark><\/a><\/p>\n\n\n\n

 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0628\u0631 \u067e\u0627\u06cc\u0647 BERT<\/h2>\n\n\n\n

\u062f\u0631 \u0627\u06cc\u0646 \u0628\u062e\u0634\u060c \u062f\u0647 \u0645\u062f\u0644 \u0645\u062e\u062a\u0644\u0641 \u06a9\u0647 \u0627\u0632 BERT \u06af\u0631\u0641\u062a\u0647 \u0634\u062f\u0647\u200c\u0627\u0646\u062f \u0631\u0627 \u0645\u0639\u0631\u0641\u06cc \u0645\u06cc\u200c\u06a9\u0646\u06cc\u0645. \u0647\u0631 \u06a9\u062f\u0627\u0645 \u0627\u0632 \u0627\u06cc\u0646 \u0645\u062f\u0644\u200c\u0647\u0627 \u062f\u0631 \u0632\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u062e\u0627\u0635\u06cc \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0634\u062f\u0647\u200c\u0627\u0646\u062f \u062a\u0627 \u0646\u06cc\u0627\u0632\u0647\u0627\u06cc \u0645\u062a\u0641\u0627\u0648\u062a\u06cc \u0631\u0627 \u067e\u0648\u0634\u0634 \u062f\u0647\u0646\u062f. \u0627\u0632 RoBERTa \u06a9\u0647 \u0628\u0627 \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a\u06cc \u062f\u0631 \u062a\u0646\u0638\u06cc\u0645\u0627\u062a \u067e\u06cc\u0634\u200c\u0622\u0645\u0648\u0632\u0634 \u0628\u0647\u0628\u0648\u062f \u06cc\u0627\u0641\u062a\u0647\u060c \u062a\u0627 ALBERT \u06a9\u0647 \u0628\u0627 \u06a9\u0627\u0647\u0634 \u062d\u062c\u0645 \u0645\u062f\u0644 \u0628\u0647 \u0627\u0641\u0632\u0627\u06cc\u0634 \u0633\u0631\u0639\u062a \u0648 \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0645\u06cc\u200c\u067e\u0631\u062f\u0627\u0632\u062f. \u0647\u0631 \u0645\u062f\u0644 \u0628\u0627 \u062a\u0648\u062c\u0647 \u0628\u0647 \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u062e\u0627\u0635 \u062e\u0648\u062f\u060c \u06a9\u0627\u0631\u0628\u0631\u062f\u0647\u0627 \u0648 \u0645\u0632\u0627\u06cc\u0627\u06cc \u0645\u0646\u062d\u0635\u0631 \u0628\u0647 \u0641\u0631\u062f\u06cc \u062f\u0627\u0631\u062f.<\/p>\n\n\n\n

 RoBERTa<\/h3>\n\n\n\n

RoBERTa  \u06cc\u0627 Robustly Optimized BERT Approach \u0628\u0627 \u062d\u0630\u0641 \u0645\u0631\u062d\u0644\u0647 Next Sentence Prediction (NSP) \u0648 \u0627\u0641\u0632\u0627\u06cc\u0634 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0648 \u0637\u0648\u0644 \u0622\u0645\u0648\u0632\u0634\u060c \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc\u200c\u0647\u0627\u06cc BERT \u0631\u0627 \u0628\u0647\u0628\u0648\u062f \u0628\u062e\u0634\u06cc\u062f\u0647 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0628\u0647 RoBERTa \u0627\u062c\u0627\u0632\u0647 \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f \u062a\u0627 \u062f\u0631 \u0641\u0647\u0645 \u0645\u062a\u0648\u0646 \u0648 \u062f\u0631\u06a9 \u0632\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647\u200c\u062a\u0631 \u0628\u0647\u062a\u0631 \u0639\u0645\u0644 \u06a9\u0646\u062f\u060c \u06a9\u0647 \u0627\u06cc\u0646 \u0627\u0645\u0631 \u0628\u0647 \u0628\u0647\u0628\u0648\u062f \u0642\u0627\u0628\u0644\u06cc\u062a\u200c\u0647\u0627\u06cc \u062a\u0631\u062c\u0645\u0647 \u0648 \u062a\u062d\u0644\u06cc\u0644 \u0627\u062d\u0633\u0627\u0633\u0627\u062a \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f.<\/p>\n\n\n

\n
\"\"<\/figure><\/div>\n\n\n

\u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0628\u06cc\u0634\u062a\u0631<\/h4>\n\n\n\n

\u0647\u0645\u0627\u0646\u0637\u0648\u0631 \u06a9\u0647 \u06af\u0641\u062a\u0647 \u0634\u062f\u060c \u06cc\u06a9\u06cc \u0627\u0632 \u062a\u0641\u0627\u0648\u062a\u200c\u0647\u0627\u06cc \u06a9\u0644\u06cc\u062f\u06cc \u0628\u06cc\u0646 RoBERTa \u0648 BERT \u062f\u0631 \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 RoBERTa \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062f\u06cc\u062a\u0627\u0633\u062a \u0628\u0633\u06cc\u0627\u0631 \u0628\u0632\u0631\u06af\u062a\u0631\u06cc \u0622\u0645\u0648\u0632\u0634 \u0645\u06cc\u200c\u0628\u06cc\u0646\u062f\u060c \u06a9\u0647 \u0634\u0627\u0645\u0644 \u0628\u06cc\u0634 \u0627\u0632 \u06f1\u06f6\u06f0 \u06af\u06cc\u06af\u0627\u0628\u0627\u06cc\u062a \u062f\u0627\u062f\u0647 \u0645\u062a\u0646\u06cc \u0627\u0633\u062a\u060c \u062f\u0631 \u062d\u0627\u0644\u06cc \u06a9\u0647 BERT \u0627\u0628\u062a\u062f\u0627 \u0628\u0627 \u062d\u062f\u0648\u062f \u06f1\u06f6 \u06af\u06cc\u06af\u0627\u0628\u0627\u06cc\u062a \u062f\u0627\u062f\u0647 \u0645\u062a\u0646\u06cc \u0622\u0645\u0648\u0632\u0634 \u062f\u06cc\u062f\u0647 \u0628\u0648\u062f. \u0627\u06cc\u0646 \u0627\u0645\u0631 \u0628\u0647 \u0645\u062f\u0644 \u0627\u062c\u0627\u0632\u0647 \u0645\u06cc\u200c\u062f\u0647\u062f \u062a\u0627 \u0627\u0632 \u0645\u0646\u0627\u0628\u0639 \u0645\u062e\u062a\u0644\u0641 \u06cc\u0627\u062f \u0628\u06af\u06cc\u0631\u062f \u0648 \u0638\u0631\u0627\u0641\u062a\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0631\u0627 \u0628\u0647\u062a\u0631 \u062f\u0631\u06a9 \u06a9\u0646\u062f.<\/p>\n\n\n\n

\u0645\u0627\u0633\u06a9\u200c\u0632\u0646\u06cc \u067e\u0648\u06cc\u0627<\/h4>\n\n\n\n

\u062a\u0641\u0627\u0648\u062a \u06a9\u0644\u06cc\u062f\u06cc \u062f\u06cc\u06af\u0631 \u062f\u0631 \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0631\u0648\u0628\u0631\u062a\u0627 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062a\u06a9\u0646\u06cc\u06a9\u06cc \u0628\u0647 \u0646\u0627\u0645 \u0645\u0627\u0633\u06a9\u200c\u0632\u0646\u06cc \u067e\u0648\u06cc\u0627 (Dynamic masking) \u0622\u0645\u0648\u0632\u0634 \u0645\u06cc\u200c\u0628\u06cc\u0646\u062f\u060c \u06a9\u0647 \u0634\u0627\u0645\u0644 \u067e\u0646\u0647\u0627\u0646 \u06a9\u0631\u062f\u0646 \u062a\u0635\u0627\u062f\u0641\u06cc \u0646\u0634\u0627\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641 (\u0645\u062b\u0644\u0627\u064b \u06a9\u0644\u0645\u0627\u062a \u06cc\u0627 \u0639\u0644\u0627\u0626\u0645 \u0646\u06af\u0627\u0631\u0634\u06cc) \u062f\u0631 \u0645\u062a\u0646 \u0648\u0631\u0648\u062f\u06cc \u0647\u0646\u06af\u0627\u0645 \u0622\u0645\u0648\u0632\u0634 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u062a\u0627 \u0645\u062f\u0644 \u0631\u0648\u0627\u0628\u0637 \u0628\u06cc\u0646 \u0646\u0634\u0627\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641 \u062f\u0631 \u06cc\u06a9 \u062c\u0645\u0644\u0647 \u0631\u0627 \u0628\u0647\u062a\u0631 \u062f\u0631\u06a9 \u06a9\u0646\u062f \u0648 \u0639\u0645\u0644\u06a9\u0631\u062f \u062e\u0648\u062f \u0631\u0627 \u062f\u0631 \u0648\u0638\u0627\u06cc\u0641 \u0645\u062e\u062a\u0644\u0641 \u0628\u0647\u0628\u0648\u062f \u0628\u062e\u0634\u062f.<\/p>\n\n\n

\n
\"\"<\/figure><\/div>\n\n\n

\u0628\u0631\u0627\u06cc \u0645\u062b\u0627\u0644\u060c \u0628\u06cc\u0627\u06cc\u06cc\u062f \u062c\u0645\u0644\u0647 \u0632\u06cc\u0631 \u0631\u0627 \u062f\u0631 \u0646\u0638\u0631 \u0628\u06af\u06cc\u0631\u06cc\u062f:<\/p>\n\n\n\n

\u0645\u0646 \u0627\u0645\u0631\u0648\u0632 \u0633\u0641\u0631 \u0645\u06cc\u200c\u06a9\u0646\u0645.<\/p>\n\n\n\n

\u062d\u0627\u0644 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u0645 \u0646\u0633\u062e\u0647\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u06cc \u0627\u0632 \u0647\u0645\u0627\u0646 \u062c\u0645\u0644\u0647 \u0631\u0627 \u0628\u0627mask  \u06a9\u0631\u062f\u0646 \u06a9\u0644\u0645\u0627\u062a \u062a\u0635\u0627\u062f\u0641\u06cc \u062f\u0631 \u062c\u0645\u0644\u0647 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u06a9\u0646\u06cc\u0645:<\/p>\n\n\n\n

[mask] \u0627\u0645\u0631\u0648\u0632 \u0633\u0641\u0631 \u0645\u06cc\u200c\u06a9\u0646\u0645.<\/p>\n\n\n\n

\u0645\u0646 [mask] \u0633\u0641\u0631 [mask].<\/p>\n\n\n\n

[mask] \u0627\u0645 [mask] \u0633\u0641\u0631 \u0645\u06cc\u200c\u06a9\u0646\u0645.<\/p>\n\n\n\n

\u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u062c\u0645\u0644\u0647 \u0628\u0639\u062f\u06cc<\/h4>\n\n\n\n

\u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u062c\u0645\u0644\u0647 \u0628\u0639\u062f\u06cc (Next Sentence Prediction) \u06cc\u06a9 \u0648\u0638\u06cc\u0641\u0647 \u062f\u0631 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0632\u0628\u0627\u0646\u06cc \u0645\u0627\u0646\u0646\u062f BERT \u0627\u0633\u062a \u06a9\u0647 \u062f\u0631 \u0622\u0646 \u0645\u062f\u0644 \u0633\u0639\u06cc \u0645\u06cc\u200c\u06a9\u0646\u062f \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u06a9\u0646\u062f \u06a9\u0647 \u0622\u06cc\u0627 \u06cc\u06a9 \u062c\u0645\u0644\u0647 \u0628\u0647 \u0637\u0648\u0631 \u0637\u0628\u06cc\u0639\u06cc \u067e\u0633 \u0627\u0632 \u062c\u0645\u0644\u0647 \u062f\u06cc\u06af\u0631\u06cc \u0645\u06cc\u200c\u0622\u06cc\u062f \u06cc\u0627 \u062e\u06cc\u0631.<\/p>\n\n\n\n

\u0627\u06cc\u0646 \u06a9\u0627\u0631 \u062f\u0631 \u0637\u0648\u0644 \u067e\u06cc\u0634\u200c\u0622\u0645\u0648\u0632\u0634 \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u0634\u0648\u062f\u060c \u062c\u0627\u06cc\u06cc \u06a9\u0647 \u0645\u062f\u0644 \u06cc\u0627\u062f \u0645\u06cc\u200c\u06af\u06cc\u0631\u062f \u062a\u0627 \u0631\u0627\u0628\u0637\u0647 \u0628\u06cc\u0646 \u062f\u0648 \u062c\u0645\u0644\u0647 \u0631\u0627 \u062f\u0631\u06a9 \u06a9\u0646\u062f. \u0627\u06cc\u062f\u0647 \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0628\u0627 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0627\u06cc\u0646\u06a9\u0647 \u0622\u06cc\u0627 \u062c\u0645\u0644\u0627\u062a \u0645\u0631\u062a\u0628\u0637 \u0647\u0633\u062a\u0646\u062f \u06cc\u0627 \u0646\u0647\u060c \u0645\u062f\u0644 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u062f\u0631 \u0648\u0638\u0627\u06cc\u0641\u06cc \u06a9\u0647 \u0646\u06cc\u0627\u0632 \u0628\u0647 \u062f\u0631\u06a9 \u0645\u062d\u062a\u0648\u0627 \u0648 \u062a\u0648\u0627\u0644\u06cc \u0627\u06cc\u062f\u0647\u200c\u0647\u0627 \u062f\u0627\u0631\u0646\u062f\u060c \u0628\u0647\u062a\u0631 \u0639\u0645\u0644 \u06a9\u0646\u062f. \u067e\u0698\u0648\u0647\u0634\u06af\u0631\u0627\u0646 \u0645\u062f\u0644 RoBERTa \u062d\u06cc\u0646 \u062a\u062d\u0642\u06cc\u0642\u0627\u062a \u062e\u0648\u062f \u0628\u0647 \u0646\u062a\u0627\u06cc\u062c \u0632\u06cc\u0631 \u062f\u0633\u062a \u06cc\u0627\u0641\u062a\u0646\u062f:<\/p>\n\n\n\n