{"id":14296,"date":"2024-04-25T19:57:10","date_gmt":"2024-04-25T15:27:10","guid":{"rendered":"https:\/\/cafetadris.com\/blog\/?p=14296"},"modified":"2024-06-22T13:27:42","modified_gmt":"2024-06-22T08:57:42","slug":"%d8%b9%d9%85%d9%84%da%a9%d8%b1%d8%af-%d8%a8%d9%87%db%8c%d9%86%d9%87-%d8%b3%d8%a7%d8%b2%d9%87%d8%a7-%d8%af%d8%b1-%db%8c%d8%a7%d8%af%da%af%db%8c%d8%b1%db%8c-%d8%b9%d9%85%db%8c%d9%82","status":"publish","type":"post","link":"https:\/\/cafetadris.com\/blog\/%d8%b9%d9%85%d9%84%da%a9%d8%b1%d8%af-%d8%a8%d9%87%db%8c%d9%86%d9%87-%d8%b3%d8%a7%d8%b2%d9%87%d8%a7-%d8%af%d8%b1-%db%8c%d8%a7%d8%af%da%af%db%8c%d8%b1%db%8c-%d8%b9%d9%85%db%8c%d9%82\/","title":{"rendered":"\u0639\u0645\u0644\u06a9\u0631\u062f \u0628\u0647\u06cc\u0646\u0647 \u0633\u0627\u0632\u0647\u0627 \u062f\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0686\u06af\u0648\u0646\u0647 \u0627\u0633\u062a \u0648 \u06a9\u062f\u0627\u0645\u200c\u06cc\u06a9 \u0628\u0631\u0627\u06cc \u0645\u062f\u0644 \u0634\u0645\u0627 \u0628\u0647\u062a\u0631 \u0627\u0633\u062a\u061f"},"content":{"rendered":"\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u06cc\u0627 <a rel=\"noreferrer noopener\" href=\"https:\/\/towardsdatascience.com\/optimizers-for-training-neural-network-59450d71caf6#:~:text=Optimizers%20are%20algorithms%20or%20methods,order%20to%20reduce%20the%20losses.&amp;text=How%20you%20should%20change%20your,by%20the%20optimizers%20you%20use.\" data-type=\"URL\" data-id=\"https:\/\/towardsdatascience.com\/optimizers-for-training-neural-network-59450d71caf6#:~:text=Optimizers%20are%20algorithms%20or%20methods,order%20to%20reduce%20the%20losses.&amp;text=How%20you%20should%20change%20your,by%20the%20optimizers%20you%20use.\" target=\"_blank\">Optimizer<\/a> \u0646\u0642\u0634 \u0645\u062d\u0648\u0631\u06cc \u062f\u0631 \u062a\u0648\u0633\u0639\u0647 \u0648 \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0627\u06cc\u0641\u0627 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u0642\u062f\u0631\u062a\u0645\u0646\u062f \u06a9\u0647 \u0628\u0627 \u0627\u0644\u0647\u0627\u0645 \u0627\u0632 \u0645\u06a9\u0627\u0646\u06cc\u0632\u0645\u200c\u0647\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u063a\u0632 \u0627\u0646\u0633\u0627\u0646 \u0637\u0631\u0627\u062d\u06cc \u0634\u062f\u0647\u200c\u0627\u0646\u062f \u0628\u0647 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0627\u0634\u06cc\u0646\u06cc \u0627\u062c\u0627\u0632\u0647 \u0645\u06cc\u200c\u062f\u0647\u0646\u062f \u062a\u0627 \u0628\u0627 \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0628\u06cc\u0634\u062a\u0631 \u0648 \u0633\u0631\u0639\u062a \u0628\u0627\u0644\u0627\u062a\u0631 \u0628\u0647 \u0627\u0647\u062f\u0627\u0641 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062e\u0648\u062f \u0628\u0631\u0633\u0646\u062f. \u0627\u0632 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646 \u0646\u0632\u0648\u0644\u06cc \u062a\u0635\u0627\u062f\u0641\u06cc (SGD) \u06af\u0631\u0641\u062a\u0647 \u062a\u0627 Adam \u0648 RMSprop\u060c \u0647\u0631 \u06cc\u06a9 \u0627\u0632 \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u0627\u0633\u062a\u0631\u0627\u062a\u0698\u06cc\u200c\u0647\u0627\u06cc \u062e\u0627\u0635 \u062e\u0648\u062f \u0631\u0627 \u0628\u0631\u0627\u06cc \u0646\u0648\u0622\u0648\u0631\u06cc \u0648 \u062a\u0637\u0628\u06cc\u0642 \u0628\u0627 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0645\u062a\u063a\u06cc\u0631 \u0628\u0647 \u06a9\u0627\u0631 \u0645\u06cc\u200c\u0628\u0631\u0646\u062f. \u062f\u0631 \u0627\u06cc\u0646 \u0645\u0637\u0644\u0628 \u0628\u0647\u200c\u0634\u06a9\u0644\u06cc \u062f\u0642\u06cc\u0642\u200c\u060c \u0628\u0647 \u0639\u0645\u0644\u06a9\u0631\u062f \u0628\u0647\u06cc\u0646\u0647 \u0633\u0627\u0632\u0647\u0627 \u062f\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0648 \u0637\u0631\u0632 \u0639\u0645\u0644 \u0622\u0646\u200c\u0647\u0627 \u062f\u0631 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0648 \u062a\u0623\u062b\u06cc\u0631\u0634\u0627\u0646 \u0628\u0631 \u0622\u0646\u200c\u0647\u0627 \u0646\u06af\u0627\u0647 \u0645\u06cc\u200c\u06a9\u0646\u06cc\u0645\u060c \u0622\u0646\u200c\u0647\u0627 \u0631\u0627 \u062a\u062d\u0644\u06cc\u0644 \u0645\u06cc\u200c\u06a9\u0646\u06cc\u0645 \u0648 \u0686\u06af\u0648\u0646\u06af\u06cc \u0628\u0647\u0628\u0648\u062f \u0639\u0645\u0644\u06a9\u0631\u062f \u0645\u062f\u0644\u200c\u0647\u0627 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0627\u06cc\u0646 \u0627\u0628\u0632\u0627\u0631\u0647\u0627 \u0631\u0627 \u0628\u0631\u0631\u0633\u06cc \u0645\u06cc\u200c\u06a9\u0646\u06cc\u0645.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u0645\u0642\u062f\u0645\u0647\u200c\u0627\u06cc \u0628\u0631 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc<\/h2>\n\n\n\n<p>\u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc\u060c \u0628\u0647\u200c\u0639\u0646\u0648\u0627\u0646 \u0628\u062e\u0634\u06cc \u0627\u0633\u0627\u0633\u06cc \u0627\u0632 \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc\u060c \u0646\u0642\u0634 \u067e\u0631\u0631\u0646\u06af\u06cc \u062f\u0631 \u0641\u0646\u0627\u0648\u0631\u06cc \u0645\u062f\u0631\u0646 \u0627\u06cc\u0641\u0627 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u0633\u06cc\u0633\u062a\u0645\u200c\u0647\u0627 \u06a9\u0647 \u0627\u0632 \u0633\u0627\u062e\u062a\u0627\u0631 \u0639\u0635\u0628\u06cc \u0645\u063a\u0632 \u0627\u0646\u0633\u0627\u0646 \u0627\u0644\u0647\u0627\u0645 \u06af\u0631\u0641\u062a\u0647\u200c\u0627\u0646\u062f \u0642\u0627\u062f\u0631\u0646\u062f \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc\u060c \u062a\u0637\u0627\u0628\u0642 \u0648 \u067e\u0631\u062f\u0627\u0632\u0634 \u0627\u0637\u0644\u0627\u0639\u0627\u062a \u067e\u06cc\u0686\u06cc\u062f\u0647 \u0631\u0627 \u0628\u0647\u200c\u0628\u0647\u062a\u0631\u06cc\u0646 \u0634\u06a9\u0644 \u0645\u0645\u06a9\u0646 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u0646\u062f. <\/p>\n\n\n\n<p>\u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627 \u0645\u062c\u0645\u0648\u0639\u0647\u200c\u0627\u06cc \u0627\u0632 \u0648\u0627\u062d\u062f\u0647\u0627\u06cc \u067e\u0631\u062f\u0627\u0632\u0634\u06cc \u06cc\u0627 \u0646\u0648\u0631\u0648\u0646\u200c\u0647\u0627 \u0631\u0627 \u062f\u0631 \u062e\u0648\u062f \u062c\u0627\u06cc \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f \u06a9\u0647 \u0628\u0647\u200c\u0635\u0648\u0631\u062a \u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641 \u0633\u0627\u0632\u0645\u0627\u0646\u200c\u062f\u0647\u06cc \u0634\u062f\u0647\u200c\u0627\u0646\u062f. \u0646\u0648\u0631\u0648\u0646\u200c\u0647\u0627 \u062f\u0631\u0648\u0646 \u0647\u0631 \u0644\u0627\u06cc\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u0646\u062f \u0628\u0627 \u0646\u0648\u0631\u0648\u0646\u200c\u0647\u0627\u06cc \u0644\u0627\u06cc\u0647 \u0628\u0639\u062f\u06cc \u0627\u0632 \u0637\u0631\u06cc\u0642 \u0627\u062a\u0635\u0627\u0644\u0627\u062a\u06cc \u06a9\u0647 \u0648\u0632\u0646 \u0646\u0627\u0645\u06cc\u062f\u0647 \u0645\u06cc\u200c\u0634\u0648\u0646\u062f \u0627\u0631\u062a\u0628\u0627\u0637 \u0628\u0631\u0642\u0631\u0627\u0631 \u06a9\u0646\u0646\u062f. <\/p>\n\n\n\n<p>\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u0627\u0635\u0644\u06cc \u0627\u06cc\u0646 \u0634\u0628\u06a9\u0647 \u0639\u0628\u0627\u0631\u062a\u200c\u0627\u0646\u062f \u0627\u0632:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u0644\u0627\u06cc\u0647 \u0648\u0631\u0648\u062f\u06cc\u200c (Input Layer): \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647 \u0646\u0642\u0637\u0647 \u0648\u0631\u0648\u062f \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0628\u0647 \u0634\u0628\u06a9\u0647 \u0627\u0633\u062a. \u0647\u0631 \u0646\u0648\u0631\u0648\u0646 \u062f\u0631 \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647 \u0646\u0645\u0627\u06cc\u0646\u062f\u0647 \u06cc\u06a9\u06cc \u0627\u0632 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0648\u0631\u0648\u062f\u06cc \u0627\u0633\u062a.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u0644\u0627\u06cc\u0647\u200c\u0647\u0627\u06cc \u067e\u0646\u0647\u0627\u0646 (Hidden Layers): \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627 \u06a9\u0647 \u0645\u06cc\u0627\u0646 \u0644\u0627\u06cc\u0647 \u0648\u0631\u0648\u062f\u06cc \u0648 \u062e\u0631\u0648\u062c\u06cc \u0642\u0631\u0627\u0631 \u06af\u0631\u0641\u062a\u0647\u200c\u0627\u0646\u062f \u0642\u0644\u0628 \u062a\u067e\u0646\u062f\u0647 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0628\u0647 \u0634\u0645\u0627\u0631 \u0645\u06cc\u200c\u0631\u0648\u0646\u062f. \u0646\u0648\u0631\u0648\u0646\u200c\u0647\u0627 \u062f\u0631 \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647\u200c\u0647\u0627 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062a\u0648\u0627\u0628\u0639 \u0641\u0639\u0627\u0644\u200c\u0633\u0627\u0632\u06cc\u060c \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0648\u0631\u0648\u062f\u06cc \u0631\u0627 \u067e\u0631\u062f\u0627\u0632\u0634 \u0648 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0645\u0639\u0646\u0627\u062f\u0627\u0631 \u0631\u0627 \u0627\u0633\u062a\u062e\u0631\u0627\u062c \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc (Output Layer): \u0644\u0627\u06cc\u0647 \u062e\u0631\u0648\u062c\u06cc \u062c\u0627\u06cc\u06cc \u0627\u0633\u062a \u06a9\u0647 \u067e\u0627\u0633\u062e \u0646\u0647\u0627\u06cc\u06cc \u0634\u0628\u06a9\u0647 \u062a\u0648\u0644\u06cc\u062f \u0645\u06cc\u200c\u0634\u0648\u062f. \u062a\u0639\u062f\u0627\u062f \u0646\u0648\u0631\u0648\u0646\u200c\u0647\u0627 \u062f\u0631 \u0627\u06cc\u0646 \u0644\u0627\u06cc\u0647 \u0628\u0633\u062a\u06af\u06cc \u0628\u0647 \u0645\u0633\u0626\u0644\u0647\u200c\u0627\u06cc \u062f\u0627\u0631\u062f \u06a9\u0647 \u0634\u0628\u06a9\u0647 \u0642\u0635\u062f \u062d\u0644 \u0622\u0646 \u0631\u0627 \u062f\u0627\u0631\u062f.<\/li>\n<\/ul>\n\n\n\n<p>\u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0627\u0632\u0637\u0631\u06cc\u0642 \u0641\u0631\u0627\u06cc\u0646\u062f\u06cc \u0628\u0647\u200c\u0646\u0627\u0645 \u00ab\u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0627\u0634\u06cc\u0646\u00bb \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u06af\u06cc\u0631\u062f \u06a9\u0647 \u062f\u0631 \u0622\u0646 \u0648\u0632\u0646\u200c\u0647\u0627\u06cc \u0645\u06cc\u0627\u0646 \u0646\u0648\u0631\u0648\u0646\u200c\u0647\u0627 \u0628\u0647 \u0637\u0648\u0631 \u0627\u062a\u0648\u0645\u0627\u062a\u06cc\u06a9 \u062a\u0646\u0638\u06cc\u0645 \u0645\u06cc\u200c\u0634\u0648\u0646\u062f \u062a\u0627 \u062e\u0631\u0648\u062c\u06cc \u0634\u0628\u06a9\u0647 \u0628\u0647\u200c\u0628\u0647\u062a\u0631\u06cc\u0646 \u0634\u06a9\u0644 \u0628\u0647 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0648\u0631\u0648\u062f\u06cc \u067e\u0627\u0633\u062e \u062f\u0647\u062f. \u0627\u06cc\u0646 \u0641\u0631\u0627\u06cc\u0646\u062f \u0645\u0639\u0645\u0648\u0644\u0627\u064b \u0627\u0632\u0637\u0631\u06cc\u0642 \u0645\u062c\u0645\u0648\u0639\u0647\u200c\u0627\u06cc \u0627\u0632 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0622\u0645\u0648\u0632\u0634\u06cc \u0648 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0627\u0644\u06af\u0648\u0631\u06cc\u062a\u0645\u200c\u0647\u0627\u06cc \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u0634\u0648\u062f.<\/p>\n\n\n\n<p>\u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u062f\u0631 \u0628\u0633\u06cc\u0627\u0631\u06cc \u0627\u0632 \u0632\u0645\u06cc\u0646\u0647\u200c\u0647\u0627 \u06a9\u0627\u0631\u0628\u0631\u062f \u062f\u0627\u0631\u0646\u062f\u060c \u0627\u0632\u062c\u0645\u0644\u0647 \u062f\u0631 \u062a\u0634\u062e\u06cc\u0635 \u06af\u0641\u062a\u0627\u0631\u060c \u067e\u0631\u062f\u0627\u0632\u0634 \u0632\u0628\u0627\u0646 \u0637\u0628\u06cc\u0639\u06cc\u060c \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc \u0645\u0627\u0644\u06cc \u0648 \u0628\u0633\u06cc\u0627\u0631\u06cc \u0645\u0648\u0627\u0631\u062f \u062f\u06cc\u06af\u0631. \u0642\u0627\u0628\u0644\u06cc\u062a \u0627\u0646\u0639\u0637\u0627\u0641 \u0648 \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647\u200c\u062a\u0631\u06cc\u0646 \u0627\u0644\u06af\u0648\u0647\u0627 \u0627\u0632 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0631\u0627 \u0628\u0647 \u06cc\u06a9\u06cc \u0627\u0632 \u0642\u062f\u0631\u062a\u0645\u0646\u062f\u062a\u0631\u06cc\u0646 \u0627\u0628\u0632\u0627\u0631\u0647\u0627 \u062f\u0631 \u0639\u0631\u0635\u0647 \u0647\u0648\u0634 \u0645\u0635\u0646\u0648\u0639\u06cc \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0631\u062f\u0647 \u0627\u0633\u062a.<\/p>\n\n\n\n<p>\u067e\u06cc\u0634\u0646\u0647\u0627\u062f \u0645\u06cc\u200c\u06a9\u0646\u06cc\u0645 \u062f\u0631\u0628\u0627\u0631\u0647 <a rel=\"noreferrer noopener\" href=\"https:\/\/cafetadris.com\/blog\/%d9%be%d8%b3-%d8%a7%d9%86%d8%aa%d8%b4%d8%a7%d8%b1-%db%8c%d8%a7-%d8%b9%d9%85%d9%84%db%8c%d8%a7%d8%aa-%d8%a7%d9%86%d8%aa%d8%b4%d8%a7%d8%b1-%d8%b1%d9%88%d8%a8%d9%87%d8%b9%d9%82%d8%a8\/\" data-type=\"post\" data-id=\"8080\" target=\"_blank\"><mark style=\"background-color:rgba(0, 0, 0, 0)\" class=\"has-inline-color has-vivid-cyan-blue-color\">\u067e\u0633 \u0627\u0646\u062a\u0634\u0627\u0631 \u06cc\u0627 \u0639\u0645\u0644\u06cc\u0627\u062a \u0627\u0646\u062a\u0634\u0627\u0631 \u0631\u0648\u0628\u0647\u200c\u0639\u0642\u0628 \u062f\u0631 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc<\/mark><\/a> \u0647\u0645 \u0645\u0637\u0627\u0644\u0639\u0647 \u06a9\u0646\u06cc\u062f.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u062f\u0631\u06a9 \u0639\u0645\u0644\u06a9\u0631\u062f \u0628\u0647\u06cc\u0646\u0647 \u0633\u0627\u0632\u0647\u0627 \u062f\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642<\/h2>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u062f\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0631\u0648\u0634\u200c\u0647\u0627\u06cc\u06cc \u0647\u0633\u062a\u0646\u062f \u06a9\u0647 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0631\u0627 \u0642\u0627\u062f\u0631 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u062a\u0627 \u0628\u0647\u200c\u0637\u0648\u0631 \u0647\u0648\u0634\u0645\u0646\u062f\u0627\u0646\u0647\u200c\u0627\u06cc \u0628\u0647 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0628\u0627 \u0647\u062f\u0641 \u06a9\u0645\u06cc\u0646\u0647\u200c\u06a9\u0631\u062f\u0646 \u062a\u0627\u0628\u0639 \u0647\u0632\u06cc\u0646\u0647\u200c (Loss Function) \u0628\u067e\u0631\u062f\u0627\u0632\u0646\u062f. \u0627\u0647\u0645\u06cc\u062a \u0622\u0646\u200c\u0647\u0627 \u062f\u0631 \u0628\u0647\u0628\u0648\u062f \u0639\u0645\u0644\u06a9\u0631\u062f \u0648 \u0633\u0631\u0639\u062a \u0622\u0645\u0648\u0632\u0634 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0633\u06cc\u0627\u0631 \u062d\u06cc\u0627\u062a\u06cc \u0627\u0633\u062a. <\/p>\n\n\n\n<p>\u0645\u0639\u0631\u0648\u0641\u200c\u062a\u0631\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 SGD (\u06af\u0631\u0627\u062f\u06cc\u0627\u0646 \u0646\u0632\u0648\u0644\u06cc \u062a\u0635\u0627\u062f\u0641\u06cc)\u060c Adam \u0648 RMSprop \u0647\u0633\u062a\u0646\u062f \u06a9\u0647 \u0647\u0631 \u06cc\u06a9 \u0631\u0648\u06cc\u06a9\u0631\u062f\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u06cc \u0628\u0631\u0627\u06cc \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u062f\u0631 \u0647\u0631 \u0645\u0631\u062d\u0644\u0647 \u0628\u0631\u0627\u0633\u0627\u0633 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0648\u0631\u0648\u062f\u06cc \u0627\u0631\u0627\u0626\u0647 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f.<\/p>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627\u060c \u0646\u0647\u200c\u062a\u0646\u0647\u0627 \u0628\u0631\u0627\u06cc \u062a\u0633\u0631\u06cc\u0639 \u062f\u0631 \u0641\u0631\u0627\u06cc\u0646\u062f \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0648 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u06a9\u0646\u062a\u0631\u0644\u200c\u0634\u062f\u0647 \u0648\u0632\u0646\u200c\u0647\u0627 \u0645\u0647\u0645 \u0647\u0633\u062a\u0646\u062f\u060c \u0628\u0631\u0627\u06cc \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u0627\u0632 \u0628\u06cc\u0634\u200c\u0628\u0631\u0627\u0632\u0634 (overfitting) \u0646\u06cc\u0632 \u0627\u0647\u0645\u06cc\u062a \u062f\u0627\u0631\u0646\u062f. \u0628\u06cc\u0634\u200c\u0628\u0631\u0627\u0632\u0634 \u0632\u0645\u0627\u0646\u06cc \u0631\u062e \u0645\u06cc\u200c\u062f\u0647\u062f \u06a9\u0647 \u0645\u062f\u0644 \u0628\u06cc\u0634\u200c\u0627\u0632\u062d\u062f \u0628\u0631 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0622\u0645\u0648\u0632\u0634\u06cc (train) \u0645\u0646\u0637\u0628\u0642 (fit) \u0634\u0648\u062f (\u0628\u0647\u200c\u062a\u0639\u0628\u06cc\u0631\u06cc\u060c \u0628\u0647\u200c\u062c\u0627\u06cc \u0622\u0646\u06a9\u0647 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc train \u0631\u0627 \u06cc\u0627\u062f \u0628\u06af\u06cc\u0631\u062f\u060c \u0622\u0646\u200c\u200c\u0647\u0627 \u0631\u0627 \u062d\u0641\u0638 \u06a9\u0646\u062f) \u0648 \u0646\u062a\u0648\u0627\u0646\u062f \u0639\u0645\u0644\u06a9\u0631\u062f \u062e\u0648\u0628\u06cc \u0631\u0648\u06cc \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u062c\u062f\u06cc\u062f (test) \u0646\u0634\u0627\u0646 \u062f\u0647\u062f. <\/p>\n\n\n\n<p>\u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062a\u06a9\u0646\u06cc\u06a9\u200c\u0647\u0627\u06cc\u06cc \u0646\u0638\u06cc\u0631 \u0627\u0646\u0637\u0628\u0627\u0642 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0648 \u0645\u0639\u0645\u0627\u0631\u06cc\u200c\u0647\u0627\u06cc \u0645\u0646\u0627\u0633\u0628 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0631 \u06a9\u0627\u0647\u0634 \u0627\u06cc\u0646 \u0645\u0634\u06a9\u0644 \u0645\u0648\u062b\u0631 \u0628\u0627\u0634\u062f \u0648 \u0628\u0647 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u06a9\u0645\u06a9 \u06a9\u0646\u062f \u062a\u0627 \u062a\u0639\u0645\u06cc\u0645 \u067e\u0630\u06cc\u0631\u06cc \u0628\u0647\u062a\u0631\u06cc \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u062f.<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img fetchpriority=\"high\" decoding=\"async\" width=\"600\" height=\"800\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/1__osB82GKHBOT8k1idLqiqA.gif\" alt=\"\u0627\u0646\u0648\u0627\u0639 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0627\u0632\" class=\"wp-image-14313\"\/><\/figure><\/div>\n\n\n<h2 class=\"wp-block-heading\">\u0627\u0646\u0648\u0627\u0639 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u062f\u0631 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc<\/h2>\n\n\n\n<p>\u062f\u0631 \u062f\u0646\u06cc\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u0646\u0642\u0634 \u062d\u06cc\u0627\u062a\u06cc \u062f\u0631 \u062a\u0646\u0638\u06cc\u0645 \u0648\u0632\u0646\u200c\u0647\u0627\u06cc \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0628\u0631\u0627\u06cc \u06a9\u0627\u0647\u0634 \u062e\u0637\u0627\u0647\u0627 \u062f\u0627\u0631\u0646\u062f. \u0627\u0646\u0648\u0627\u0639 \u0645\u062e\u062a\u0644\u0641\u06cc \u0627\u0632 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f \u06a9\u0647 \u0647\u0631 \u06cc\u06a9 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627 \u0648 \u06a9\u0627\u0631\u0628\u0631\u062f\u0647\u0627\u06cc \u0645\u0646\u062d\u0635\u0631\u0628\u0647\u200c\u0641\u0631\u062f\u06cc \u062f\u0627\u0631\u0646\u062f. \u062f\u0631 \u0627\u062f\u0627\u0645\u0647 \u0628\u0627 \u0627\u0646\u0648\u0627\u0639 \u0622\u0646\u200c\u0647\u0627 \u0622\u0634\u0646\u0627 \u0645\u06cc\u200c\u0634\u0648\u06cc\u0645:<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 SGD (Stochastic Gradient Descent)<\/h3>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 SGD \u06cc\u06a9\u06cc \u0627\u0632 \u0633\u0627\u062f\u0647\u200c\u062a\u0631\u06cc\u0646 \u0648 \u062f\u0631\u0639\u06cc\u0646\u200c\u062d\u0627\u0644 \u067e\u0631\u06a9\u0627\u0631\u0628\u0631\u062f\u062a\u0631\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627\u0633\u062a. \u0627\u06cc\u0646 \u0631\u0648\u0634\u060c \u0628\u0627 \u06af\u0631\u0641\u062a\u0646 \u0646\u0645\u0648\u0646\u0647\u200c\u0647\u0627\u06cc \u062a\u0635\u0627\u062f\u0641\u06cc \u0628\u0647 \u062c\u0627\u06cc \u06a9\u0644 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u060c \u062f\u0631 \u0647\u0631 \u06af\u0627\u0645 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0631\u0627 \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u062f\u0647\u062f. <\/p>\n\n\n\n<p>\u062f\u0631\u0648\u0627\u0642\u0639 \u0622\u0646\u0686\u0647 \u062f\u0631 \u0639\u0645\u0644 \u0628\u0647\u200c\u0639\u0646\u0648\u0627\u0646 SGD \u0634\u0646\u0627\u062e\u062a\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f minibatch GD \u0627\u0633\u062a\u061b \u0628\u0647\u200c\u0627\u06cc\u0646 \u0645\u0639\u0646\u06cc \u06a9\u0647 \u0628\u0631\u0627\u06cc \u0622\u0645\u0648\u0632\u0634\u060c \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0628\u0647\u200c\u0635\u0648\u0631\u062a \u062f\u0633\u062a\u0647\u200c\u062f\u0633\u062a\u0647 \u0628\u0647 \u0645\u062f\u0644 \u062f\u0627\u062f\u0647 \u0645\u06cc\u200c\u0634\u0648\u0646\u062f. <\/p>\n\n\n\n<p>Smooth\u0646\u0628\u0648\u062f\u0646 \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0648\u0632\u0646\u200c\u0647\u0627 \u062f\u0631 \u0647\u0631 \u06af\u0627\u0645 \u0627\u0632 \u0645\u0634\u06a9\u0644\u0627\u062a \u0627\u0635\u0644\u06cc \u0627\u06cc\u0646 \u0631\u0648\u0634 \u0627\u0633\u062a \u06a9\u0647 \u0631\u0648\u0634 Momentum \u062f\u0631\u0635\u062f\u062f \u062d\u0644 \u0622\u0646 \u0628\u0631\u0627\u0645\u062f\u0647 \u0627\u0633\u062a.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0686\u06af\u0648\u0646\u06af\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f SGD<\/h4>\n\n\n\n<p>SGD \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646 \u062a\u0627\u0628\u0639 \u0647\u0632\u06cc\u0646\u0647 \u0646\u0633\u0628\u062a \u0628\u0647 \u0648\u0632\u0646\u200c\u0647\u0627 \u0642\u062f\u0645\u200c\u0647\u0627\u06cc\u06cc \u0628\u0647\u200c\u0633\u0645\u062a \u06a9\u0645\u06cc\u0646\u0647 \u0645\u062d\u0644\u06cc \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u062f\u0647\u062f. \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0628\u0627 \u06a9\u0627\u0647\u0634 \u0646\u0648\u0633\u0627\u0646\u200c\u0647\u0627 \u0648 \u0628\u0647\u0628\u0648\u062f \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0628\u0647\u200c\u0633\u0645\u062a \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u067e\u06cc\u0634 \u0645\u06cc\u200c\u0631\u0648\u062f. \u0646\u062d\u0648\u0647 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u062f\u0631 \u0627\u06cc\u0646 \u0631\u0648\u0634 \u062f\u0631 \u0627\u06cc\u0646 \u0634\u06a9\u0644 \u0622\u0645\u062f\u0647 \u0627\u0633\u062a:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img decoding=\"async\" width=\"405\" height=\"185\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image.png\" alt=\"\u0641\u0631\u0645\u0648\u0644 SGD\" class=\"wp-image-14297\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image.png 405w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-300x137.png 300w\" sizes=\"(max-width: 405px) 100vw, 405px\" \/><\/figure><\/div>\n\n\n<h4 class=\"wp-block-heading\">\u0645\u0632\u0627\u06cc\u0627 \u0648 \u0645\u0639\u0627\u06cc\u0628 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 SGD<\/h4>\n\n\n\n<p>\u0627\u0632 \u0645\u0632\u0627\u06cc\u0627\u06cc \u0627\u0635\u0644\u06cc SGD \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u0628\u0647\u200c\u0633\u0627\u062f\u06af\u06cc \u0648 \u0633\u0631\u0639\u062a \u0628\u0627\u0644\u0627 \u062f\u0631 \u0622\u0645\u0648\u0632\u0634 \u0627\u0634\u0627\u0631\u0647 \u06a9\u0631\u062f\u060c \u0627\u0645\u0627 \u0645\u0639\u0627\u06cc\u0628\u06cc \u0645\u0627\u0646\u0646\u062f \u062d\u0633\u0627\u0633\u06cc\u062a \u0628\u0647 \u0627\u0646\u062a\u062e\u0627\u0628 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0648 \u0627\u062d\u062a\u0645\u0627\u0644 \u06af\u06cc\u0631\u0627\u0641\u062a\u0627\u062f\u0646 \u062f\u0631 \u06a9\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062d\u0644\u06cc \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f.<\/p>\n\n\n\n<p>\u062f\u0631 \u0627\u06cc\u0646 \u0642\u0633\u0645\u062a \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0642\u0637\u0639\u0647 \u06a9\u062f\u06cc \u0634\u0627\u0645\u0644 \u067e\u06cc\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u06cc\u0646 Optimizer \u0648 \u062e\u0631\u0648\u062c\u06cc \u0622\u0646\u200c \u0631\u0627 \u0628\u0628\u0646\u06cc\u062f. \u062a\u0648\u062c\u0647 \u06a9\u0646\u06cc\u062f \u06a9\u0647 \u0642\u0633\u0645\u062a\u200c\u0647\u0627\u06cc \u0645\u0631\u0628\u0648\u0637 \u0628\u0647 \u0641\u0631\u0627\u062e\u0648\u0627\u0646\u06cc \u062a\u0648\u0627\u0628\u0639 \u0648 \u062a\u0639\u06cc\u06cc\u0646 \u062a\u0627\u0628\u0639 \u0647\u062f\u0641 \u0648 \u0645\u0634\u062a\u0642 \u0622\u0646 \u0628\u0631\u0627\u06cc \u06a9\u062f\u0647\u0627\u06cc \u0628\u0639\u062f\u06cc \u0646\u06cc\u0632 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0634\u062f\u0647 \u0627\u0633\u062a:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><img decoding=\"async\" width=\"1024\" height=\"510\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-1-1024x510.png\" alt=\"\u0642\u0637\u0639\u0647 \u06a9\u062f SGD\" class=\"wp-image-14298\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-1-1024x510.png 1024w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-1-300x149.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-1-768x383.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-1-585x291.png 585w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-1.png 1044w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure><\/div>\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"869\" height=\"565\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-2.png\" alt=\"\u062e\u0631\u0648\u062c\u06cc SGD\" class=\"wp-image-14299\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-2.png 869w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-2-300x195.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-2-768x499.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-2-585x380.png 585w\" sizes=\"(max-width: 869px) 100vw, 869px\" \/><\/figure><\/div>\n\n\n<p>\u0647\u0645\u0627\u0646\u200c\u0637\u0648\u0631 \u06a9\u0647 \u062f\u0631 \u0634\u06a9\u0644 \u0645\u06cc\u200c\u0628\u06cc\u0646\u06cc\u062f\u060c SGD \u0628\u0647\u200c\u0631\u0627\u062d\u062a\u06cc \u062a\u0648\u0627\u0646\u0633\u062a\u0647 \u0627\u0633\u062a \u062f\u0631 \u06a9\u0645\u062a\u0631 \u0627\u0632 \u06f2\u06f0\u06f0 \u06af\u0627\u0645\u060c \u0628\u0647\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc (\u0646\u0642\u0637\u0647 \u0635\u0641\u0631) \u0631\u0627 \u067e\u06cc\u062f\u0627 \u06a9\u0646\u062f. \u0639\u0644\u062a \u0647\u0645\u06af\u0631\u0627\u06cc\u06cc \u0633\u0631\u06cc\u0639 \u0648 \u0628\u062f\u0648\u0646 \u0645\u0634\u06a9\u0644 \u0633\u0627\u062f\u0647\u200c\u0628\u0648\u062f\u0646 \u062a\u0627\u0628\u0639 \u0647\u062f\u0641 \u0627\u0633\u062a. \u062a\u0648\u062c\u0647 \u06a9\u0646\u06cc\u062f \u06a9\u0647 \u0627\u06cc\u0646 \u062a\u0627\u0628\u0639 (x^2) \u062f\u0631 \u0648\u0627\u0642\u0639 \u062a\u0627\u0628\u0639 \u0647\u0632\u06cc\u0646\u0647 (Loss Function) \u0627\u0633\u062a \u06a9\u0647 \u0627\u062e\u062a\u0644\u0627\u0641 \u0645\u0642\u062f\u0627\u0631 \u067e\u06cc\u0634\u200c\u0628\u06cc\u0646\u06cc\u200c\u0634\u062f\u0647 \u062a\u0648\u0633\u0637 \u0645\u062f\u0644 \u0648 \u0644\u06cc\u0628\u0644\u200c\u0647\u0627\u06cc \u0648\u0627\u0642\u0639\u06cc \u0631\u0627 \u0646\u0634\u0627\u0646 \u0645\u06cc\u200c\u062f\u0647\u062f \u0648 \u0628\u0627\u06cc\u062f \u0628\u0647 \u0635\u0641\u0631 \u0645\u06cc\u0644 \u06a9\u0646\u062f.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u062a\u06a9\u0627\u0646\u0647 (Momentum)<\/h3>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Momentum \u06cc\u0627 \u062a\u06a9\u0627\u0646\u0647 \u0628\u0647\u200c\u0645\u0646\u0638\u0648\u0631 \u0628\u0647\u0628\u0648\u062f SGD \u0637\u0631\u0627\u062d\u06cc \u0634\u062f\u0647 \u0627\u0633\u062a \u0648 \u0628\u0627 \u0627\u0636\u0627\u0641\u0647\u200c\u06a9\u0631\u062f\u0646 \u062c\u0632\u0626\u06cc \u062d\u0631\u06a9\u062a \u0628\u0647 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627\u060c \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc\u200c\u0647\u0627 \u0631\u0627 \u0637\u0648\u0631\u06cc \u0647\u062f\u0627\u06cc\u062a \u0645\u06cc\u200c\u06a9\u0646\u062f \u06a9\u0647 smooth \u0628\u0627\u0634\u062f.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0686\u06af\u0648\u0646\u06af\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u062a\u06a9\u0627\u0646\u0647<\/h4>\n\n\n\n<p>\u0627\u06cc\u0646 \u0631\u0648\u0634\u060c \u0628\u0627 \u062f\u0631\u0646\u0638\u0631\u06af\u0631\u0641\u062a\u0646 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627\u06cc \u06af\u0630\u0634\u062a\u0647 \u0648 \u062d\u0627\u0644\u060c \u0645\u0633\u06cc\u0631 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0631\u0627 \u062a\u0633\u0647\u06cc\u0644 \u0645\u06cc\u200c\u0628\u062e\u0634\u062f. \u0628\u0627 \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u062a\u0646\u0638\u06cc\u0645\u0627\u062a \u0648\u0632\u0646\u06cc \u067e\u0627\u06cc\u062f\u0627\u0631\u062a\u0631 \u0648 \u0633\u0631\u06cc\u0639\u200c\u062a\u0631 \u0628\u0647\u200c\u0633\u0645\u062a \u06a9\u0645\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc \u062d\u0631\u06a9\u062a \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f. \u0646\u062d\u0648\u0647 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u062f\u0631 \u0627\u06cc\u0646 \u0631\u0648\u0634 \u062f\u0631 \u0627\u06cc\u0646 \u0634\u06a9\u0644 \u0622\u0645\u062f\u0647 \u0627\u0633\u062a:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"640\" height=\"170\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-3.png\" alt=\"\u0641\u0631\u0645\u0648\u0644 Momentum\" class=\"wp-image-14300\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-3.png 640w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-3-300x80.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-3-585x155.png 585w\" sizes=\"(max-width: 640px) 100vw, 640px\" \/><\/figure><\/div>\n\n\n<p>\u0628\u0647\u200c\u0627\u06cc\u0646 \u062a\u0631\u062a\u06cc\u0628\u060c \u0628\u0631\u0627\u06cc \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c \u0641\u06cc\u0686\u0631\u0647\u0627 \u0631\u0648\u0634 \u062a\u06a9\u0627\u0646\u0647 \u0641\u0642\u0637 \u0628\u0647 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646 \u062f\u0633\u062a\u0647 \u0641\u0639\u0644\u06cc \u062a\u0648\u062c\u0647 \u0646\u0645\u06cc\u200c\u06a9\u0646\u062f \u0648 \u0627\u0647\u0645\u06cc\u062a\u06cc \u0647\u0645 \u0628\u0647 \u0645\u0642\u062f\u0627\u0631 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646 \u0647\u0645\u0647\u200c \u062f\u0633\u062a\u0647\u200c\u0647\u0627\u06cc \u0642\u0628\u0644 \u0645\u06cc\u200c\u062f\u0647\u062f \u062a\u0627 \u0641\u0631\u0627\u06cc\u0646\u062f Convergence \u06cc\u0627 \u0647\u0645\u06af\u0631\u0627\u06cc\u06cc \u0628\u0647 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc\u060c \u0631\u0648\u0627\u0646\u200c\u062a\u0631 \u0627\u062a\u0641\u0627\u0642 \u0628\u06cc\u0641\u062a\u062f.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0645\u0632\u0627\u06cc\u0627 \u0648 \u0645\u0639\u0627\u06cc\u0628 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0627\u0632 \u062a\u06a9\u0627\u0646\u0647 <\/h4>\n\n\n\n<p>Momentum\u060c \u0628\u0627 \u06a9\u0627\u0647\u0634 \u0646\u0648\u0633\u0627\u0646\u200c\u0647\u0627 \u0648 \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u0627\u0632 \u06af\u06cc\u0631\u0627\u0641\u062a\u0627\u062f\u0646 \u062f\u0631 \u06a9\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062d\u0644\u06cc\u060c \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0631\u0627 \u0627\u0641\u0632\u0627\u06cc\u0634 \u0645\u06cc\u200c\u062f\u0647\u062f. \u0627\u06cc\u0646 \u0631\u0648\u06cc\u06a9\u0631\u062f\u060c \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u062a\u0627\u0631\u06cc\u062e\u0686\u0647 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627\u060c \u0628\u0647 \u062d\u0631\u06a9\u062a \u0648\u0632\u0646\u200c\u0647\u0627 \u0634\u062a\u0627\u0628 \u0628\u06cc\u0634\u062a\u0631\u06cc \u0645\u06cc\u200c\u0628\u062e\u0634\u062f \u0648 \u0628\u0647 \u0622\u0646\u200c\u0647\u0627 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0627\u0632 \u06a9\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062d\u0644\u06cc \u0639\u0628\u0648\u0631 \u06a9\u0646\u0646\u062f. \u0627\u06cc\u0646 \u0648\u06cc\u0698\u06af\u06cc \u062e\u0635\u0648\u0635\u0627\u064b \u062f\u0631 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u067e\u06cc\u0686\u06cc\u062f\u0647 \u0648 \u0628\u0627 \u0641\u0631\u0627\u0632\u0648\u0641\u0631\u0648\u062f\u0647\u0627\u06cc \u0645\u062a\u0639\u062f\u062f \u0628\u0633\u06cc\u0627\u0631 \u0645\u0641\u06cc\u062f \u0627\u0633\u062a.<\/p>\n\n\n\n<p>\u0628\u0627\u0627\u06cc\u0646\u200c\u062d\u0627\u0644 \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0646\u06cc\u0632 \u0628\u062f\u0648\u0646 \u0639\u06cc\u0628 \u0646\u06cc\u0633\u062a. \u06cc\u06a9\u06cc \u0627\u0632 \u0686\u0627\u0644\u0634\u200c\u0647\u0627\u06cc \u0627\u0635\u0644\u06cc \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 Momentum \u062a\u0646\u0638\u06cc\u0645 \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627\u0633\u062a. \u0627\u06af\u0631 \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u062d\u0631\u06a9\u062a \u0628\u06cc\u0634\u200c\u0627\u0632\u062d\u062f \u0628\u0632\u0631\u06af \u0627\u0646\u062a\u062e\u0627\u0628 \u0634\u0648\u062f\u060c \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0647\u200c\u062c\u0627\u06cc \u0646\u0632\u062f\u06cc\u06a9\u200c\u0634\u062f\u0646 \u0628\u0647 \u06a9\u0645\u06cc\u0646\u0647 \u06a9\u0644\u06cc\u060c \u0633\u06cc\u0633\u062a\u0645 \u0628\u06cc\u0634\u200c\u0627\u0632\u062d\u062f \u062d\u0631\u06a9\u062a \u06a9\u0646\u062f \u0648 \u0627\u0632 \u0622\u0646 \u0641\u0631\u0627\u062a\u0631 \u0631\u0648\u062f\u061b \u0647\u0645\u0686\u0646\u06cc\u0646 \u062f\u0631\u0635\u0648\u0631\u062a\u06cc\u200c\u06a9\u0647 \u062a\u0646\u0638\u06cc\u0645 \u0646\u0627\u0645\u0646\u0627\u0633\u0628\u06cc \u0628\u0631\u0627\u06cc \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0627\u0646\u062c\u0627\u0645 \u0634\u0648\u062f\u060c \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0628\u0647\u200c\u0633\u062e\u062a\u06cc \u0628\u0647 \u06a9\u0645\u06cc\u0646\u0647 \u0628\u0647\u06cc\u0646\u0647 \u0628\u0631\u0633\u062f \u06cc\u0627 \u062f\u0631 \u0632\u0645\u0627\u0646 \u0628\u0633\u06cc\u0627\u0631 \u0637\u0648\u0644\u0627\u0646\u06cc \u0628\u0647 \u0622\u0646 \u062f\u0633\u062a \u06cc\u0627\u0628\u062f. \u0631\u0648\u0634 Adam \u06a9\u0647 \u062f\u0631 \u0627\u062f\u0627\u0645\u0647 \u0622\u0646 \u0631\u0627 \u062a\u0648\u0636\u06cc\u062d \u0645\u06cc\u200c\u062f\u0647\u06cc\u0645 \u0627\u06cc\u0646 \u0645\u0634\u06a9\u0644 \u0631\u0627 \u0631\u0641\u0639 \u06a9\u0631\u062f\u0647 \u0627\u0633\u062a.<\/p>\n\n\n\n<p>\u0628\u0647\u200c\u0637\u0648\u0631 \u062e\u0644\u0627\u0635\u0647\u060c \u062f\u0631\u062d\u0627\u0644\u06cc\u200c\u06a9\u0647 Momentum \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0633\u0631\u0639\u062a \u0647\u0645\u06af\u0631\u0627\u06cc\u06cc \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u0631\u0627 \u0628\u0647\u200c\u0637\u0648\u0631 \u0686\u0634\u0645\u06af\u06cc\u0631\u06cc \u0627\u0641\u0632\u0627\u06cc\u0634 \u062f\u0647\u062f \u0648 \u0627\u0632 \u06af\u06cc\u0631\u0627\u0641\u062a\u0627\u062f\u0646 \u062f\u0631 \u06a9\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062d\u0644\u06cc \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u06a9\u0646\u062f\u060c \u0628\u0627\u06cc\u062f \u0628\u0627\u062f\u0642\u062a \u0648 \u0628\u0627 \u062f\u0631\u0646\u0638\u0631\u200c\u06af\u0631\u0641\u062a\u0646 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0645\u0633\u0626\u0644\u0647 \u0645\u0648\u0631\u062f\u0627\u0633\u062a\u0641\u0627\u062f\u0647\u060c \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627\u06cc \u0622\u0646 \u062a\u0646\u0638\u06cc\u0645 \u0634\u0648\u062f. <\/p>\n\n\n\n<p>\u0627\u0646\u062a\u062e\u0627\u0628 \u062f\u0642\u06cc\u0642 \u0627\u06cc\u0646 \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627 \u0645\u0633\u062a\u0644\u0632\u0645 \u0622\u0632\u0645\u0648\u0646\u200c\u0648\u062e\u0637\u0627 \u0648 \u062a\u062c\u0631\u0628\u0647 \u0627\u0633\u062a \u062a\u0627 \u0628\u0647\u062a\u0631\u06cc\u0646 \u0639\u0645\u0644\u06a9\u0631\u062f \u0631\u0627 \u0627\u0632 \u0634\u0628\u06a9\u0647 \u0639\u0635\u0628\u06cc \u062e\u0648\u062f \u06a9\u0633\u0628 \u06a9\u0646\u06cc\u062f.<\/p>\n\n\n\n<p>\u062f\u0631 \u0627\u06cc\u0646 \u0642\u0633\u0645\u062a \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0642\u0637\u0639\u0647 \u06a9\u062f\u06cc \u0634\u0627\u0645\u0644 \u067e\u06cc\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u06cc\u0646 Optimizer \u0631\u0627 \u0628\u0628\u0646\u06cc\u062f:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"932\" height=\"419\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-4.png\" alt=\"\u0642\u0637\u0639\u0647 \u06a9\u062f Momentum\" class=\"wp-image-14301\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-4.png 932w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-4-300x135.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-4-768x345.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-4-585x263.png 585w\" sizes=\"(max-width: 932px) 100vw, 932px\" \/><\/figure><\/div>\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"931\" height=\"605\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-5.png\" alt=\"\u062e\u0631\u0648\u062c\u06cc Momentum\" class=\"wp-image-14302\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-5.png 931w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-5-300x195.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-5-768x499.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-5-585x380.png 585w\" sizes=\"(max-width: 931px) 100vw, 931px\" \/><\/figure><\/div>\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Adagrad (Adaptive Gradient)<\/h3>\n\n\n\n<p>\u0647\u0645\u0627\u0646\u200c\u0637\u0648\u0631 \u06a9\u0647 \u0645\u062a\u0648\u062c\u0647 \u0634\u062f\u06cc\u062f\u060c \u062f\u0631 \u0631\u0648\u0634 SGD \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc (Learning Rtae) \u0628\u0647\u200c\u0635\u0648\u0631\u062a Static \u06cc\u0627 \u062b\u0627\u0628\u062a \u062a\u0639\u06cc\u06cc\u0646 \u0645\u06cc\u200c\u0634\u0648\u062f. \u0645\u0634\u06a9\u0644 \u0627\u06cc\u0646\u062c\u0627\u0633\u062a \u06a9\u0647 \u0648\u0642\u062a\u06cc \u0628\u0647 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc \u0646\u0632\u062f\u06cc\u06a9 \u0645\u06cc\u200c\u0634\u0648\u06cc\u0645\u060c \u0639\u0645\u0648\u0645\u0627\u064b \u0645\u0642\u062f\u0627\u0631 \u0627\u0648\u0644\u06cc\u0647 LR \u0628\u0631\u0627\u06cc \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0645\u0642\u062f\u0627\u0631 W (\u0648\u0632\u0646\u200c\u0647\u0627) \u0628\u0633\u06cc\u0627\u0631 \u0632\u06cc\u0627\u062f \u0627\u0633\u062a \u0648 \u0646\u0648\u0633\u0627\u0646 \u062d\u0648\u0644 \u0646\u0642\u0637\u0647 \u0645\u062f\u0646\u0638\u0631 \u0631\u0627 \u0627\u0641\u0632\u0627\u06cc\u0634 \u0645\u06cc\u200c\u062f\u0647\u062f\u061b \u0628\u0647\u200c\u0627\u06cc\u0646 \u062a\u0631\u062a\u06cc\u0628\u060c \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0645\u062f\u0644 \u0647\u0645\u06af\u0631\u0627 \u0646\u0634\u0648\u062f. \u062d\u0627\u0644 \u0628\u0627\u06cc\u062f \u0628\u0647 \u062f\u0646\u0628\u0627\u0644 \u0631\u0627\u0647\u200c\u062d\u0644\u06cc \u0628\u0627\u0634\u06cc\u0645 \u06a9\u0647 \u0628\u0627 \u0646\u0632\u062f\u06cc\u06a9\u200c\u0634\u062f\u0646 \u0628\u0647 \u0646\u0642\u0637\u0647 \u0628\u0647\u06cc\u0646\u0647 \u0645\u06cc\u0632\u0627\u0646 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0647\u200c\u0645\u0631\u0648\u0631 \u0648 \u0628\u0647\u200c\u0635\u0648\u0631\u062a \u062f\u0627\u06cc\u0646\u0627\u0645\u06cc\u06a9 \u06a9\u0645 \u0634\u0648\u062f. \u0628\u0647 \u0627\u06cc\u0646 \u0631\u0627\u0647\u06a9\u0627\u0631 \u06a9\u0627\u0647\u0634 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u06cc\u0627 Learning Rate Decay \u0645\u06cc\u200c\u06af\u0648\u06cc\u0646\u062f. <\/p>\n\n\n\n<p>Adagrad&nbsp;\u06cc\u06a9\u06cc \u0627\u0632 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627\u06cc \u067e\u06cc\u0634\u0631\u0641\u062a\u0647 \u0627\u0633\u062a \u06a9\u0647 \u0628\u0627 \u062a\u0637\u0628\u06cc\u0642\u200c\u062f\u0627\u062f\u0646 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631\u0627\u06cc \u0647\u0631 \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u060c \u0628\u0647 \u062e\u0635\u0648\u0635 \u062f\u0631 \u0645\u0648\u0627\u062c\u0647\u0647 \u0628\u0627 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u067e\u0631\u0627\u06a9\u0646\u062f\u0647 \u0648 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc (Features) \u0645\u062e\u062a\u0644\u0641 \u0645\u0624\u062b\u0631 \u0648\u0627\u0642\u0639 \u0645\u06cc\u200c\u0634\u0648\u062f.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0686\u06af\u0648\u0646\u06af\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f Adagard<\/h4>\n\n\n\n<p>Adagrad\u060c \u0628\u0627 \u0627\u0631\u0627\u0626\u0647 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u062a\u0641\u0627\u0648\u062a \u062f\u0631 \u0647\u0631 \u06af\u0627\u0645\u060c \u0627\u0645\u06a9\u0627\u0646 \u067e\u0630\u06cc\u0631\u0634 \u0628\u0647\u062a\u0631\u06cc \u0628\u0631\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u0634\u0631\u0627\u06cc\u0637 \u0645\u062a\u0641\u0627\u0648\u062a \u0631\u0627 \u0641\u0631\u0627\u0647\u0645 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0627\u0632 \u0628\u0627 \u062c\u0645\u0639\u200c\u0622\u0648\u0631\u06cc \u067e\u06cc\u0627\u067e\u06cc \u0645\u062c\u0630\u0648\u0631 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627 \u062f\u0631 \u06cc\u06a9 \u0645\u062a\u063a\u06cc\u0631 \u0628\u0647 \u0646\u0627\u0645 \u03b1 (\u0622\u0644\u0641\u0627) \u0648 \u062a\u0642\u0633\u06cc\u0645 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631 \u0631\u06cc\u0634\u0647 \u062f\u0648\u0645 \u0627\u06cc\u0646 \u0639\u062f\u062f\u060c \u0628\u0647\u200c\u0645\u0631\u0648\u0632 \u0632\u0645\u0627\u0646 \u062a\u063a\u06cc\u06cc\u0631 \u0645\u06cc\u200c\u06a9\u0646\u062f\u061b \u0628\u0646\u0627\u0628\u0631\u0627\u06cc\u0646 \u0647\u0631 \u0686\u0647 \u062c\u0644\u0648\u062a\u0631 \u0645\u06cc\u200c\u0631\u0648\u06cc\u0645\u060c \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0648\u0632\u0646\u200c\u0647\u0627 \u0628\u0627 \u0634\u062f\u062a \u06a9\u0645\u062a\u0631\u06cc \u0627\u0646\u062c\u0627\u0645 \u0634\u0648\u062f. \u0634\u06cc\u0648\u0647 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0648 \u0628\u0627\u06cc\u0627\u0633 \u062f\u0631 \u0627\u06cc\u0646 \u0631\u0648\u0634 \u062f\u0631 \u0627\u06cc\u0646 \u0634\u06a9\u0644 \u0622\u0645\u062f\u0647 \u0627\u0633\u062a:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"670\" height=\"300\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-6.png\" alt=\"\u0641\u0631\u0645\u0648\u0644 Adagrad \" class=\"wp-image-14303\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-6.png 670w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-6-300x134.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-6-585x262.png 585w\" sizes=\"(max-width: 670px) 100vw, 670px\" \/><\/figure><\/div>\n\n\n<h4 class=\"wp-block-heading\">\u0645\u0632\u0627\u06cc\u0627 \u0648 \u0645\u0639\u0627\u06cc\u0628 Adagrad <\/h4>\n\n\n\n<p>\u06cc\u06a9\u06cc \u0627\u0632 \u0628\u0632\u0631\u06af\u200c\u062a\u0631\u06cc\u0646 \u0645\u0632\u0627\u06cc\u0627\u06cc Adagrad \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0628\u0647 \u062a\u0646\u0638\u06cc\u0645 \u062f\u0633\u062a\u06cc \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0646\u06cc\u0627\u0632\u06cc \u0646\u062f\u0627\u0631\u062f. \u0627\u06cc\u0646 \u0627\u0645\u0631\u060c \u0628\u0647\u200c\u0648\u06cc\u0698\u0647 \u0628\u0631\u0627\u06cc \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc\u06cc \u0628\u0627 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u062f\u0627\u0631\u0627\u06cc \u062a\u0648\u0632\u06cc\u0639\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u060c \u0645\u0641\u06cc\u062f \u0627\u0633\u062a. <\/p>\n\n\n\n<p>Adagrad \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u062f\u0631 \u0637\u0648\u0644\u0627\u0646\u06cc\u200c\u0645\u062f\u062a \u0628\u0627 \u0645\u0634\u06a9\u0644 \u06a9\u0627\u0647\u0634 \u0634\u062f\u06cc\u062f \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0648\u0627\u062c\u0647 \u0634\u0648\u062f\u060c \u0628\u0647\u200c\u0627\u06cc\u0646 \u0645\u0639\u0646\u06cc \u06a9\u0647 \u0627\u0644\u06af\u0648\u0631\u06cc\u062a\u0645 \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0647\u200c\u0637\u0648\u0631 \u0642\u0627\u0628\u0644 \u062a\u0648\u062c\u0647\u06cc \u06a9\u0646\u062f \u0634\u0648\u062f \u0648 \u0642\u0628\u0644 \u0627\u0632 \u0631\u0633\u06cc\u062f\u0646 \u0628\u0647 \u06a9\u0645\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc\u060c \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0631\u0627 \u0645\u062a\u0648\u0642\u0641 \u06a9\u0646\u062f. \u0639\u0644\u062a \u0627\u06cc\u0646 \u0627\u0645\u0631 \u0646\u06cc\u0632 \u062f\u0631 \u0641\u0631\u0645\u0648\u0644 \u0622\u0646 \u0642\u0627\u0628\u0644 \u062f\u0631\u06cc\u0627\u0641\u062a \u0627\u0633\u062a\u061b \u0632\u06cc\u0631\u0627 \u0647\u0631 \u0686\u0647 \u062c\u0644\u0648\u062a\u0631 \u0645\u06cc\u200c\u0631\u0648\u06cc\u0645 \u0648 \u0628\u0647 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc \u0646\u0632\u062f\u06cc\u06a9\u200c\u062a\u0631 \u0645\u06cc\u200c\u0634\u0648\u06cc\u0645\u060c \u0645\u0642\u062f\u0627\u0631 \u0622\u0644\u0641\u0627 \u0628\u0647\u200c\u0635\u0648\u0631\u062a \u062a\u062c\u0645\u0639\u06cc \u0632\u06cc\u0627\u062f \u0645\u06cc\u200c\u0634\u0648\u062f \u0648 \u0628\u0627 \u0632\u06cc\u0627\u062f\u0634\u062f\u0646 \u0645\u062e\u0631\u062c \u06a9\u0633\u0631 LR\u060c \u0627\u06cc\u0646 \u0639\u062f\u062f \u0628\u0647\u200c\u0645\u0631\u0648\u0631 \u0628\u0647 \u0635\u0641\u0631 \u0645\u06cc\u0644 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0648 \u062f\u06cc\u06af\u0631 \u062a\u063a\u06cc\u06cc\u0631\u06cc \u062f\u0631 \u0645\u0642\u062f\u0627\u0631 \u0648\u0632\u0646\u200c\u0647\u0627 \u0645\u0634\u0627\u0647\u062f\u0647 \u0646\u0645\u06cc\u200c\u0634\u0648\u062f.<\/p>\n\n\n\n<p>\u062f\u0631\u0646\u0647\u0627\u06cc\u062a\u060c Adagrad \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u0633\u062a \u06a9\u0647 \u062f\u0631 \u0634\u0631\u0627\u06cc\u0637 \u062e\u0627\u0635\u060c \u0628\u0647\u200c\u0648\u06cc\u0698\u0647 \u0632\u0645\u0627\u0646\u06cc \u06a9\u0647 \u0628\u0627 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0646\u0627\u0645\u062a\u0639\u0627\u062f\u0644 \u0648 \u067e\u0631\u0627\u06a9\u0646\u062f\u0647 \u0633\u0631\u0648\u06a9\u0627\u0631 \u062f\u0627\u0631\u06cc\u0645\u060c \u0628\u0633\u06cc\u0627\u0631 \u0645\u0641\u06cc\u062f \u0627\u0633\u062a\u061b \u0628\u0627\u0627\u06cc\u0646\u200c\u062d\u0627\u0644 \u062f\u0631 \u0645\u0648\u0627\u0642\u0639\u06cc \u06a9\u0647 \u0628\u0647 \u0627\u062f\u0627\u0645\u0647 \u062a\u0646\u0638\u06cc\u0645\u0627\u062a \u0648 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u067e\u06cc\u0648\u0633\u062a\u0647 \u0646\u06cc\u0627\u0632 \u062f\u0627\u0631\u06cc\u0645\u060c \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0647 \u0627\u0633\u062a\u0631\u0627\u062a\u0698\u06cc\u200c\u0647\u0627\u06cc \u0645\u062a\u0641\u0627\u0648\u062a\u06cc \u0647\u0645 \u0628\u0631\u0627\u06cc \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u0627\u0632 \u06a9\u0627\u0647\u0634 \u0628\u06cc\u0634\u200c\u0627\u0632\u062d\u062f \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0646\u06cc\u0627\u0632 \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u06cc\u0645.<\/p>\n\n\n\n<p>\u062f\u0631 \u0627\u06cc\u0646 \u0642\u0633\u0645\u062a \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0642\u0637\u0639\u0647 \u06a9\u062f\u06cc \u0634\u0627\u0645\u0644 \u067e\u06cc\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u06cc\u0646 Optimizer \u0631\u0627 \u0628\u0628\u0646\u06cc\u062f:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"429\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-7-1024x429.png\" alt=\"\u0642\u0637\u0639\u0647 \u06a9\u062f Adagrad \" class=\"wp-image-14304\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-7-1024x429.png 1024w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-7-300x126.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-7-768x322.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-7-585x245.png 585w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-7.png 1052w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure><\/div>\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"927\" height=\"593\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-8.png\" alt=\"\u062e\u0631\u0648\u062c\u06cc Adagrad \" class=\"wp-image-14305\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-8.png 927w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-8-300x192.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-8-768x491.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-8-585x374.png 585w\" sizes=\"(max-width: 927px) 100vw, 927px\" \/><\/figure><\/div>\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 RMSprop<\/h3>\n\n\n\n<p>RMSprop \u06a9\u0647 \u0645\u062e\u0641\u0641 \u00abRoot Mean Square Propagation\u00bb \u0627\u0633\u062a \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u0633\u062a \u06a9\u0647 \u0628\u0631\u0627\u06cc \u062d\u0644 \u0628\u0631\u062e\u06cc \u0627\u0632 \u0645\u0634\u06a9\u0644\u0627\u062a \u0645\u0631\u0628\u0648\u0637 \u0628\u0647 \u06a9\u0627\u0647\u0634 \u0633\u0631\u06cc\u0639 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 Adagrad \u0637\u0631\u0627\u062d\u06cc \u0634\u062f\u0647 \u0627\u0633\u062a.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0686\u06af\u0648\u0646\u06af\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f RMSprop  <\/h4>\n\n\n\n<p>RMSprop\u060c \u0628\u0627 \u062a\u0646\u0638\u06cc\u0645 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631\u0627\u06cc \u0647\u0631 \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u0628\u0631 \u0627\u0633\u0627\u0633 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646 \u0645\u0631\u0628\u0639\u0627\u062a \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627\u06cc \u0627\u062e\u06cc\u0631\u060c \u0627\u0632 \u0627\u0641\u062a \u0634\u062f\u06cc\u062f \u0648 \u062f\u0627\u0626\u0645\u06cc \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u0637\u0648\u0644 \u0632\u0645\u0627\u0646 \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u06a9\u0627\u0631 \u0628\u0627 \u0645\u062d\u0627\u0633\u0628\u0647 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646 \u0645\u0631\u0628\u0639\u0627\u062a \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627 \u0648 \u062a\u0642\u0633\u06cc\u0645 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631 \u0631\u06cc\u0634\u0647 \u062f\u0648\u0645 \u0627\u06cc\u0646 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646 \u0627\u0646\u062c\u0627\u0645 \u0645\u06cc\u200c\u0634\u0648\u062f. <\/p>\n\n\n\n<p>\u062f\u0631\u0648\u0627\u0642\u0639 \u0627\u06cc\u0646 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646\u200c\u06af\u06cc\u0631\u06cc \u0628\u0627 \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u0627\u0632 \u0627\u0641\u0632\u0627\u06cc\u0634 \u0628\u06cc\u0634\u200c\u0627\u0632\u062d\u062f \u0645\u062e\u0631\u062c \u06a9\u0633\u0631 LR\u060c \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u062f\u0631 \u0645\u0631\u062d\u0644\u0647\u200c\u0647\u0627\u06cc \u067e\u0627\u06cc\u0627\u0646\u06cc \u0646\u06cc\u0632 \u0627\u062f\u0627\u0645\u0647 \u06cc\u0627\u0628\u062f. <\/p>\n\n\n\n<p>\u0646\u062d\u0648\u0647 \u0628\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 RMSprop \u062f\u0631 \u0627\u06cc\u0646 \u0634\u06a9\u0644 \u0622\u0645\u062f\u0647 \u0627\u0633\u062a:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"639\" height=\"323\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-9.png\" alt=\"\u0641\u0631\u0645\u0648\u0644 RMSprop\" class=\"wp-image-14306\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-9.png 639w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-9-300x152.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-9-585x296.png 585w\" sizes=\"(max-width: 639px) 100vw, 639px\" \/><\/figure><\/div>\n\n\n<h4 class=\"wp-block-heading\">\u0645\u0632\u0627\u06cc\u0627 \u0648 \u0645\u0639\u0627\u06cc\u0628 RMSprop  <\/h4>\n\n\n\n<p>\u06cc\u06a9\u06cc \u0627\u0632 \u0645\u0632\u0627\u06cc\u0627\u06cc \u0628\u0632\u0631\u06af RMSprop \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0631\u0627 \u062f\u0631 \u062d\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u062a\u0637\u0628\u06cc\u0642 \u062f\u0647\u062f\u061b \u0628\u0647\u200c\u0627\u06cc\u0646 \u062a\u0631\u062a\u06cc\u0628\u060c \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0631\u0627 \u062f\u0631 \u0645\u0642\u0627\u0628\u0644\u0647 \u0628\u0627 \u0645\u0633\u0627\u0626\u0644 \u0645\u062a\u0641\u0627\u0648\u062a \u0648 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641 \u06a9\u0627\u0631\u0622\u0645\u062f\u062a\u0631 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0628\u0647\u200c\u062e\u0635\u0648\u0635 \u062f\u0631 \u0645\u0648\u0627\u0631\u062f\u06cc \u06a9\u0647 \u0645\u0633\u06cc\u0631 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646 \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0646\u0627\u06af\u0647\u0627\u0646\u06cc \u062f\u0627\u0631\u062f \u0628\u0633\u06cc\u0627\u0631 \u0645\u0641\u06cc\u062f \u0627\u0633\u062a. <\/p>\n\n\n\n<p>\u0647\u0645\u0686\u0646\u06cc\u0646 \u06cc\u06a9\u06cc \u0627\u0632 \u0646\u0642\u0627\u0637 \u0636\u0639\u0641 RMSprop \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u062f\u0631 \u0628\u0631\u062e\u06cc \u0645\u0648\u0627\u0631\u062f \u06a9\u0647 \u0628\u0647 \u062a\u0646\u0638\u06cc\u0645\u0627\u062a \u062f\u0642\u06cc\u0642\u200c\u062a\u0631\u06cc \u0646\u06cc\u0627\u0632 \u0627\u0633\u062a \u067e\u0627\u0633\u062e\u06af\u0648 \u0646\u0628\u0627\u0634\u062f\u061b \u0639\u0644\u0627\u0648\u0647\u200c\u0628\u0631\u0627\u06cc\u0646\u060c \u0647\u0645\u0627\u0646\u0646\u062f \u062f\u06cc\u06af\u0631 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627\u060c \u0627\u0646\u062a\u062e\u0627\u0628 \u062f\u0631\u0633\u062a \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627\u060c \u0645\u0627\u0646\u0646\u062f \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0627\u0648\u0644\u06cc\u0647 \u0648 \u0627\u0646\u062f\u0627\u0632\u0647 \u067e\u0646\u062c\u0631\u0647 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646 \u0645\u0631\u0628\u0639\u0627\u062a\u060c \u0628\u0631\u0627\u06cc \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0627\u06cc\u0646 \u0627\u0644\u06af\u0648\u0631\u06cc\u062a\u0645 \u062d\u06cc\u0627\u062a\u06cc \u0627\u0633\u062a.<\/p>\n\n\n\n<p>\u0628\u0647\u200c\u0637\u0648\u0631 \u06a9\u0644\u06cc\u060c RMSprop \u0627\u0628\u0632\u0627\u0631\u06cc \u0642\u062f\u0631\u062a\u0645\u0646\u062f \u0628\u0631\u0627\u06cc \u0645\u0648\u0627\u062c\u0647\u0647 \u0628\u0627 \u0686\u0627\u0644\u0634\u200c\u0647\u0627\u06cc \u0645\u0631\u0628\u0648\u0637 \u0628\u0647 \u0646\u0631\u062e\u200c\u0647\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u062a\u063a\u06cc\u0631 \u0648 \u0645\u062d\u06cc\u0637\u200c\u0647\u0627\u06cc \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0646\u0627\u067e\u0627\u06cc\u062f\u0627\u0631 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0631\u0648\u0634 \u0628\u0647\u200c\u062e\u0635\u0648\u0635 \u062f\u0631 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u06a9\u0647 \u0628\u0627 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u067e\u0631\u0627\u06a9\u0646\u062f\u0647 \u0648 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0645\u062a\u0646\u0648\u0639 \u0633\u0631\u0648\u06a9\u0627\u0631 \u062f\u0627\u0631\u0646\u062f \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0633\u06cc\u0627\u0631 \u0645\u0624\u062b\u0631 \u0628\u0627\u0634\u062f.<\/p>\n\n\n\n<p>\u062f\u0631 \u0627\u06cc\u0646 \u0642\u0633\u0645\u062a \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0642\u0637\u0639\u0647 \u06a9\u062f\u06cc \u0634\u0627\u0645\u0644 \u067e\u06cc\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u06cc\u0646 Optimizer \u0631\u0627 \u0628\u0628\u0646\u06cc\u062f:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1006\" height=\"426\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-10.png\" alt=\"\u0642\u0637\u0639\u0647 \u06a9\u062f RMSprop\" class=\"wp-image-14307\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-10.png 1006w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-10-300x127.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-10-768x325.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-10-585x248.png 585w\" sizes=\"(max-width: 1006px) 100vw, 1006px\" \/><\/figure><\/div>\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"885\" height=\"575\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-11.png\" alt=\"\u062e\u0631\u0648\u062c\u06cc RMSprop\" class=\"wp-image-14308\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-11.png 885w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-11-300x195.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-11-768x499.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-11-585x380.png 585w\" sizes=\"(max-width: 885px) 100vw, 885px\" \/><\/figure><\/div>\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Adam<\/h3>\n\n\n\n<p>Adam \u06a9\u0647 \u0645\u062e\u0641\u0641 \u00abAdaptive Moment Estimation\u00bb \u0627\u0633\u062a \u06cc\u06a9\u06cc \u0627\u0632 \u0645\u062d\u0628\u0648\u0628\u200c\u062a\u0631\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u062f\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0627\u0633\u062a. \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0648\u06cc\u0698\u06af\u06cc\u200c\u0647\u0627\u06cc \u0647\u0631 \u062f\u0648 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 RMSprop (\u0628\u0631\u0627\u06cc \u062a\u063a\u06cc\u06cc\u0631 \u062f\u0627\u06cc\u0646\u0627\u0645\u06cc\u06a9 Learning Rate) \u0648 Momentum (\u0628\u0631\u0627\u06cc \u0631\u0639\u0627\u06cc\u062a \u0634\u0631\u0637 smoothing) \u0631\u0627 \u062a\u0631\u06a9\u06cc\u0628 \u0645\u06cc\u200c\u06a9\u0646\u062f.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0686\u06af\u0648\u0646\u06af\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f Adam <\/h4>\n\n\n\n<p>Adam \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0631\u0627 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646\u200c\u0647\u0627\u06cc \u0645\u062d\u0627\u0633\u0628\u0647\u200c\u0634\u062f\u0647 \u0627\u0632 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627\u06cc \u0627\u0648\u0644 \u0648 \u062f\u0648\u0645 \u0628\u0631\u0627\u06cc \u0647\u0631 \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u0628\u0647\u200c\u0635\u0648\u0631\u062a \u062a\u0637\u0628\u06cc\u0642\u06cc \u062a\u0646\u0638\u06cc\u0645 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u060c \u0628\u0627 \u062a\u0631\u06a9\u06cc\u0628 \u0627\u06cc\u0646 \u062f\u0648 \u0645\u0639\u06cc\u0627\u0631\u060c \u0642\u0627\u0628\u0644\u06cc\u062a \u0628\u0647\u0628\u0648\u062f \u0633\u0631\u0639\u062a \u0648 \u067e\u0627\u06cc\u062f\u0627\u0631\u06cc \u062f\u0631 \u0641\u0631\u0627\u06cc\u0646\u062f \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0631\u0627 \u0641\u0631\u0627\u0647\u0645 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0646\u062d\u0648\u0647 \u06a9\u0627\u0631 \u0627\u06cc\u0646 Optimizer \u062f\u0631 \u0627\u06cc\u0646 \u0634\u06a9\u0644 \u0622\u0645\u062f\u0647 \u0627\u0633\u062a:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"678\" height=\"760\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-12.png\" alt=\"\u0641\u0631\u0645\u0648\u0644 Adam\" class=\"wp-image-14309\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-12.png 678w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-12-268x300.png 268w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-12-585x656.png 585w\" sizes=\"(max-width: 678px) 100vw, 678px\" \/><\/figure><\/div>\n\n\n<p>\u0647\u0645\u0627\u0646\u0637\u0648\u0631 \u06a9\u0647 \u062f\u0631 \u0627\u06cc\u0646 \u0634\u06a9\u0644 \u0645\u06cc\u200c\u0628\u06cc\u0646\u06cc\u062f\u060c \u0628\u0631\u0627\u06cc \u062c\u0644\u0648\u06af\u06cc\u0631\u06cc \u0627\u0632 \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u063a\u06cc\u0631 \u06cc\u06a9\u0646\u0648\u0627\u062e\u062a \u0648\u0632\u0646\u200c\u0647\u0627 \u0628\u0647 \u0648\u0627\u0633\u0637\u0647 \u062a\u063a\u06cc\u06cc\u0631 \u062f\u0633\u062a\u0647\u200c\u0647\u0627 (Batches) \u062f\u0631 \u0647\u0631 \u06af\u0627\u0645\u060c \u0627\u0632 \u0647\u0645\u0627\u0646 \u0627\u06cc\u062f\u0647 Momentum \u062f\u0631 \u0635\u0648\u0631\u062a \u06a9\u0633\u0631 \u0639\u0628\u0627\u0631\u062a\u06cc \u06a9\u0647 \u0648\u0638\u06cc\u0641\u0647 \u0628\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0631\u0627 \u062f\u0627\u0631\u062f \u0648 \u0628\u0631\u0627\u06cc \u06a9\u0627\u0647\u0634 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u06af\u0627\u0645\u200c\u0647\u0627\u06cc \u067e\u0627\u06cc\u0627\u0646\u06cc \u0627\u0632 \u0627\u06cc\u062f\u0647 RMSprop \u062f\u0631 \u0645\u062e\u0631\u062c \u0622\u0646 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0634\u062f\u0647 \u0627\u0633\u062a.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">\u0645\u0632\u0627\u06cc\u0627 \u0648 \u0645\u0639\u0627\u06cc\u0628 Adam<\/h4>\n\n\n\n<p>\u06cc\u06a9\u06cc \u0627\u0632 \u0628\u0632\u0631\u06af\u200c\u062a\u0631\u06cc\u0646 \u0645\u0632\u0627\u06cc\u0627\u06cc Adam \u0627\u06cc\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0646\u06cc\u0627\u0632 \u06a9\u0645\u062a\u0631\u06cc \u0628\u0647 \u062a\u0646\u0638\u06cc\u0645 \u062f\u0633\u062a\u06cc \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0627\u0631\u062f \u0648 \u062f\u0631 \u0628\u0633\u06cc\u0627\u0631\u06cc \u0627\u0632 \u0645\u0648\u0627\u0631\u062f\u060c \u0628\u0627 \u062a\u0646\u0638\u06cc\u0645\u0627\u062a \u067e\u06cc\u0634\u200c\u0641\u0631\u0636 \u0646\u06cc\u0632 \u0639\u0645\u0644\u06a9\u0631\u062f \u0628\u0633\u06cc\u0627\u0631 \u062e\u0648\u0628\u06cc \u0627\u0631\u0627\u0626\u0647 \u0645\u06cc\u200c\u06a9\u0646\u062f. Adam \u0628\u0647\u200c\u062e\u0648\u0628\u06cc \u0628\u0627 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0645\u062a\u0641\u0627\u0648\u062a \u0648 \u062f\u0631 \u0634\u0631\u0627\u06cc\u0637 \u0645\u062e\u062a\u0644\u0641 \u0622\u0645\u0648\u0632\u0634\u06cc \u0633\u0627\u0632\u06af\u0627\u0631 \u0627\u0633\u062a \u0648 \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc \u0622\u0646 \u062f\u0631 \u062a\u0637\u0628\u06cc\u0642 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631\u0627\u06cc \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u060c \u0628\u0647\u200c\u062e\u0635\u0648\u0635 \u062f\u0631 \u0645\u0648\u0627\u062c\u0647\u0647 \u0628\u0627 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0646\u0627\u0645\u062a\u0639\u0627\u062f\u0644 \u06cc\u0627 \u067e\u0631\u0627\u06a9\u0646\u062f\u0647\u060c \u0628\u0633\u06cc\u0627\u0631 \u0627\u0631\u0632\u0634\u0645\u0646\u062f \u0627\u0633\u062a.<\/p>\n\n\n\n<p>\u0628\u0627\u0627\u06cc\u0646\u200c\u062d\u0627\u0644 Adam \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u062f\u0631 \u0628\u0631\u062e\u06cc \u0645\u0648\u0627\u0631\u062f \u062e\u0627\u0635\u060c \u0628\u0647\u200c\u0648\u06cc\u0698\u0647 \u0632\u0645\u0627\u0646\u06cc \u06a9\u0647 \u062f\u0642\u062a \u0628\u0633\u06cc\u0627\u0631 \u0628\u0627\u0644\u0627\u06cc\u06cc \u0645\u0648\u0631\u062f\u0646\u06cc\u0627\u0632 \u0627\u0633\u062a\u060c \u0628\u0647\u200c\u0627\u0646\u062f\u0627\u0632\u0647 \u0628\u0631\u062e\u06cc \u0631\u0648\u0634\u200c\u0647\u0627\u06cc \u062f\u06cc\u06af\u0631 \u06a9\u0627\u0631\u0622\u0645\u062f \u0646\u0628\u0627\u0634\u062f\u061b \u0647\u0645\u0686\u0646\u06cc\u0646 \u0627\u06af\u0631\u0686\u0647 \u0646\u0633\u0628\u062a\u0627\u064b \u06a9\u0645\u062a\u0631 \u0627\u0632 \u062f\u06cc\u06af\u0631 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u0646\u06cc\u0627\u0632 \u0628\u0647 \u062a\u0646\u0638\u06cc\u0645 \u062f\u0627\u0631\u062f\u060c \u062f\u0631\u06a9 \u062f\u0631\u0633\u062a \u0627\u0632 \u0639\u0645\u0644\u06a9\u0631\u062f \u0622\u0646 \u0648 \u0627\u0646\u062a\u062e\u0627\u0628 \u062f\u0642\u06cc\u0642 \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627 \u0647\u0645\u0686\u0646\u0627\u0646 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0647 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0628\u06cc\u0634\u062a\u0631 \u0639\u0645\u0644\u06a9\u0631\u062f \u06a9\u0645\u06a9 \u06a9\u0646\u062f.<\/p>\n\n\n\n<p>\u062f\u0631\u0646\u0647\u0627\u06cc\u062a\u060c Adam\u060c \u0628\u0647\u200c\u0639\u0646\u0648\u0627\u0646 \u06cc\u06a9 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u0642\u062f\u0631\u062a\u0645\u0646\u062f \u0648 \u0627\u0646\u0639\u0637\u0627\u0641\u200c\u067e\u0630\u06cc\u0631\u060c \u0627\u0646\u062a\u062e\u0627\u0628 \u0645\u062d\u0628\u0648\u0628\u06cc \u062f\u0631 \u0645\u06cc\u0627\u0646 \u0645\u062d\u0642\u0642\u0627\u0646 \u0648 \u0645\u0647\u0646\u062f\u0633\u0627\u0646 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0627\u0633\u062a \u0648 \u062f\u0631 \u0637\u06cc\u0641 \u0648\u0633\u06cc\u0639\u06cc \u0627\u0632 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0648 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641 \u06a9\u0627\u0631\u0628\u0631\u062f \u0641\u0631\u0627\u0648\u0627\u0646\u06cc \u062f\u0627\u0631\u062f.<\/p>\n\n\n\n<p>\u062f\u0631 \u0627\u06cc\u0646 \u0642\u0633\u0645\u062a \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0642\u0637\u0639\u0647 \u06a9\u062f\u06cc \u0634\u0627\u0645\u0644 \u067e\u06cc\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0627\u06cc\u0646 Optimizer \u0631\u0627 \u0628\u0628\u0646\u06cc\u062f:<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"425\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-13-1024x425.png\" alt=\"\u0642\u0637\u0639\u0647 \u06a9\u062f Adam\" class=\"wp-image-14310\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-13-1024x425.png 1024w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-13-300x125.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-13-768x319.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-13-585x243.png 585w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-13.png 1065w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure><\/div>\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"850\" height=\"553\" src=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-14.png\" alt=\"\u062e\u0631\u0648\u062c\u06cc Adam\" class=\"wp-image-14311\" srcset=\"https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-14.png 850w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-14-300x195.png 300w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-14-768x500.png 768w, https:\/\/cafetadris.com\/blog\/wp-content\/uploads\/2024\/04\/image-14-585x381.png 585w\" sizes=\"(max-width: 850px) 100vw, 850px\" \/><\/figure><\/div>\n\n\n<p>\u0628\u0627 \u0645\u0637\u0627\u0644\u0639\u0647 \u0627\u06cc\u0646 \u067e\u0646\u062c \u0631\u0648\u0634 \u0645\u062a\u0648\u062c\u0647 \u0645\u06cc\u200c\u0634\u0648\u06cc\u0645 \u06a9\u0647 \u062a\u0645\u0627\u0645\u06cc \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u0628\u0631\u0631\u0633\u06cc\u200c\u0634\u062f\u0647 \u0642\u0627\u062f\u0631 \u0628\u0647 \u062f\u0633\u062a\u200c\u06cc\u0627\u0628\u06cc \u0628\u0647 \u0628\u0647\u06cc\u0646\u0647 \u06a9\u0644\u06cc \u062a\u0627\u0628\u0639 \u0647\u062f\u0641 \u0645\u0634\u062e\u0635\u200c\u0634\u062f\u0647 \u0647\u0633\u062a\u0646\u062f \u0648 \u062a\u0641\u0627\u0648\u062a \u0622\u0646\u200c\u0647\u0627 \u0635\u0631\u0641\u0627\u064b \u062f\u0631 \u0632\u0645\u0627\u0646\u06cc \u0627\u0633\u062a \u06a9\u0647 \u0628\u0647 \u0627\u06cc\u0646 \u0628\u0647\u06cc\u0646\u0647 \u0633\u0631\u0627\u0633\u0631\u06cc \u0645\u06cc\u200c\u0631\u0633\u0646\u062f.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u067e\u0631\u0633\u0634\u200c\u0647\u0627\u06cc \u0645\u062a\u062f\u0627\u0648\u0644<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 SGD (Stochastic Gradient Descent) \u0686\u06af\u0648\u0646\u0647 \u0628\u0647 \u06a9\u0627\u0647\u0634 \u062e\u0637\u0627\u06cc \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0648 \u0686\u0647 \u0686\u0627\u0644\u0634\u200c\u0647\u0627\u06cc\u06cc \u062f\u0631 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0622\u0646 \u0648\u062c\u0648\u062f \u062f\u0627\u0631\u062f\u061f<\/h3>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 SGD \u0628\u0627 \u0628\u0647\u200c\u0631\u0648\u0632\u0631\u0633\u0627\u0646\u06cc \u0648\u0632\u0646\u200c\u0647\u0627 \u0628\u0631\u0627\u0633\u0627\u0633 \u0646\u0645\u0648\u0646\u0647\u200c\u0647\u0627\u06cc \u062a\u0635\u0627\u062f\u0641\u06cc (\u0646\u0645\u0648\u0646\u0647\u200c\u0628\u0631\u062f\u0627\u0631\u06cc \u062a\u0635\u0627\u062f\u0641\u06cc) \u0627\u0632 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0648 \u062d\u0631\u06a9\u062a \u0628\u0647\u200c\u0633\u0645\u062a \u06a9\u0645\u06cc\u0646\u0647 \u0645\u062d\u0644\u06cc \u0628\u0647 \u06a9\u0627\u0647\u0634 \u062e\u0637\u0627 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u0632 \u0686\u0627\u0644\u0634\u200c\u0647\u0627\u06cc \u0622\u0646 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646 \u0628\u0647 \u062d\u0633\u0627\u0633\u06cc\u062a \u0628\u0647 \u0627\u0646\u062a\u062e\u0627\u0628 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc (Learning Rate) \u0648 \u0627\u062d\u062a\u0645\u0627\u0644 \u06af\u06cc\u0631\u0627\u0641\u062a\u0627\u062f\u0646 \u062f\u0631 \u06a9\u0645\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u0645\u062d\u0644\u06cc \u0627\u0634\u0627\u0631\u0647 \u06a9\u0631\u062f.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Momentum \u0686\u0647 \u0645\u0632\u06cc\u062a\u06cc \u0628\u0631 SGD \u062f\u0627\u0631\u062f \u0648 \u062f\u0631 \u0686\u0647 \u0634\u0631\u0627\u06cc\u0637\u06cc \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0628\u0647\u062a\u0631\u06cc \u0627\u0631\u0627\u0626\u0647 \u0645\u06cc\u200c\u06a9\u0646\u062f\u061f<\/h3>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Momentum \u0628\u0627 \u0627\u0636\u0627\u0641\u0647\u200c\u06a9\u0631\u062f\u0646 \u062c\u0632\u0626\u06cc \u062d\u0631\u06a9\u062a (Momentum) \u0628\u0647 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627\u060c \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u0648\u0632\u0646\u200c\u0647\u0627 \u0631\u0627 \u067e\u0627\u06cc\u062f\u0627\u0631\u062a\u0631 \u0648 \u0633\u0631\u06cc\u0639\u200c\u062a\u0631 \u0645\u06cc\u200c\u06a9\u0646\u062f\u060c \u0628\u0647\u200c\u062e\u0635\u0648\u0635 \u062f\u0631 \u0645\u0633\u06cc\u0631\u0647\u0627\u06cc\u06cc \u06a9\u0647 \u0634\u06cc\u0628 \u06a9\u0645\u06cc \u062f\u0627\u0631\u0646\u062f. \u0627\u06cc\u0646 \u0631\u0648\u0634 \u062f\u0631 \u0634\u0631\u0627\u06cc\u0637\u06cc \u06a9\u0647 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0646\u0648\u0633\u0627\u0646\u0627\u062a \u0648 \u062a\u063a\u06cc\u06cc\u0631\u0627\u062a \u06af\u0633\u062a\u0631\u062f\u0647\u200c\u0627\u06cc \u062f\u0627\u0631\u0646\u062f \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0628\u0627\u0644\u0627\u062a\u0631\u06cc \u062f\u0627\u0631\u062f.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Adagrad \u0686\u06af\u0648\u0646\u0647 \u0628\u0647 \u0628\u0647\u0628\u0648\u062f \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u067e\u0631\u0627\u06a9\u0646\u062f\u0647 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0648 \u0686\u0647 \u0645\u062d\u062f\u0648\u062f\u06cc\u062a\u200c\u0647\u0627\u06cc\u06cc \u062f\u0627\u0631\u062f\u061f<\/h3>\n\n\n\n<p>Adagrad \u0628\u0627 \u062a\u0637\u0628\u06cc\u0642 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631\u0627\u06cc \u0647\u0631 \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u0628\u0631\u0627\u0633\u0627\u0633 \u062a\u06a9\u0631\u0627\u0631 \u0622\u0646\u200c\u0647\u0627\u060c \u0628\u0647 \u0628\u0647\u0628\u0648\u062f \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u062f\u0627\u0631\u0627\u06cc \u062a\u0648\u0632\u06cc\u0639 \u0646\u0627\u0645\u062a\u0639\u0627\u062f\u0644 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0645\u062d\u062f\u0648\u062f\u06cc\u062a \u0627\u0635\u0644\u06cc \u0622\u0646 \u06a9\u0627\u0647\u0634 \u0634\u062f\u06cc\u062f \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062f\u0631 \u0637\u0648\u0644 \u0632\u0645\u0627\u0646 \u0627\u0633\u062a \u06a9\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u0628\u0647 \u06a9\u0646\u062f\u06cc \u067e\u06cc\u0634\u0631\u0641\u062a \u0628\u06cc\u0646\u062c\u0627\u0645\u062f.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">RMSPROP \u062f\u0631 \u0686\u0647 \u0645\u0648\u0627\u0631\u062f\u06cc \u0628\u0647 \u0639\u0646\u0648\u0627\u0646 \u06cc\u06a9 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u062a\u0631\u062c\u06cc\u062d \u062f\u0627\u062f\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f \u0648 \u0686\u0647 \u0645\u0632\u06cc\u062a\u200c\u0647\u0627\u06cc\u06cc \u0628\u0631 Adagrad \u062f\u0627\u0631\u062f\u061f<\/h3>\n\n\n\n<p>RMSPROP \u062f\u0631 \u0634\u0631\u0627\u06cc\u0637\u06cc \u06a9\u0647 Adagrad \u0628\u0627 \u06a9\u0627\u0647\u0634 \u0634\u062f\u06cc\u062f \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0648\u0627\u062c\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f \u062a\u0631\u062c\u06cc\u062d \u062f\u0627\u062f\u0647 \u0645\u06cc\u200c\u0634\u0648\u062f\u061b \u0632\u06cc\u0631\u0627 \u0628\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 \u0645\u06cc\u0627\u0646\u06af\u06cc\u0646 \u0645\u0631\u0628\u0639\u0627\u062a \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0631\u0627 \u0645\u062a\u0639\u0627\u062f\u0644\u200c\u062a\u0631 \u0646\u06af\u0647 \u0645\u06cc\u200c\u062f\u0627\u0631\u062f.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u0645\u0632\u06cc\u062a Adam \u062f\u0631 \u0645\u0642\u0627\u06cc\u0633\u0647 \u0628\u0627 \u062f\u06cc\u06af\u0631 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u0686\u06cc\u0633\u062a\u061f<\/h3>\n\n\n\n<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 Adam \u06cc\u06a9\u06cc \u0627\u0632 \u0627\u0644\u06af\u0648\u0631\u06cc\u062a\u0645\u200c\u0647\u0627\u06cc \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0645\u062d\u0628\u0648\u0628 \u062f\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0639\u0645\u06cc\u0642 \u0627\u0633\u062a \u06a9\u0647 \u0628\u0631\u062e\u06cc \u0645\u0632\u06cc\u062a\u200c\u0647\u0627\u06cc \u0645\u0647\u0645 \u062f\u0631 \u0645\u0642\u0627\u06cc\u0633\u0647 \u0628\u0627 \u062f\u06cc\u06af\u0631 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627 \u062f\u0627\u0631\u062f:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u062a\u0646\u0638\u06cc\u0645 \u062e\u0648\u062f\u06a9\u0627\u0631 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc: Adam \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0631\u0627 \u0628\u0631\u0627\u06cc \u0647\u0631 \u067e\u0627\u0631\u0627\u0645\u062a\u0631 \u0628\u0647\u200c\u0637\u0648\u0631 \u062c\u062f\u0627\u06af\u0627\u0646\u0647 \u062a\u0646\u0638\u06cc\u0645 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0627\u0645\u0631 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u062f \u062a\u0627 \u062f\u0631 \u0645\u0633\u0627\u0626\u0644\u06cc \u06a9\u0647 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0648 \u06cc\u0627 \u062a\u0627\u0628\u0639 \u0647\u0632\u06cc\u0646\u0647 \u067e\u06cc\u0686\u06cc\u062f\u06af\u06cc\u200c\u0647\u0627\u06cc \u0645\u062e\u062a\u0644\u0641\u06cc \u062f\u0627\u0631\u0646\u062f \u0639\u0645\u0644\u06a9\u0631\u062f \u0628\u0647\u062a\u0631\u06cc \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u062f.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u06a9\u0627\u0631\u0622\u0645\u062f \u062f\u0631 \u0634\u0631\u0627\u06cc\u0637 \u0645\u062e\u062a\u0644\u0641: Adam \u0628\u0647\u200c\u0637\u0648\u0631 \u0645\u0639\u0645\u0648\u0644 \u062f\u0631 \u0628\u0633\u06cc\u0627\u0631\u06cc \u0627\u0632 \u0634\u0631\u0627\u06cc\u0637 \u0645\u062e\u062a\u0644\u0641 \u0628\u0647\u200c\u062e\u0648\u0628\u06cc \u0639\u0645\u0644 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0648 \u0628\u0647 \u062a\u0646\u0638\u06cc\u0645 \u062f\u0633\u062a\u06cc \u0648 \u062f\u0642\u06cc\u0642 \u067e\u0627\u0631\u0627\u0645\u062a\u0631\u0647\u0627 \u0646\u06cc\u0627\u0632\u06cc \u0646\u062f\u0627\u0631\u062f\u061b \u0627\u06cc\u0646 \u0627\u0645\u0631 \u0622\u0646 \u0631\u0627 \u0628\u0631\u0627\u06cc \u06a9\u0627\u0631\u0628\u0631\u0627\u0646 \u06a9\u0645\u200c\u062a\u062c\u0631\u0628\u0647 \u0645\u0646\u0627\u0633\u0628 \u0645\u06cc\u200c\u06a9\u0646\u062f.<\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u062f\u0627\u0634\u062a\u0646 \u062a\u0631\u06a9\u06cc\u0628\u06cc \u0627\u0632 \u0645\u0632\u06cc\u062a\u200c\u0647\u0627\u06cc RMSprop \u0648 Momentum: \u0628\u0647\u200c\u0637\u0648\u0631 \u0647\u0645\u0632\u0645\u0627\u0646 \u0627\u0632 \u0645\u0632\u0627\u06cc\u0627\u06cc \u0647\u0631 \u062f\u0648 \u0627\u0644\u06af\u0648\u0631\u06cc\u062a\u0645 RMSprop (\u062a\u0646\u0638\u06cc\u0645 \u0646\u0631\u062e \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631\u0627\u0633\u0627\u0633 \u0622\u062e\u0631\u06cc\u0646 \u06af\u0631\u0627\u062f\u06cc\u0627\u0646\u200c\u0647\u0627) \u0648 Momentum (smoothing) \u0628\u0647\u0631\u0647 \u0645\u06cc\u200c\u0628\u0631\u062f.<\/li>\n<\/ul>\n\n\n\n<p>\u0628\u0627 \u0648\u062c\u0648\u062f \u0627\u06cc\u0646 \u0645\u0632\u06cc\u062a\u200c\u0647\u0627\u060c \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0627\u0632 Adam \u062f\u0631 \u0647\u0645\u0647 \u0645\u0648\u0642\u0639\u06cc\u062a\u200c\u0647\u0627 \u062a\u0648\u0635\u06cc\u0647 \u0646\u0645\u06cc\u200c\u0634\u0648\u062f. \u0628\u0631\u062e\u06cc \u062a\u062d\u0642\u06cc\u0642\u0627\u062a \u0646\u0634\u0627\u0646 \u062f\u0627\u062f\u0647\u200c\u0627\u0646\u062f \u06a9\u0647 \u062f\u0631 \u0645\u0648\u0627\u0631\u062f \u062e\u0627\u0635\u06cc\u060c \u0645\u0627\u0646\u0646\u062f \u0622\u0645\u0648\u0632\u0634 \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0628\u0633\u06cc\u0627\u0631 \u0639\u0645\u06cc\u0642 \u06cc\u0627 \u0645\u062c\u0645\u0648\u0639\u0647\u200c\u062f\u0627\u062f\u0647\u200c\u0647\u0627\u06cc \u0628\u0627 \u0646\u0648\u06cc\u0632 \u0632\u06cc\u0627\u062f\u060c \u0645\u0645\u06a9\u0646 \u0627\u0633\u062a \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u0647\u0627\u06cc \u062f\u06cc\u06af\u0631\u06cc \u0645\u0627\u0646\u0646\u062f SGD \u0639\u0645\u0644\u06a9\u0631\u062f \u0628\u0647\u062a\u0631\u06cc \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u0646\u062f.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0627\u0634\u06cc\u0646 \u0644\u0631\u0646\u06cc\u0646\u06af \u0631\u0627 \u0627\u0632 \u0627\u0645\u0631\u0648\u0632 \u0634\u0631\u0648\u0639 \u06a9\u0646\u06cc\u062f!<\/h2>\n\n\n\n<p>\u062f\u0646\u06cc\u0627\u06cc \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u062c\u0630\u0627\u0628 \u0627\u0633\u062a \u0648 \u062f\u0627\u0646\u0633\u062a\u0646 \u062f\u06cc\u062a\u0627 \u0633\u0627\u06cc\u0646\u0633 \u062a\u0648\u0627\u0646\u0627\u06cc\u06cc \u062a\u062d\u0644\u06cc\u0644 \u062f\u0627\u062f\u0647\u200c \u06cc\u0627 \u0628\u0627\u0632\u0627\u0631\u06cc\u0627\u0628\u06cc \u0645\u0628\u062a\u0646\u06cc \u0628\u0631 \u062f\u0627\u062f\u0647 \u0634\u0645\u0627 \u0631\u0627 \u0628\u0631\u0627\u06cc \u0641\u0631\u0635\u062a\u200c\u0647\u0627\u06cc \u0634\u063a\u0644\u06cc \u0628\u0633\u06cc\u0627\u0631\u06cc \u0645\u0646\u0627\u0633\u0628 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0641\u0627\u0631\u063a \u0627\u0632 \u0631\u0634\u062a\u0647\u200c \u0648 \u067e\u06cc\u0634\u200c\u0632\u0645\u06cc\u0646\u0647\u200c \u062a\u062d\u0635\u06cc\u0644\u06cc \u06cc\u0627 \u0634\u063a\u0644\u06cc\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0627\u06cc\u0646 \u062f\u0627\u0646\u0634 \u0631\u0627 \u0647\u0645\u06cc\u0646 \u0627\u0645\u0631\u0648\u0632 \u0634\u0631\u0648\u0639 \u06a9\u0646\u06cc\u062f \u0648 \u0627\u0632 \u0633\u0637\u062d \u0645\u0642\u062f\u0645\u0627\u062a\u06cc \u062a\u0627 \u067e\u06cc\u0634\u0631\u0641\u062a\u0647 \u0622\u0646 \u0631\u0627 \u0628\u06cc\u0627\u0645\u0648\u0632\u06cc\u062f. \u0627\u06af\u0631 \u062f\u0648\u0633\u062a \u062f\u0627\u0631\u06cc\u062f \u0628\u0647 \u0627\u06cc\u0646 \u062d\u0648\u0632\u0647 \u0648\u0627\u0631\u062f \u0634\u0648\u06cc\u062f\u060c \u067e\u06cc\u0634\u0646\u0647\u0627\u062f \u0645\u06cc\u200c\u06a9\u0646\u06cc\u0645 \u0628\u0627 \u06a9\u0644\u06cc\u06a9 \u0631\u0648\u06cc \u0627\u06cc\u0646 \u0644\u06cc\u0646\u06a9 \u0642\u062f\u0645 \u0627\u0648\u0644 \u0631\u0627 \u0647\u0645\u06cc\u0646 \u062d\u0627\u0644\u0627 \u0628\u0631\u062f\u0627\u0631\u06cc\u062f.<\/p>\n\n\n\n<p>\u0645\u0634\u0627\u0648\u0631\u0627\u0646 \u06a9\u0627\u0641\u0647\u200c\u062a\u062f\u0631\u06cc\u0633 \u0628\u0647 \u0634\u0645\u0627 \u06a9\u0645\u06a9 \u0645\u06cc\u200c\u06a9\u0646\u0646\u062f \u0645\u0633\u06cc\u0631 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0628\u0631\u0627\u06cc \u0648\u0631\u0648\u062f \u0628\u0647 \u0627\u06cc\u0646 \u062d\u0648\u0632\u0647 \u0631\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0646\u06cc\u062f:<\/p>\n\n\n<p><a class=\"call-to-btn\" href=\"https:\/\/cafetadris.com\/datascience\" target=\"_blank\" rel=\"noopener noreferrer\" data-wplink-edit=\"true\">\u062f\u0648\u0631\u0647 \u062c\u0627\u0645\u0639 \u062f\u06cc\u062a\u0627 \u0633\u0627\u06cc\u0646\u0633 \u0648 \u0645\u0627\u0634\u06cc\u0646 \u0644\u0631\u0646\u06cc\u0646\u06af<\/a><\/p>","protected":false},"excerpt":{"rendered":"<p>\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632 \u06cc\u0627 Optimizer \u0646\u0642\u0634 \u0645\u062d\u0648\u0631\u06cc \u062f\u0631 \u062a\u0648\u0633\u0639\u0647 \u0648 \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0634\u0628\u06a9\u0647\u200c\u0647\u0627\u06cc \u0639\u0635\u0628\u06cc \u0627\u06cc\u0641\u0627 \u0645\u06cc\u200c\u06a9\u0646\u062f. \u0627\u06cc\u0646 \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u0642\u062f\u0631\u062a\u0645\u0646\u062f \u06a9\u0647 \u0628\u0627 \u0627\u0644\u0647\u0627\u0645 \u0627\u0632 \u0645\u06a9\u0627\u0646\u06cc\u0632\u0645\u200c\u0647\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u063a\u0632 \u0627\u0646\u0633\u0627\u0646 \u0637\u0631\u0627\u062d\u06cc \u0634\u062f\u0647\u200c\u0627\u0646\u062f \u0628\u0647 \u0645\u062f\u0644\u200c\u0647\u0627\u06cc \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u0645\u0627\u0634\u06cc\u0646\u06cc \u0627\u062c\u0627\u0632\u0647 \u0645\u06cc\u200c\u062f\u0647\u0646\u062f \u062a\u0627 \u0628\u0627 \u06a9\u0627\u0631\u0627\u06cc\u06cc \u0628\u06cc\u0634\u062a\u0631 \u0648 \u0633\u0631\u0639\u062a \u0628\u0627\u0644\u0627\u062a\u0631 \u0628\u0647 \u0627\u0647\u062f\u0627\u0641 \u06cc\u0627\u062f\u06af\u06cc\u0631\u06cc \u062e\u0648\u062f \u0628\u0631\u0633\u0646\u062f. \u0627\u0632&#8230;<\/p>\n","protected":false},"author":11,"featured_media":14318,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[558],"tags":[1118,1117,658,571],"yst_prominent_words":[],"class_list":["post-14296","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-558","tag-optimizer","tag-1117","tag-658","tag-571"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/posts\/14296","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/comments?post=14296"}],"version-history":[{"count":10,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/posts\/14296\/revisions"}],"predecessor-version":[{"id":17265,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/posts\/14296\/revisions\/17265"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/media\/14318"}],"wp:attachment":[{"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/media?parent=14296"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/categories?post=14296"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/tags?post=14296"},{"taxonomy":"yst_prominent_words","embeddable":true,"href":"https:\/\/cafetadris.com\/blog\/wp-json\/wp\/v2\/yst_prominent_words?post=14296"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}