{"id":24133,"date":"2026-05-19T01:44:20","date_gmt":"2026-05-19T01:44:20","guid":{"rendered":"https:\/\/umang.pk\/2026\/05\/19\/ai-%d9%be%db%8c%d9%be%d8%b1-%d8%b1%db%8c%d9%88%db%8c%d9%88-%d8%b2%d8%a8%d8%a7%d9%86-%da%a9%db%92-%d9%85%d8%a7%da%88%d9%84%d8%b2-%d8%a8%db%81%d8%aa-%da%a9%d9%85-%d8%b3%db%8c%da%a9%da%be%d9%86%db%92\/"},"modified":"2026-05-19T01:44:22","modified_gmt":"2026-05-19T01:44:22","slug":"ai-%d9%be%db%8c%d9%be%d8%b1-%d8%b1%db%8c%d9%88%db%8c%d9%88-%d8%b2%d8%a8%d8%a7%d9%86-%da%a9%db%92-%d9%85%d8%a7%da%88%d9%84%d8%b2-%d8%a8%db%81%d8%aa-%da%a9%d9%85-%d8%b3%db%8c%da%a9%da%be%d9%86%db%92","status":"publish","type":"post","link":"https:\/\/umang.pk\/ur\/2026\/05\/19\/ai-%d9%be%db%8c%d9%be%d8%b1-%d8%b1%db%8c%d9%88%db%8c%d9%88-%d8%b2%d8%a8%d8%a7%d9%86-%da%a9%db%92-%d9%85%d8%a7%da%88%d9%84%d8%b2-%d8%a8%db%81%d8%aa-%da%a9%d9%85-%d8%b3%db%8c%da%a9%da%be%d9%86%db%92\/","title":{"rendered":"AI \u067e\u06cc\u067e\u0631 \u0631\u06cc\u0648\u06cc\u0648: \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0628\u06c1\u062a \u06a9\u0645 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u06c1\u06cc\u06ba (GPT-3)"},"content":{"rendered":"\n<div id=\"\">\n<p>GPT-2 \u06a9\u06d2 \u0628\u0639\u062f\u060c \u06cc\u06c1 \u0648\u0627\u0636\u062d \u06c1\u0648 \u06af\u06cc\u0627 \u06a9\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0645\u062d\u0642\u0642\u06cc\u0646 \u06a9\u06cc \u0627\u0635\u0644 \u062a\u0648\u0642\u0639 \u0633\u06d2 \u06a9\u06c1\u06cc\u06ba \u0632\u06cc\u0627\u062f\u06c1 \u06a9\u0627\u0645 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0627\u06af\u0644\u06d2 \u0644\u0641\u0638 \u06a9\u06cc \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0635\u0631\u0641 \u0627\u06cc\u06a9 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u0646\u06d2 \u067e\u06c1\u0644\u06d2 \u06c1\u06cc \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0635\u0644\u0627\u062d\u06cc\u062a\u06cc\u06ba \u067e\u06cc\u062f\u0627 \u06a9\u0631\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc \u06c1\u06cc\u06ba \u062c\u06cc\u0633\u06d2 \u062a\u0631\u062c\u0645\u06c1\u060c \u062e\u0644\u0627\u0635\u06c1\u060c \u0627\u0648\u0631 \u0633\u0648\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a \u0628\u063a\u06cc\u0631 \u06a9\u0633\u06cc \u0645\u062e\u0635\u0648\u0635 \u06a9\u0627\u0645 \u06a9\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2\u06d4<\/p>\n<p>\u062a\u0627\u06c1\u0645\u060c \u0627\u0628 \u0628\u06be\u06cc \u0628\u0691\u06cc \u062d\u062f\u0648\u062f \u0645\u0648\u062c\u0648\u062f \u062a\u06be\u06cc\u06ba\u06d4 \u0627\u06af\u0631\u0686\u06c1 GPT-2 \u0645\u062a\u0639\u062f\u062f \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0639\u0627\u0645 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0642\u0627\u0628\u0644 \u062a\u06be\u0627\u060c \u0627\u0633 \u0646\u06d2 \u067e\u06be\u0631 \u0628\u06be\u06cc \u0642\u0627\u0628\u0644 \u0627\u0639\u062a\u0645\u0627\u062f \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0627\u067e\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u062c\u062f\u0648\u062c\u06c1\u062f \u06a9\u06cc\u06d4 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0627\u0646\u062d\u0635\u0627\u0631 \u0627\u06a9\u062b\u0631 \u0627\u062d\u062a\u06cc\u0627\u0637 \u0633\u06d2 \u062a\u06cc\u0627\u0631 \u06a9\u06cc\u06d2 \u06af\u0626\u06d2 \u0627\u0634\u0627\u0631\u06d2 \u067e\u0631 \u06c1\u0648\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u067e\u06be\u0631 \u0628\u06be\u06cc \u062d\u0642\u06cc\u0642\u06cc \u062f\u0646\u06cc\u0627 \u06a9\u06cc \u0627\u06cc\u067e\u0644\u06cc \u06a9\u06cc\u0634\u0646\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4 AI \u0633\u0633\u0679\u0645\u0632 \u0632\u06cc\u0627\u062f\u06c1 \u0644\u0686\u06a9\u062f\u0627\u0631 \u06c1\u0648\u062a\u06d2 \u062c\u0627 \u0631\u06c1\u06d2 \u06c1\u06cc\u06ba\u060c \u0644\u06cc\u06a9\u0646 \u0648\u06c1 \u0627\u0628 \u0628\u06be\u06cc \u0627\u0646\u0633\u0627\u0646\u0648\u06ba \u06a9\u06cc \u0637\u0631\u062d \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u06a9\u0627\u0645 \u0646\u06c1\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>GPT-3 \u067e\u06be\u0631 \u0627\u0633 \u062e\u06cc\u0627\u0644 \u06a9\u0648 \u0627\u0648\u0631 \u0628\u06be\u06cc \u0622\u06af\u06d2 \u0644\u06d2 \u06af\u06cc\u0627\u06d4 \u06cc\u06c1 \u067e\u0648\u0686\u06be\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u06a9\u06c1 \u06a9\u06cc\u0627 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u06a9\u0627\u0645 \u0627\u0646\u062c\u0627\u0645 \u062f\u06d2 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u060c \u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0646\u06d2 \u06a9\u0686\u06be \u0632\u06cc\u0627\u062f\u06c1 \u06c1\u06cc \u0645\u06c1\u062a\u0648\u0627\u06a9\u0627\u0646\u06a9\u0634\u06cc \u06a9\u06cc \u06a9\u06be\u0648\u062c \u06a9\u06cc\u06d4<\/p>\n<p>\u062c\u0628 \u0622\u067e \u0627\u067e\u0646\u06d2 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0627\u0646\u062a\u06c1\u0627\u0626\u06cc \u0633\u0627\u0626\u0632 \u0645\u06cc\u06ba \u067e\u06cc\u0645\u0627\u0646\u06c1 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u062a\u0648 \u06a9\u06cc\u0627 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u061f \u062c\u0648\u0627\u0628 \u0646\u06d2 AI \u06a9\u0645\u06cc\u0648\u0646\u0679\u06cc \u0645\u06cc\u06ba \u062a\u0642\u0631\u06cc\u0628\u0627\u064b \u0633\u0628 \u06a9\u0648 \u062d\u06cc\u0631\u0627\u0646 \u06a9\u0631 \u062f\u06cc\u0627\u06d4<\/p>\n<p>GPT-3 \u0646\u06d2 \u0638\u0627\u06c1\u0631 \u06a9\u06cc\u0627 \u06a9\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u06a9\u0627\u0641\u06cc \u0628\u0691\u0627 \u0645\u0627\u0688\u0644 \u0627\u06a9\u062b\u0631 \u0646\u0626\u06d2 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u067e\u0631\u0627\u0645\u067e\u0679 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u0645\u0648\u062c\u0648\u062f \u0645\u062b\u0627\u0644\u0648\u06ba \u0633\u06d2 \u0633\u06cc\u06a9\u06be \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u06a9\u0648\u0626\u06cc \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u0646\u06c1\u06cc\u06ba. \u06a9\u0648\u0626\u06cc \u062a\u062f\u0631\u06cc\u062c\u06cc \u0627\u067e \u0688\u06cc\u0679\u0633 \u0646\u06c1\u06cc\u06ba \u06c1\u06cc\u06ba\u06d4 \u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u0645\u06cc\u06ba \u0644\u06a9\u06be\u06d2 \u06af\u0626\u06d2 \u06a9\u0686\u06be \u0645\u0638\u0627\u06c1\u0631\u06d2 \u06cc\u06c1 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u062b\u0627\u0644 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631\u060c \u0627\u06af\u0631 \u0622\u067e \u0645\u0627\u0688\u0644 \u06a9\u0648 \u06a9\u0626\u06cc \u0627\u0646\u06af\u0631\u06cc\u0632\u06cc-\u0641\u0631\u0627\u0646\u0633\u06cc\u0633\u06cc \u062a\u0631\u062c\u0645\u06d2 \u062f\u06a9\u06be\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062a\u0648 \u0645\u0627\u0688\u0644 \u0646\u0626\u06d2 \u062c\u0645\u0644\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u062f\u0631\u0633\u062a \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u0633\u0648\u0627\u0644\u0627\u062a \u0627\u0648\u0631 \u062c\u0648\u0627\u0628\u0627\u062a \u06a9\u06cc \u0645\u062b\u0627\u0644\u06cc\u06ba \u0641\u0631\u0627\u06c1\u0645 \u06a9\u0631\u0646\u0627 \u0627\u06a9\u062b\u0631 \u0622\u067e \u06a9\u0648 \u0641\u0648\u0631\u06cc \u0637\u0648\u0631 \u067e\u0631 \u06a9\u0627\u0631\u0631\u0648\u0627\u0626\u06cc \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u06d2 \u0627\u0648\u0631 \u0645\u0639\u0642\u0648\u0644 \u062c\u0648\u0627\u0628 \u067e\u06cc\u062f\u0627 \u06a9\u0631\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0645\u0634\u06c1\u0648\u0631 \u06c1\u0648\u0627: <em>\u0686\u0646\u062f \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u06d2<\/em> \u0627\u0648\u0631 <em>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em>.<\/p>\n<p>\u0632\u06cc\u0627\u062f\u06c1 \u0627\u06c1\u0645 \u0628\u0627\u062a \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1\u060c GPT-3 AI \u0633\u0633\u0679\u0645\u0632 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0628\u0627\u062a \u0686\u06cc\u062a \u06a9\u0631\u0646\u06d2 \u06a9\u0627 \u0627\u06cc\u06a9 \u0628\u0627\u0644\u06a9\u0644 \u0645\u062e\u062a\u0644\u0641 \u0637\u0631\u06cc\u0642\u06c1 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u06c1\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0644\u06af \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0648\u06c1\u06cc \u0645\u0627\u0688\u0644 \u0627\u0633\u06d2 \u0645\u0648\u0635\u0648\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06cc \u06c1\u062f\u0627\u06cc\u0627\u062a \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u067e\u0631 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0688\u06be\u0627\u0644 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u062e\u06cc\u0627\u0644 \u0628\u0627\u0644\u0622\u062e\u0631 ChatGPT \u062c\u06cc\u0633\u06d2 \u062c\u062f\u06cc\u062f AI \u0633\u0633\u0679\u0645\u0632 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u0628\u0646 \u06af\u06cc\u0627\u06d4<\/p>\n<p>\u0627\u0628\u060c \u0628\u06c1\u062a \u0633\u06d2 \u0628\u0627\u0627\u062b\u0631 AI \u067e\u06cc\u067e\u0631\u0632 \u06a9\u06cc \u0637\u0631\u062d\u060c GPT-3 \u067e\u06cc\u067e\u0631 \u06a9\u0648 \u0627\u0633 \u06a9\u06d2 \u0633\u0627\u0626\u0632\u060c \u062a\u06a9\u0646\u06cc\u06a9\u06cc \u062a\u062c\u0631\u0628\u0627\u062a\u060c \u0627\u0648\u0631 \u0637\u0648\u06cc\u0644 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u06a9\u06cc \u062a\u0634\u062e\u06cc\u0635 \u06a9\u06cc \u0648\u062c\u06c1 \u0633\u06d2 \u067e\u0691\u06be\u0646\u0627 \u0645\u0634\u06a9\u0644 \u06c1\u0648 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u0644\u06c1\u0630\u0627\u060c \u0627\u0633 \u0645\u0636\u0645\u0648\u0646 \u0645\u06cc\u06ba\u060c \u06c1\u0645 \u0627\u0646 \u0633\u0628 \u06a9\u0648 \u0648\u0627\u0636\u062d \u0627\u0648\u0631 \u0639\u0645\u0644\u06cc \u0637\u0648\u0631 \u067e\u0631 \u062a\u0648\u0691 \u062f\u06cc\u06ba \u06af\u06d2\u06d4<\/p>\n<p>\u0622\u0626\u06cc\u06d2 \u0627\u0633 \u067e\u0631 \u0627\u06cc\u06a9 \u0646\u0638\u0631 \u0688\u0627\u0644\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 \u067e\u06cc\u067e\u0631 \u06a9\u0633 \u0645\u0633\u0626\u0644\u06d2 \u06a9\u0648 \u062d\u0644 \u06a9\u0631\u0646\u06d2 \u06a9\u06cc \u06a9\u0648\u0634\u0634 \u06a9\u0631 \u0631\u06c1\u0627 \u062a\u06be\u0627\u060c \u0686\u0646\u062f \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af \u06a9\u06cc\u0633\u06d2 \u06a9\u0627\u0645 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u060c \u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u0627\u062a\u0646\u06cc \u0627\u06c1\u0645 \u06a9\u06cc\u0648\u06ba \u06c1\u0648 \u06af\u0626\u06cc\u060c GPT-3 \u06a9\u0648 \u06a9\u0633 \u0637\u0631\u062d \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06af\u0626\u06cc\u060c \u0627\u0648\u0631 \u0627\u0633 \u067e\u06cc\u067e\u0631 \u0646\u06d2 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u062c\u062f\u06cc\u062f AI \u062a\u062d\u0642\u06cc\u0642 \u06a9\u06cc \u0633\u0645\u062a \u06a9\u06cc\u0648\u06ba \u0628\u062f\u0644 \u062f\u06cc\u06d4<\/p>\n<p>\u0622\u062e\u0631 \u0645\u06cc\u06ba\u060c \u0622\u067e \u06a9\u0648 GPT-3 \u06a9\u06d2 \u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644\u0627\u062a \u06a9\u0648 \u0633\u0645\u062c\u06be\u0646\u0627 \u0686\u0627\u06c1\u06cc\u06d2 \u0627\u0648\u0631 \u06cc\u06c1 \u067e\u06cc\u067e\u0631 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644 LLM \u06a9\u06cc \u062a\u0627\u0631\u06cc\u062e \u0645\u06cc\u06ba \u0633\u0628 \u0633\u06d2 \u0627\u06c1\u0645 \u0633\u0646\u06af \u0645\u06cc\u0644 \u06a9\u06cc\u0648\u06ba \u0628\u0646 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-paper-overview\">\u0645\u0642\u0627\u0644\u06c1 \u06a9\u0627 \u062e\u0627\u06a9\u06c1<\/h2>\n<p>\u0627\u0633 \u0645\u0636\u0645\u0648\u0646 \u0645\u06cc\u06ba\u060c \u06c1\u0645 \u06a9\u0627\u063a\u0630 \u06a9\u0627 \u062c\u0627\u0626\u0632\u06c1 \u0644\u06cc\u06ba \u06af\u06d2. <em>\u0632\u0628\u0627\u0646 \u06a9\u0627 \u0646\u0645\u0648\u0646\u06c1 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u0648\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0627\u06cc\u06a9 \u0686\u06be\u0648\u0679\u06cc \u062a\u0639\u062f\u0627\u062f \u06c1\u06d2\u06d4<\/em> \u0679\u0627\u0645 \u0628\u0631\u0627\u0624\u0646 \u0648\u063a\u06cc\u0631\u06c1\u06d4 \u0627\u0648\u067e\u0646 \u0627\u06d2 \u0622\u0626\u06cc \u0645\u06cc\u06ba\u06d4<\/p>\n<p>\u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0646\u06d2 GPT-3 \u0645\u062a\u0639\u0627\u0631\u0641 \u06a9\u0631\u0627\u06cc\u0627 \u0627\u0648\u0631 \u062c\u062f\u06cc\u062f AI \u062a\u062d\u0642\u06cc\u0642 \u06a9\u06cc \u0633\u0645\u062a \u0645\u06cc\u06ba \u062a\u0628\u062f\u06cc\u0644\u06cc \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u06cc\u0627\u06d4 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0632 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u0627\u0634\u0627\u0631\u06d2 \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u0633\u06d2 \u0679\u0627\u0633\u06a9 \u0645\u062e\u0635\u0648\u0635 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u0633\u06cc\u06a9\u06be \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062c\u06cc\u0633\u0627 \u06a9\u06c1 GPT-1 \u06a9\u06d2 \u0637\u0631\u06cc\u0642\u06c1 \u06a9\u0627\u0631 \u0645\u06cc\u06ba \u06c1\u06d2\u06d4<\/p>\n<p>\u06c1\u0631 \u0646\u0626\u06d2 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c GPT-3 \u0627\u06a9\u062b\u0631 \u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06cc \u06c1\u062f\u0627\u06cc\u0627\u062a\u060c \u06cc\u06a9 \u0637\u0631\u0641\u06c1 \u0645\u062b\u0627\u0644\u0648\u06ba\u060c \u06cc\u0627 \u062a\u06be\u0648\u0691\u06cc \u062a\u0639\u062f\u0627\u062f \u0645\u06cc\u06ba \u0627\u0634\u0627\u0631\u06d2 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0688\u06be\u0627\u0644 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u062f\u0631\u062c \u0630\u06cc\u0644 \u062e\u06cc\u0627\u0644\u0627\u062a \u0628\u06be\u06cc \u067e\u06cc\u0634 \u06a9\u06cc\u06d2 \u06af\u0626\u06d2: <em>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em>\u06cc\u06c1\u0627\u06ba\u060c \u0645\u0627\u0688\u0644 \u0642\u06cc\u0627\u0633 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u062e\u0648\u062f \u067e\u0631\u0627\u0645\u067e\u0679 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u067e\u06cc\u0679\u0631\u0646 \u0633\u06d2 \u0645\u0624\u062b\u0631 \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u06af\u0631 \u0622\u067e \u0627\u0633\u06d2 \u062e\u0648\u062f \u062f\u0631\u06cc\u0627\u0641\u062a \u06a9\u0631\u0646\u0627 \u0686\u0627\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba \u062a\u0648 \u0627\u0635\u0644 \u06a9\u0627\u063a\u0630 \u06cc\u06c1 \u06c1\u06d2: <em>\u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u0641\u06cc\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0631\u0632 (\u067e\u06cc \u0688\u06cc \u0627\u06cc\u0641) \u06c1\u06d2\u06d4<\/em><\/p>\n<p>\u0630\u06cc\u0644 \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0641\u0648\u0631\u06cc \u0627\u0646\u0641\u0648\u06af\u0631\u0627\u0641\u06a9 \u06c1\u06d2 \u062c\u0633 \u06a9\u0627 \u06c1\u0645 \u0627\u0633 \u067e\u0648\u0631\u06d2 \u062c\u0627\u0626\u0632\u06d2 \u0645\u06cc\u06ba \u0627\u062d\u0627\u0637\u06c1 \u06a9\u0631\u06cc\u06ba \u06af\u06d2\u06d4<\/p>\n<h2 id=\"heading-table-of-content\">\u0627\u0634\u0627\u0631\u06cc\u06c1:<\/h2>\n<h2 id=\"heading-prerequisites\">\u0634\u0631\u0637\u06cc\u06ba<\/h2>\n<p>\u0627\u0633 \u062a\u062c\u0632\u06cc\u06c1 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0641\u0627\u0626\u062f\u06c1 \u0627\u0679\u06be\u0627\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2\u060c \u06cc\u06c1 \u06a9\u0686\u06be \u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644\u0627\u062a \u0633\u06d2 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u0648\u0627\u0642\u0641 \u06c1\u0648\u0646\u06d2 \u0645\u06cc\u06ba \u0645\u062f\u062f \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0622\u067e \u06a9\u0648 \u0627\u0633 \u0633\u06cc\u0631\u06cc\u0632 \u0645\u06cc\u06ba \u067e\u0686\u06be\u0644\u06d2 \u062c\u0627\u0626\u0632\u06d2 \u067e\u0691\u06be\u0646\u0627 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0645\u062f\u062f\u06af\u0627\u0631 \u062b\u0627\u0628\u062a \u06c1\u0648\u06af\u0627\u06d4<\/p>\n<p>GPT-3 \u067e\u0686\u06be\u0644\u06d2 \u067e\u06cc\u067e\u0631\u0632 \u0645\u06cc\u06ba \u0645\u062a\u0639\u0627\u0631\u0641 \u06a9\u0631\u0627\u0626\u06d2 \u06af\u0626\u06d2 \u0628\u06c1\u062a \u0633\u06d2 \u0622\u0626\u06cc\u0688\u06cc\u0627\u0632 \u067e\u0631 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u062a\u0639\u0645\u06cc\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0644\u063a\u062a \u0633\u06cc\u06a9\u06be\u0646\u0627\u060c \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af\u060c \u0627\u0648\u0631 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0646\u06af\u06d4<\/p>\n<p>\u0622\u067e \u06a9\u0648 \u062f\u0631\u062c \u0630\u06cc\u0644 \u0645\u062f\u062f\u06af\u0627\u0631 \u0628\u06be\u06cc \u0645\u0644 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba:<\/p>\n<ul>\n<li>\n<p>\u0646\u06cc\u0686\u0631\u0644 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u067e\u0631\u0648\u0633\u06cc\u0633\u0646\u06af (NLP) \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0639\u0627\u0645 \u0641\u06c1\u0645 \u0627\u0648\u0631 \u0645\u0634\u06cc\u0646\u06cc\u06ba \u0645\u062a\u0646 \u06a9\u0648 \u06a9\u06cc\u0633\u06d2 \u067e\u0631\u0648\u0633\u06cc\u0633 \u06a9\u0631\u062a\u06cc \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0645\u0627\u0688\u0644 \u06a9\u06cc\u0627 \u06c1\u06d2 \u0627\u0633 \u06a9\u0627 \u0627\u06cc\u06a9 \u0627\u0639\u0644\u06cc\u0670 \u0633\u0637\u062d\u06cc \u062e\u06cc\u0627\u0644 (\u06a9\u0648\u0626\u06cc \u06af\u06c1\u0631\u06cc \u0631\u06cc\u0627\u0636\u06cc\u0627\u062a\u06cc \u062a\u0641\u0635\u06cc\u0644\u0627\u062a \u062f\u0631\u06a9\u0627\u0631 \u0646\u06c1\u06cc\u06ba)\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0632\u06cc\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2\u060c \u063a\u06cc\u0631 \u0632\u06cc\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2\u060c \u0627\u0648\u0631 \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af \u06a9\u0627 \u0639\u0644\u0645<\/p>\n<\/li>\n<li>\n<p>\u0627\u0634\u0627\u0631\u06d2 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f\u06cc \u062a\u0641\u06c1\u06cc\u0645 \u0627\u0648\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0633 \u0637\u0631\u062d \u0645\u062a\u0646 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0645\u0634\u06cc\u0646 \u0644\u0631\u0646\u0646\u06af \u06a9\u06d2 \u0639\u0645\u0648\u0645\u06cc \u062a\u0635\u0648\u0631\u0627\u062a \u062c\u06cc\u0633\u06d2 \u0679\u0631\u06cc\u0646\u0646\u06af \u0688\u06cc\u0679\u0627\u060c \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632\u060c \u0627\u06cc\u06a9\u0633\u0679\u06cc\u0646\u0634\u0646\u0632\u060c \u0627\u0648\u0631 \u0627\u0646\u0641\u0631\u0646\u0633\u06d4<\/p>\n<\/li>\n<\/ul>\n<p>\u0644\u06cc\u06a9\u0646 \u0622\u067e \u06a9\u0648 \u0627\u0633 \u0645\u0636\u0645\u0648\u0646 \u06a9\u06cc \u067e\u06cc\u0631\u0648\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 AI \u0645\u062d\u0642\u0642 \u06c1\u0648\u0646\u06d2 \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u06cc\u06ba \u0648\u0636\u0627\u062d\u062a \u06a9\u0648 \u0639\u0645\u0644\u06cc \u0627\u0648\u0631 \u0628\u062f\u06cc\u06c1\u06cc \u0631\u06a9\u06be\u0648\u06ba \u06af\u0627\u060c GPT-3 \u06a9\u06d2 \u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644\u0627\u062a \u06a9\u0648 \u0633\u0645\u062c\u06be\u0646\u06d2 \u067e\u0631 \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0648\u062c\u06c1 \u0645\u0631\u06a9\u0648\u0632 \u06a9\u0631\u0648\u06ba \u06af\u0627 \u0628\u062c\u0627\u0626\u06d2 \u0627\u0633 \u06a9\u06d2 \u06a9\u06c1 \u06af\u06be\u0646\u06d2 \u0631\u06cc\u0627\u0636\u06cc \u06a9\u06cc \u062a\u0641\u0635\u06cc\u0644\u0627\u062a \u06cc\u0627 \u0639\u0644\u0645\u06cc \u0627\u0635\u0637\u0644\u0627\u062d \u0645\u06cc\u06ba \u0627\u0644\u062c\u06be \u06a9\u0631 \u0631\u06c1\u0648\u06ba\u06d4<\/p>\n<h2 id=\"heading-executive-summary\"><strong>\u062e\u0644\u0627\u0635\u06c1<\/strong><\/h2>\n<p>GPT-3 \u0633\u06d2 \u067e\u06c1\u0644\u06d2\u060c GPT-2 \u062c\u06cc\u0633\u06d2 \u0645\u0627\u0688\u0644 \u067e\u06c1\u0644\u06d2 \u06c1\u06cc \u062d\u06cc\u0631\u0627\u0646 \u06a9\u0646 \u0646\u062a\u0627\u0626\u062c \u062f\u06a9\u06be\u0627 \u0686\u06a9\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0627\u0633 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0627\u06af\u0644\u06d2 \u0644\u0641\u0638 \u06a9\u06cc \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u0627\u0628 \u0628\u06be\u06cc \u0628\u06c1\u062a \u0633\u06d2 \u06a9\u0627\u0645 \u0627\u0646\u062c\u0627\u0645 \u062f\u06d2 \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u062c\u0646 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u06d2 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u062a\u0631\u0628\u06cc\u062a \u0646\u06c1\u06cc\u06ba \u062f\u06cc \u06af\u0626\u06cc \u062a\u06be\u06cc\u06d4 \u062a\u0631\u062c\u0645\u06c1\u060c \u062e\u0644\u0627\u0635\u06c1\u060c \u0627\u0648\u0631 \u0633\u0648\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a \u062c\u06cc\u0633\u06cc \u0635\u0644\u0627\u062d\u06cc\u062a\u06cc\u06ba \u062c\u06cc\u0633\u06d2 \u062c\u06cc\u0633\u06d2 \u0645\u0627\u0688\u0644 \u0645\u06cc\u06ba \u0627\u0636\u0627\u0641\u06c1 \u06c1\u0648\u0627 \u0642\u062f\u0631\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0627\u0628\u06be\u0631\u0646\u0627 \u0634\u0631\u0648\u0639 \u06c1\u0648\u0627\u06d4<\/p>\n<p>\u0644\u06cc\u06a9\u0646 \u067e\u06be\u0631 \u0628\u06be\u06cc \u062d\u062f\u0648\u062f \u062a\u06be\u06cc\u06ba\u06d4<\/p>\n<p>\u06cc\u06c1\u0627\u06ba \u062a\u06a9 \u06a9\u06c1 GPT-2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0628\u06be\u06cc\u060c \u0645\u0636\u0628\u0648\u0637 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0627\u0646\u062d\u0635\u0627\u0631 \u0627\u06a9\u062b\u0631 \u0645\u062d\u062a\u0627\u0637 \u0627\u0634\u0627\u0631\u06c1 \u062f\u06cc\u0646\u06d2 \u06cc\u0627 \u0627\u0636\u0627\u0641\u06cc \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u067e\u0631 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 \u062d\u0642\u06cc\u0642\u062a \u0645\u06cc\u06ba\u060c \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 NLP \u0633\u0633\u0679\u0645 \u0627\u0628 \u0628\u06be\u06cc \u0627\u0633\u06cc \u0637\u0631\u0632 \u067e\u0631 \u0686\u0644 \u0631\u06c1\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0627\u0633 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06c1\u06d2 \u06a9\u06c1 \u067e\u06c1\u0644\u06d2 \u0627\u06cc\u06a9 \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u06ba \u0627\u0648\u0631 \u067e\u06be\u0631 \u06c1\u0631 \u0646\u0626\u06d2 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u06d2 \u0627\u0644\u06af \u0633\u06d2 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u06ba \u06cc\u0627 \u0627\u0633\u06d2 \u0679\u06be\u06cc\u06a9 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<p>GPT-3 \u0622\u067e \u06a9\u06d2 \u067e\u0648\u0631\u06d2 \u0648\u0631\u06a9 \u0641\u0644\u0648 \u06a9\u0648 \u0686\u06cc\u0644\u0646\u062c \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u0627\u06cc\u06a9 \u0628\u0627\u0631 \u062c\u0628 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u06a9\u0627\u0641\u06cc \u0628\u0691\u0627 \u06c1\u0648 \u062c\u0627\u0626\u06d2 \u062a\u0648\u060c \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u06a9\u0627\u0645 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u0635\u0631\u0641 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u0634\u0631\u0648\u0639 \u06c1\u0648 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u06a9\u0648 \u0627\u067e \u0688\u06cc\u0679 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0622\u067e \u067e\u0631\u0627\u0645\u067e\u0679 \u0645\u06cc\u06ba \u0635\u0631\u0641 \u0686\u0646\u062f \u0645\u062b\u0627\u0644\u06cc\u06ba \u062f\u06a9\u06be\u0627\u062a\u06d2 \u06c1\u06cc\u06ba \u0627\u0648\u0631 \u0645\u0627\u0688\u0644 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u062e\u06cc\u0627\u0644 \u06a9\u0648 \u0627\u062e\u0628\u0627\u0631 \u0645\u06cc\u06ba \u06a9\u06c1\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 <em>\u0686\u0646\u062f \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u06d2<\/em>.<\/p>\n<p>\u0645\u062b\u0627\u0644 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631\u060c \u0627\u06cc\u06a9 \u0639\u0644\u06cc\u062d\u062f\u06c1 \u062a\u0631\u062c\u0645\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0622\u067e \u0644\u06a9\u06be \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba:<\/p>\n<ul>\n<li>\n<p>\u06a9\u062a\u0627 \u2192 \u06a9\u062a\u0627<\/p>\n<\/li>\n<li>\n<p>\u0628\u0644\u06cc \u2192 \u0686\u06cc\u0679<\/p>\n<\/li>\n<li>\n<p>\u06af\u06be\u0631 \u2192 ?<\/p>\n<\/li>\n<\/ul>\n<p>\u0627\u0648\u0631 GPT-3 \u0627\u06a9\u062b\u0631 \u0635\u062d\u06cc\u062d \u062c\u0648\u0627\u0628 \u0641\u0631\u0627\u06c1\u0645 \u06a9\u0631\u062a\u0627 \u0631\u06c1\u062a\u0627 \u06c1\u06d2\u06d4 <em>\u0645\u06cc\u0633\u0646<\/em>.<\/p>\n<p>\u0627\u0633 \u06a9\u06d2 \u0627\u06c1\u0645 \u06c1\u0648\u0646\u06d2 \u06a9\u06cc \u0648\u062c\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u062a\u062e\u0645\u06cc\u0646\u06c1 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u06af\u0631\u06cc\u0688\u06cc\u0646\u0679 \u0627\u067e \u0688\u06cc\u0679\u0633 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0646\u06c1\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4 \u0631\u0648\u0627\u06cc\u062a\u06cc \u0645\u0639\u0646\u0648\u06ba \u0645\u06cc\u06ba \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0639\u0644\u06cc\u0645 \u0646\u06c1\u06cc\u06ba \u0645\u0644\u062a\u06cc\u06d4 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u0639\u0645\u0644 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u06c1\u06cc \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u060c \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u0645\u06cc\u06ba \u0641\u0631\u0627\u06c1\u0645 \u06a9\u06cc \u06af\u0626\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u0633\u06d2 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u06a9\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u0645\u06cc\u06ba \u0628\u0691\u0627 \u0641\u0631\u0642 \u067e\u0691\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1\u060c \u06c1\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u0627\u06c1\u0631\u0627\u0646\u06c1 \u0646\u0638\u0627\u0645 \u0628\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0627\u06cc\u06a9 \u06a9\u0627\u0641\u06cc \u0628\u0691\u0627 \u0645\u0627\u0688\u0644 \u0635\u0631\u0641 \u06c1\u062f\u0627\u06cc\u0627\u062a \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u0648 \u067e\u0691\u06be \u06a9\u0631 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0627\u067e\u0646\u0627 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u06a9\u0627\u063a\u0630 \u0627\u0633 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u06cc \u0637\u0631\u0641 \u0627\u0634\u0627\u0631\u06c1 \u06a9\u0631\u062a\u0627 \u06c1\u06d2: <em>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em>GPT-3 \u06a9\u06cc \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u0634\u0631\u0627\u06a9\u062a\u06cc\u06ba \u06cc\u06c1 \u0638\u0627\u06c1\u0631 \u06a9\u0631\u0646\u06d2 \u067e\u0631 \u0645\u0631\u06a9\u0648\u0632 \u06c1\u06cc\u06ba \u06a9\u06c1 \u06cc\u06c1 \u062e\u06cc\u0627\u0644 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u06a9\u062a\u0646\u0627 \u0637\u0627\u0642\u062a\u0648\u0631 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-goals-of-the-paper\"><strong>\u06a9\u0627\u063a\u0630 \u06a9\u0627 \u0645\u0642\u0635\u062f<\/strong><\/h2>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u0645\u0648\u062c\u0648\u062f\u06c1 NLP \u0633\u0633\u0679\u0645\u0632 \u06a9\u06cc \u0633\u0628 \u0633\u06d2 \u0628\u0691\u06cc \u062d\u062f\u0648\u062f \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0648\u06c1 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u062e\u0635\u0648\u0635 \u062a\u0631\u0628\u06cc\u062a \u067e\u0631 \u0628\u06c1\u062a \u0632\u06cc\u0627\u062f\u06c1 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0627\u06af\u0631\u0686\u06c1 GPT-3 \u06a9\u06d2 \u0645\u062a\u0639\u0627\u0631\u0641 \u06c1\u0648\u0646\u06d2 \u062a\u06a9 \u0645\u0627\u0688\u0644\u0632 \u062a\u06cc\u0632\u06cc \u0633\u06d2 \u0637\u0627\u0642\u062a\u0648\u0631 \u06c1\u0648\u062a\u06d2 \u06af\u0626\u06d2\u060c \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u0633\u0633\u0679\u0645\u0632 \u06a9\u0648 \u0627\u0628 \u0628\u06be\u06cc \u06c1\u0631 \u0646\u0626\u06d2 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u06cc\u06a9 \u0639\u0644\u06cc\u062d\u062f\u06c1 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u0639\u0645\u0644 \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u062a\u06be\u06cc\u06d4<\/p>\n<p>\u0639\u0645\u0644\u06cc \u0637\u0648\u0631 \u067e\u0631\u060c \u0627\u0633 \u0633\u06d2 \u06a9\u0686\u06be \u0645\u0633\u0627\u0626\u0644 \u067e\u06cc\u062f\u0627 \u06c1\u0648\u0626\u06d2\u06d4<\/p>\n<p>\u0633\u0628 \u0633\u06d2 \u067e\u06c1\u0644\u06d2\u060c \u062a\u0645\u0627\u0645 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2 \u0644\u06cc\u0628\u0644 \u0644\u06af\u0627 \u0688\u06cc\u0679\u0627 \u062f\u0631\u06a9\u0627\u0631 \u06c1\u06d2\u06d4 \u0627\u06af\u0631 \u0622\u067e \u0645\u0636\u0627\u0645\u06cc\u0646 \u06a9\u0627 \u062e\u0644\u0627\u0635\u06c1\u060c \u0633\u0648\u0627\u0644\u0627\u062a \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a\u060c \u062c\u0630\u0628\u0627\u062a \u06a9\u06cc \u062f\u0631\u062c\u06c1 \u0628\u0646\u062f\u06cc \u06a9\u0631\u0646\u06d2 \u0627\u0648\u0631 \u0645\u062a\u0646 \u06a9\u0627 \u062a\u0631\u062c\u0645\u06c1 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u0627\u0688\u0644 \u0686\u0627\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062a\u0648 \u0622\u067e \u06a9\u0648 \u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u06c1\u0632\u0627\u0631\u0648\u06ba\u060c \u06a9\u0628\u06be\u06cc \u06a9\u0628\u06be\u06cc \u0644\u0627\u06a9\u06be\u0648\u06ba\u060c \u0627\u062d\u062a\u06cc\u0627\u0637 \u0633\u06d2 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062f\u06c1 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4 \u0627\u0633 \u0688\u06cc\u0679\u0627 \u06a9\u0648 \u0627\u06a9\u0679\u06be\u0627 \u06a9\u0631\u0646\u0627 \u0645\u06c1\u0646\u06af\u0627\u060c \u0648\u0642\u062a \u0637\u0644\u0628\u060c \u0627\u0648\u0631 \u0686\u06be\u0648\u0679\u06d2 \u06cc\u0627 \u0645\u062e\u0635\u0648\u0635 \u0622\u067e\u0631\u06cc\u0634\u0646\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u06a9\u062b\u0631 \u0646\u0627\u0642\u0627\u0628\u0644 \u0639\u0645\u0644 \u062a\u06be\u0627\u06d4<\/p>\n<p>\u062f\u0648\u0633\u0631\u0627\u060c \u06c1\u0631 \u0646\u0626\u06cc \u062e\u0635\u0648\u0635\u06cc\u062a \u06a9\u0648 \u0627\u0636\u0627\u0641\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4 \u06cc\u06c1\u0627\u06ba \u062a\u06a9 \u06a9\u06c1 \u062c\u0628 \u0628\u06cc\u0633 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u06c1\u06cc \u0645\u062a\u0646 \u06a9\u06cc \u0628\u0691\u06cc \u0645\u0642\u062f\u0627\u0631 \u067e\u0631 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06af\u0626\u06cc \u062a\u06be\u06cc\u060c \u062a\u0628 \u0628\u06be\u06cc \u0688\u0648\u06cc\u0644\u067e\u0631\u0632 \u06a9\u0648 \u0645\u062e\u0635\u0648\u0635 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u06d2 \u0645\u0639\u0627\u0645\u0644\u0627\u062a \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u06d2 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u0646\u0627 \u06cc\u0627 \u0627\u0633\u06d2 \u0679\u06be\u06cc\u06a9 \u06a9\u0631\u0646\u0627 \u062a\u06be\u0627\u06d4<\/p>\n<p>\u06a9\u0627\u063a\u0630 \u06a9\u0627 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 \u0648\u0631\u06a9 \u0641\u0644\u0648 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u063a\u06cc\u0631 \u0645\u0648\u062b\u0631 \u06c1\u06d2\u06d4 \u0632\u06cc\u0627\u062f\u06c1 \u0627\u06c1\u0645 \u0628\u0627\u062a \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0635\u0646\u0641\u06cc\u0646 \u0628\u062a\u0627\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 \u06cc\u06c1 \u0627\u0646\u0633\u0627\u0646\u0648\u06ba \u06a9\u06d2 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0645\u0645\u0627\u062b\u0644 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 \u0627\u0646\u0633\u0627\u0646 \u0627\u06a9\u062b\u0631 \u06a9\u0633\u06cc \u06a9\u0627\u0645 \u06a9\u0648 \u0635\u0631\u0641 \u0686\u0646\u062f \u0645\u0638\u0627\u06c1\u0631\u0648\u06ba \u06cc\u0627 \u0645\u062e\u062a\u0635\u0631 \u06c1\u062f\u0627\u06cc\u0627\u062a \u06a9\u06d2 \u0628\u0639\u062f \u0633\u0645\u062c\u06be \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u0622\u067e \u06a9\u0648 \u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u06cc\u06c1 \u0633\u0645\u062c\u06be\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06c1\u0632\u0627\u0631\u0648\u06ba \u0644\u06cc\u0628\u0644 \u0648\u0627\u0644\u06cc \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u0648\u062a\u06cc \u06c1\u06d2 \u06a9\u06c1 \u0633\u0648\u0627\u0644 \u06a9\u06cc\u0627 \u067e\u0648\u0686\u06be \u0631\u06c1\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 GPT-3 \u06a9\u0627 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0633\u0648\u0627\u0644 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u06cc\u0627 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0632 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631 \u0627\u067e \u0688\u06cc\u0679\u0633 \u0627\u0648\u0631 \u0679\u0627\u0633\u06a9 \u0645\u062e\u0635\u0648\u0635 \u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u067e\u0631 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u0646\u0626\u06d2 \u06a9\u0627\u0645 \u0633\u06cc\u06a9\u06be \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u061f<\/p>\n<p>\u06cc\u06c1 \u0633\u0648\u0627\u0644 \u06a9\u0627\u063a\u0630 \u06a9\u06d2 \u062a\u0642\u0631\u06cc\u0628\u0627\u064b \u062a\u0645\u0627\u0645 \u062a\u062c\u0631\u0628\u0627\u062a \u06a9\u0648 \u0686\u0644\u0627\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u062c\u0627\u0646\u0686\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u06a9\u06c1 \u0622\u06cc\u0627 GPT-3 \u0627\u062d\u062a\u06cc\u0627\u0637 \u0633\u06d2 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u0626\u06d2 \u06af\u0626\u06d2 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u0645\u06cc\u06ba \u0645\u06c1\u0627\u0631\u062a \u062d\u0627\u0635\u0644 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u0686\u06be \u0648\u0633\u06cc\u0639 \u062a\u0631 \u062a\u0644\u0627\u0634 \u06a9\u0631 \u0631\u06c1\u06d2 \u06c1\u06cc\u06ba\u06d4 \u06cc\u0639\u0646\u06cc\u060c \u06a9\u06cc\u0627 \u062a\u0648\u0633\u06cc\u0639 \u0634\u062f\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u0635\u0631\u0641 \u0627\u0634\u0627\u0631\u06d2\u060c \u0645\u062b\u0627\u0644\u0648\u06ba\u060c \u0627\u0648\u0631 \u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06cc \u06c1\u062f\u0627\u06cc\u0627\u062a \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0645\u0648\u0627\u0641\u0642\u062a \u067e\u0630\u06cc\u0631 \u0646\u0638\u0627\u0645 \u062a\u06cc\u0627\u0631 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<h2 id=\"heading-core-idea\"><strong>\u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644<\/strong><\/h2>\n<p>\u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631\u060c GPT-3 \u0627\u0628 \u0628\u06be\u06cc \u0627\u0646\u06c1\u06cc \u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644\u0627\u062a \u067e\u0631 \u0628\u0646\u0627\u06cc\u0627 \u06af\u06cc\u0627 \u06c1\u06d2 \u062c\u0648 GPT-2 \u0645\u06cc\u06ba \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u062a\u0631\u062a\u06cc\u0628 \u0645\u06cc\u06ba \u0627\u06af\u0644\u06d2 \u0679\u0648\u06a9\u0646 \u06a9\u06cc \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u06ba\u06d4 \u062a\u0631\u0628\u06cc\u062a \u06a9\u0627 \u0645\u0642\u0635\u062f \u062e\u0648\u062f \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0637\u0648\u0631 \u067e\u0631 \u0622\u0633\u0627\u0646 \u06c1\u06d2\u06d4 \u06a9\u0686\u06be \u0645\u062a\u0646 \u06a9\u0648 \u062f\u06cc\u06a9\u06be\u062a\u06d2 \u06c1\u0648\u0626\u06d2\u060c \u0645\u0627\u0688\u0644 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u0627 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0622\u06af\u06d2 \u06a9\u06cc\u0627 \u06c1\u0648\u06af\u0627\u060c \u0627\u06cc\u06a9 \u0648\u0642\u062a \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0679\u0648\u06a9\u0646\u06d4<\/p>\n<p>\u0633\u0637\u062d \u067e\u0631\u060c GPT-3 GPT-2 \u06a9\u06d2 \u0628\u06c1\u062a \u0628\u0691\u06d2 \u0648\u0631\u0698\u0646 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u06a9\u0686\u06be \u0646\u06c1\u06cc\u06ba \u0644\u06af\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u0648\u0631 \u06a9\u0686\u06be \u0637\u0631\u06cc\u0642\u0648\u06ba \u0633\u06d2 \u06cc\u06c1 \u0633\u0686 \u06c1\u06d2\u06d4 \u0645\u0627\u0688\u0644 \u06a9\u0627 \u0633\u0627\u0626\u0632 \u0688\u0631\u0627\u0645\u0627\u0626\u06cc \u0637\u0648\u0631 \u067e\u0631 175 \u0628\u0644\u06cc\u0646 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u062a\u06a9 \u06c1\u06d2 \u0627\u0648\u0631 \u0627\u0633\u06d2 \u06a9\u0627\u0645\u0646 \u06a9\u0631\u0627\u0644\u060c \u0648\u06cc\u0628 \u0679\u06cc\u06a9\u0633\u0679\u060c \u06a9\u062a\u0627\u0628\u06cc\u06ba \u0627\u0648\u0631 \u0648\u06cc\u06a9\u06cc\u067e\u06cc\u0688\u06cc\u0627 \u062c\u06cc\u0633\u06d2 \u0630\u0631\u0627\u0626\u0639 \u0633\u06d2 \u062c\u0645\u0639 \u06a9\u06cc\u06d2 \u06af\u0626\u06d2 \u0628\u06c1\u062a \u0628\u0691\u06d2 \u0627\u0648\u0631 \u0645\u062a\u0646\u0648\u0639 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0644\u06cc\u06a9\u0646 \u0645\u0642\u0627\u0644\u06d2 \u06a9\u0627 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06c1\u06d2 \u06a9\u06c1 \u062c\u06cc\u0633\u06d2 \u062c\u06cc\u0633\u06d2 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u067e\u06be\u06cc\u0644\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u0645\u0632\u06cc\u062f \u062f\u0644\u0686\u0633\u067e \u0686\u06cc\u0632\u06cc\u06ba \u06c1\u0648\u0646\u06d2 \u0644\u06af\u062a\u06cc \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u062a\u0646 \u06a9\u06d2 \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u0648 \u06cc\u0627\u062f \u0631\u06a9\u06be\u0646\u06d2 \u0645\u06cc\u06ba \u0635\u0631\u0641 \u0628\u06c1\u062a\u0631 \u06c1\u0648\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c GPT-3 \u0641\u0648\u0631\u06cc \u0637\u0648\u0631 \u067e\u0631 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06cc \u0627\u067e\u0646\u06cc \u0635\u0644\u0627\u062d\u06cc\u062a \u062f\u06a9\u06be\u0627\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4 \u062c\u0628 \u0645\u0627\u0688\u0644 \u0627\u0646 \u067e\u0679 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u06c1\u06cc \u0645\u062b\u0627\u0644\u06cc\u06ba \u062f\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u060c \u062a\u0648 \u06cc\u06c1 \u0627\u06a9\u062b\u0631 \u0628\u063a\u06cc\u0631 \u06a9\u0633\u06cc \u0627\u0636\u0627\u0641\u06cc \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631 \u06a9\u06cc \u062a\u0627\u0632\u06c1 \u06a9\u0627\u0631\u06cc \u06a9\u06d2 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u062f\u0631\u0633\u062a \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0642\u0627\u0628\u0644 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u062b\u0627\u0644 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631\u060c \u0627\u06af\u0631 \u0627\u06cc\u06a9 \u067e\u0631\u0627\u0645\u067e\u0679 \u0645\u06cc\u06ba \u06a9\u0626\u06cc \u0633\u0648\u0627\u0644 \u062c\u0648\u0627\u0628 \u062c\u0648\u0691\u06d2 \u06cc\u0627 \u062a\u0631\u062c\u0645\u06d2 \u06a9\u06cc \u0645\u062b\u0627\u0644\u06cc\u06ba \u0634\u0627\u0645\u0644 \u06c1\u06cc\u06ba\u060c \u062a\u0648 GPT-3 \u06a9\u0627\u0645 \u06a9\u06cc \u0633\u0627\u062e\u062a \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627 \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u0646\u0626\u06d2 \u0627\u0646 \u067e\u0679\u0633 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u06cc \u0637\u0631\u062d \u06a9\u0627 \u0622\u0624\u0679 \u067e\u0679 \u062a\u06cc\u0627\u0631 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u062f\u0648\u0633\u0631\u06d2 \u0627\u0644\u0641\u0627\u0638 \u0645\u06cc\u06ba\u060c \u067e\u0631\u0627\u0645\u067e\u0679 \u0627\u06cc\u06a9 \u0639\u0627\u0631\u0636\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u0645\u0627\u062d\u0648\u0644 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u0628\u0646\u06cc\u0627\u062f\u06cc \u062a\u0635\u0648\u0631\u0627\u062a\u06cc \u062a\u0628\u062f\u06cc\u0644\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0631\u0648\u0627\u06cc\u062a\u06cc \u0645\u0634\u06cc\u0646 \u0644\u0631\u0646\u0646\u06af \u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u0627\u0648\u0631 \u062a\u062e\u0645\u06cc\u0646\u06c1 \u06a9\u0648 \u0627\u0644\u06af \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4 \u067e\u06c1\u0644\u06d2\u060c \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0648\u0632\u0646 \u06a9\u0648 \u0627\u067e \u0688\u06cc\u0679 \u06a9\u0631\u06a9\u06d2 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2 \u0627\u0648\u0631 \u067e\u06be\u0631 \u0628\u0639\u062f \u0645\u06cc\u06ba \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u06d2 \u0644\u06cc\u06d2 \u062a\u0639\u06cc\u0646\u0627\u062a \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 GPT-3 \u0644\u0627\u0626\u0646\u0648\u06ba \u06a9\u0648 \u062f\u06be\u0646\u062f\u0644\u0627 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4 \u0628\u0644\u0627\u0634\u0628\u06c1\u060c \u0645\u0627\u0688\u0644 \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u06cc\u06c1 \u0645\u0648\u0635\u0648\u0644\u06c1 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u067e\u0631 \u0627\u0646\u062f\u0627\u0632\u06c1 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0627\u067e\u0646\u06d2 \u0631\u0648\u06cc\u06d2 \u06a9\u0648 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06cc\u0688\u062c\u0633\u0679 \u0628\u06be\u06cc \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u0627\u0633 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u0648 \u0627\u0633 \u0637\u0631\u062d \u0628\u06cc\u0627\u0646 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba: <em>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em>.<\/p>\n<p>\u062c\u0648 \u0686\u06cc\u0632 \u0627\u0633 \u062e\u06cc\u0627\u0644 \u06a9\u0648 \u0627\u06c1\u0645 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2 \u0648\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u06c1\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u0646\u06c1\u06cc\u06ba \u062f\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4 \u067e\u0631\u0627\u0645\u067e\u0679 \u067e\u0631 \u06a9\u0627\u0631\u0631\u0648\u0627\u0626\u06cc \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u06a9\u0648\u0626\u06cc \u06af\u0631\u06cc\u0688\u06cc\u0646\u0679 \u0627\u067e \u0688\u06cc\u0679 \u0646\u06c1\u06cc\u06ba \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c GPT-3 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0648\u0646\u0688\u0648 \u0645\u06cc\u06ba \u0645\u0648\u062c\u0648\u062f \u0645\u062b\u0627\u0644\u0648\u06ba \u0633\u06d2 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u06c1\u0645\u0627\u0631\u06d2 \u0633\u0648\u0686\u0646\u06d2 \u06a9\u06d2 \u0627\u0646\u062f\u0627\u0632 \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0644\u0637\u06cc\u0641 \u0644\u06cc\u06a9\u0646 \u0627\u06c1\u0645 \u062a\u0628\u062f\u06cc\u0644\u06cc \u06a9\u06cc \u0646\u0645\u0627\u0626\u0646\u062f\u06af\u06cc \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u0634\u0627\u0631\u06d2 \u0627\u0628 \u0635\u0631\u0641 \u0627\u0646 \u067e\u0679 \u0646\u06c1\u06cc\u06ba \u06c1\u06cc\u06ba\u06d4 \u06cc\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0633\u06a9\u06be\u0627\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06cc\u06c1 \u0627\u06cc\u06a9 \u0645\u0648\u062b\u0631 \u06c1\u0644\u06a9\u0627 \u067e\u06be\u0644\u06a9\u0627 \u0627\u0646\u0679\u0631\u0641\u06cc\u0633 \u0628\u0646\u0627\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u06cc\u0627 \u06a9\u0631\u0646\u0627 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-methodology\"><strong>\u0637\u0631\u06cc\u0642\u06c1 \u06a9\u0627\u0631<\/strong><\/h2>\n<p>GPT-3 \u06a9\u06d2 \u0627\u062a\u0646\u06d2 \u0628\u0627\u0627\u062b\u0631 \u06c1\u0648\u0646\u06d2 \u06a9\u06cc \u0627\u06cc\u06a9 \u0648\u062c\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0628\u0646\u06cc\u0627\u062f\u06cc \u062a\u0631\u0628\u06cc\u062a\u06cc \u0639\u0645\u0644 \u062f\u0631\u062d\u0642\u06cc\u0642\u062a \u0628\u06c1\u062a \u0648\u0627\u0642\u0641 \u06c1\u06d2\u06d4 \u0628\u06c1\u062a \u0633\u06d2 \u062a\u062d\u0642\u06cc\u0642\u06cc \u0645\u0642\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0628\u0631\u0639\u06a9\u0633 \u062c\u0648 \u0645\u06a9\u0645\u0644 \u0637\u0648\u0631 \u067e\u0631 \u0646\u0626\u06d2 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631\u0627\u062a \u06cc\u0627 \u067e\u06cc\u0686\u06cc\u062f\u06c1 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0627\u0644\u06af\u0648\u0631\u062a\u06be\u0645 \u0645\u062a\u0639\u0627\u0631\u0641 \u06a9\u0631\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u060c GPT-3 \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u0627\u0646 \u062e\u06cc\u0627\u0644\u0627\u062a \u067e\u0631 \u0645\u0628\u0646\u06cc \u06c1\u06d2 \u062c\u0648 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u0645\u0648\u062c\u0648\u062f \u062a\u06be\u06d2\u06d4 \u0641\u0631\u0642 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0627\u0646 \u062e\u06cc\u0627\u0644\u0627\u062a \u06a9\u0648 \u06a9\u0633 \u0642\u062f\u0631 \u062c\u0627\u0631\u062d\u0627\u0646\u06c1 \u0627\u0646\u062f\u0627\u0632 \u0645\u06cc\u06ba \u067e\u06be\u06cc\u0644\u0627\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u062a\u0631\u0628\u06cc\u062a \u06a9\u0627 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0645\u0642\u0635\u062f \u0645\u0639\u06cc\u0627\u0631\u06cc \u062e\u0648\u062f\u06a9\u0627\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06cc \u0645\u0627\u0688\u0644\u0646\u06af \u06c1\u06d2\u06d4 \u0633\u06cc\u062f\u06be\u06d2 \u0627\u0644\u0641\u0627\u0638 \u0645\u06cc\u06ba\u060c \u0645\u0627\u0688\u0644 \u062a\u06a9\u0631\u0627\u0631\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0633 \u0637\u0631\u062d \u0645\u062a\u0646 \u06a9\u0648 \u067e\u0691\u06be\u0646\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u062a\u0631\u062a\u06cc\u0628 \u0645\u06cc\u06ba \u0627\u06af\u0644\u06d2 \u0679\u0648\u06a9\u0646 \u06a9\u06cc \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0648\u06c1\u06cc \u0639\u0627\u0645 \u0637\u0631\u06cc\u0642\u06c1 \u06c1\u06d2 \u062c\u0648 GPT-2 \u0645\u06cc\u06ba \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0639\u0645\u0644 \u062e\u0648\u062f \u062a\u0635\u0648\u0631\u0627\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0622\u0633\u0627\u0646 \u06c1\u06d2\u06d4<\/p>\n<ul>\n<li>\n<p>\u0628\u06c1\u062a \u0628\u0691\u06d2 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0645\u0627\u0688\u0644\u0632 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a<\/p>\n<\/li>\n<li>\n<p>\u0627\u0646\u0679\u0631\u0646\u06cc\u0679 \u0679\u06cc\u06a9\u0633\u0679 \u06a9\u06cc \u0627\u06cc\u06a9 \u0628\u0691\u06cc \u0645\u0642\u062f\u0627\u0631 \u062f\u0631\u062c \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0627\u06af\u0644\u06d2 \u0644\u0641\u0638 \u06a9\u06cc \u0645\u0633\u0644\u0633\u0644 \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u0626\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<\/ul>\n<p>\u062c\u0648 \u0686\u06cc\u0632 \u0688\u0631\u0627\u0645\u0627\u0626\u06cc \u0637\u0648\u0631 \u067e\u0631 \u062a\u0628\u062f\u06cc\u0644 \u06c1\u0648\u062a\u06cc \u06c1\u06d2 \u0648\u06c1 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u06a9\u0648 \u06a9\u0627\u0645\u0646 \u06a9\u0631\u0627\u0644\u060c \u0648\u06cc\u0628 \u0679\u06cc\u06a9\u0633\u0679\u060c \u06a9\u062a\u0627\u0628\u06cc\u06ba \u0627\u0648\u0631 \u0648\u06cc\u06a9\u06cc\u067e\u06cc\u0688\u06cc\u0627 \u062c\u06cc\u0633\u06d2 \u0630\u0631\u0627\u0626\u0639 \u0633\u06d2 \u062c\u0645\u0639 \u06a9\u06cc\u06d2 \u06af\u0626\u06d2 \u0633\u06cc\u06a9\u0691\u0648\u06ba \u0628\u0644\u06cc\u0646 \u0679\u0648\u06a9\u0646\u0632 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06af\u0626\u06cc\u06d4 \u062f\u0633\u062a\u0627\u0648\u06cc\u0632 \u06cc\u06c1 \u0628\u06be\u06cc \u0628\u062a\u0627\u062a\u06cc \u06c1\u06d2 \u06a9\u06c1 \u0627\u0648\u067e\u0646 \u0627\u06d2 \u0622\u0626\u06cc \u0646\u06d2 \u0645\u0639\u06cc\u0627\u0631 \u06a9\u0648 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u0646\u06d2 \u0627\u0648\u0631 \u0646\u0642\u0644 \u06a9\u0648 \u06a9\u0645 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u0627\u0645\u0646 \u06a9\u0631\u0627\u0644 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679 \u06a9\u06d2 \u0627\u06cc\u06a9 \u0627\u06c1\u0645 \u062d\u0635\u06d2 \u06a9\u0648 \u0641\u0644\u0679\u0631 \u0627\u0648\u0631 \u0635\u0627\u0641 \u06a9\u06cc\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0644\u06cc\u06a9\u0646 \u0637\u0631\u06cc\u0642\u06c1 \u06a9\u0627\u0631 \u06a9\u0627 \u0633\u0628 \u0633\u06d2 \u0627\u06c1\u0645 \u062d\u0635\u06c1 \u0635\u0631\u0641 \u06cc\u06c1 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc\u0633\u06d2 \u06a9\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4 \u0645\u0627\u0688\u0644 \u0627\u06cc\u0633\u0627 \u06c1\u06cc \u06c1\u06d2\u06d4 <em>\u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u0639\u062f \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u06cc\u06ba\u06d4<\/em>.<\/p>\n<p>\u0631\u0648\u0627\u06cc\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631\u060c \u0627\u06cc\u0646 \u0627\u06cc\u0644 \u067e\u06cc \u0633\u0633\u0679\u0645\u0632 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u067e\u0631 \u0628\u06c1\u062a \u0632\u06cc\u0627\u062f\u06c1 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u0639\u062f\u060c \u0688\u0648\u06cc\u0644\u067e\u0631\u0632 \u06c1\u0631 \u0627\u0646\u0641\u0631\u0627\u062f\u06cc \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u06cc\u06a9 \u0686\u06be\u0648\u0679\u06d2 \u0644\u06cc\u0628\u0644 \u0648\u0627\u0644\u06d2 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679 \u067e\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0645\u06a9\u0645\u0644 \u0637\u0648\u0631 \u067e\u0631 \u0645\u062e\u062a\u0644\u0641 \u0646\u0642\u0637\u06c1 \u0646\u0638\u0631 \u06a9\u06d2 \u0633\u0627\u062a\u06be GPT-3 \u06a9\u06d2 \u062a\u062c\u0631\u0628\u0627\u062a\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u06a9\u0627\u0645 \u06a9\u0648 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u067e\u0631\u0627\u0645\u067e\u0679 \u0645\u06cc\u06ba \u0628\u06cc\u0627\u0646 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba\u060c \u06c1\u0645 \u062a\u06cc\u0646 \u0627\u06c1\u0645 \u062a\u0631\u062a\u06cc\u0628\u0627\u062a \u06a9\u0627 \u0645\u0637\u0627\u0644\u0639\u06c1 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<ul>\n<li>\n<p><em>\u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af<\/em>: \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0635\u0631\u0641 \u0641\u0637\u0631\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0627\u062d\u06a9\u0627\u0645\u0627\u062a \u0645\u0648\u0635\u0648\u0644 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p><em>\u0627\u06cc\u06a9 \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em>: \u0645\u0627\u0688\u0644 \u06a9\u0648 \u06a9\u0627\u0645 \u06a9\u06cc \u0648\u0627\u062d\u062f \u0645\u062b\u0627\u0644 \u0645\u0644\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<\/li>\n<li>\n<p><em>\u0686\u0646\u062f \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u06d2<\/em>: \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0627\u06cc\u06a9 \u0646\u0626\u06d2 \u06a9\u06cc\u0633 \u06a9\u0648 \u062d\u0644 \u06a9\u0631\u0646\u06d2 \u0633\u06d2 \u067e\u06c1\u0644\u06d2 \u0645\u062a\u0639\u062f\u062f \u06a9\u06cc\u0633\u0632 \u0645\u0648\u0635\u0648\u0644 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<\/ul>\n<p>\u0645\u062b\u0627\u0644 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631\u060c \u062a\u0631\u062c\u0645\u06c1 \u06a9\u0627 \u0627\u0634\u0627\u0631\u06c1 \u0627\u0633 \u0637\u0631\u062d \u0644\u06af\u062a\u0627 \u06c1\u06d2:<\/p>\n<p>\u06a9\u062a\u0627 \u2192 \u06a9\u062a\u0627<br \/>\u0628\u0644\u06cc \u2192 \u0686\u06cc\u0679<br \/>\u06af\u06be\u0631 \u2192 ?<\/p>\n<p>GPT-3 \u067e\u06be\u0631 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u06cc \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u06cc\u0633\u0646<\/p>\n<p>\u0627\u0633 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0628\u0627\u062a \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0627\u0633 \u0639\u0645\u0644 \u0645\u06cc\u06ba \u06a9\u0648\u0626\u06cc \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u0634\u0627\u0645\u0644 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 \u0645\u0627\u0688\u0644 \u06a9\u0627 \u0648\u0632\u0646 \u0645\u06a9\u0645\u0644 \u0637\u0648\u0631 \u067e\u0631 \u063a\u06cc\u0631 \u062a\u0628\u062f\u06cc\u0644 \u0634\u062f\u06c1 \u0631\u06c1\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0635\u0631\u0641 \u067e\u0631\u0627\u0645\u067e\u0679 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u0645\u0648\u062c\u0648\u062f \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u062a\u0627\u06a9\u06c1 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u06cc\u0627 \u062c\u0627 \u0633\u06a9\u06d2 \u06a9\u06c1 \u06a9\u0633 \u0642\u0633\u0645 \u06a9\u06cc \u06a9\u0627\u0631\u0631\u0648\u0627\u0626\u06cc \u06a9\u06cc \u062f\u0631\u062e\u0648\u0627\u0633\u062a \u06a9\u06cc \u062c\u0627 \u0631\u06c1\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u062f\u0631\u062d\u0642\u06cc\u0642\u062a\u060c \u06cc\u06c1 \u067e\u0631\u0627\u0645\u067e\u0679 \u06a9\u0648 \u0628\u0627\u0642\u0627\u0639\u062f\u06c1 \u0679\u0627\u0626\u067e\u0646\u06af \u0633\u06d2 \u06a9\u06c1\u06cc\u06ba \u0632\u06cc\u0627\u062f\u06c1 \u0637\u0627\u0642\u062a\u0648\u0631 \u0686\u06cc\u0632 \u0645\u06cc\u06ba \u0628\u062f\u0644 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0627\u06cc\u06a9 \u0639\u0627\u0631\u0636\u06cc \u06a9\u0627\u0645 \u06a9\u06cc \u062c\u06af\u06c1 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2 \u062c\u06c1\u0627\u06ba \u0645\u0627\u0688\u0644 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u067e\u06c1\u0686\u0627\u0646 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u060c \u0631\u0648\u06cc\u06d2 \u06a9\u0648 \u0627\u06cc\u0688\u062c\u0633\u0679 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u060c \u0627\u0648\u0631 \u0633\u06cc\u06a9\u06be\u06d2 \u06c1\u0648\u0626\u06d2 \u0639\u0644\u0645 \u06a9\u0648 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0644\u0627\u06af\u0648 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u0627\u063a\u0630 \u0627\u0633 \u0628\u0627\u062a \u06a9\u0627 \u0627\u0639\u0627\u062f\u06c1 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u0627\u0645 \u06a9\u06d2 \u0645\u062e\u0635\u0648\u0635 \u0627\u0646\u062c\u06cc\u0646\u0626\u0631\u0646\u06af \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0627\u0628\u06be\u0631\u062a\u0627 \u06c1\u06d2\u06d4 GPT-3 \u062a\u0631\u062c\u0645\u06c1\u060c \u062e\u0644\u0627\u0635\u06c1\u060c \u062a\u062e\u0645\u06cc\u0646\u06c1\u060c \u06cc\u0627 \u0633\u0648\u0627\u0644 \u06a9\u06d2 \u062c\u0648\u0627\u0628 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0644\u06af \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0645\u0642\u0635\u062f \u0627\u06cc\u0633\u0627 \u0644\u06af\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0627\u06cc\u06a9 \u06c1\u06cc \u0639\u0627\u0645 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u0645\u06cc\u06ba \u0627\u0646 \u062a\u0645\u0627\u0645 \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u06a9\u0648 \u067e\u06cc\u062f\u0627 \u06a9\u06cc\u0627 \u062c\u0627\u0626\u06d2\u060c \u0627\u06cc\u06a9 \u0628\u0627\u0631 \u062c\u0628 \u0645\u0627\u0688\u0644 \u06a9\u0627\u0641\u06cc \u0628\u0691\u0627 \u06c1\u0648 \u062c\u0627\u0626\u06d2\u06d4<\/p>\n<h2 id=\"heading-fine-tuning-vs-zero-shot-vs-few-shot\"><strong>\u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u0628\u0645\u0642\u0627\u0628\u0644\u06c1 \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0628\u0645\u0642\u0627\u0628\u0644\u06c1 \u0686\u0646\u062f \u0634\u0627\u0679<\/strong><\/h2>\n<table style=\"min-width:100px\">\n<colgroup>\n<col style=\"min-width:25px\"\/>\n<col style=\"min-width:25px\"\/>\n<col style=\"min-width:25px\"\/>\n<col style=\"min-width:25px\"\/><\/colgroup>\n<tbody>\n<tr>\n<td>\n<p><strong>\u0637\u0631\u0641<\/strong><\/p>\n<\/td>\n<td>\n<p><strong>\u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af<\/strong><\/p>\n<\/td>\n<td>\n<p><strong>\u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af<\/strong><\/p>\n<\/td>\n<td>\n<p><strong>\u0686\u0646\u062f \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u06d2<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u062a\u0639\u0631\u06cc\u0641<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0645\u0627\u0688\u0644 \u06a9\u0648 \u0627\u06cc\u06a9 \u0645\u062e\u0635\u0648\u0635 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0644\u06cc\u0628\u0644 \u0648\u0627\u0644\u06d2 \u0688\u06cc\u0679\u0627 \u067e\u0631 \u0645\u0632\u06cc\u062f \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0645\u0627\u0688\u0644 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u0635\u0631\u0641 \u06c1\u062f\u0627\u06cc\u0627\u062a \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u06a9\u0627\u0645 \u0627\u0646\u062c\u0627\u0645 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0645\u0627\u0688\u0644 \u067e\u0631\u0627\u0645\u067e\u0679 \u0645\u06cc\u06ba \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0627\u06cc\u06a9 \u0686\u06be\u0648\u0679\u06cc \u0633\u06cc \u062a\u0639\u062f\u0627\u062f \u0633\u06d2 \u06a9\u0627\u0645 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u062a\u0639\u0644\u06cc\u0645 \u06a9\u06d2 \u062a\u0642\u0627\u0636\u06d2<\/strong><\/p>\n<\/td>\n<td>\n<p>\u06c1\u0645\u06cc\u06ba \u0632\u06cc\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc\u060c \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u062e\u0635\u0648\u0635 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06a9\u0648\u0626\u06cc \u062e\u0627\u0635 \u06a9\u0627\u0645 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627 \u0645\u062b\u0627\u0644\u06cc\u06ba \u0646\u06c1\u06cc\u06ba \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0631\u06cc\u0641\u0631\u06cc\u0634\u0631 \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u0627\u0634\u0627\u0631\u06d2 \u067e\u0631 \u06a9\u0686\u06be \u0645\u0638\u0627\u06c1\u0631\u06c1\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u06a9\u0633 \u0637\u0631\u062d \u06a9\u0627\u0645 \u062f\u06cc\u06d2 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0639\u0644\u06cc\u062d\u062f\u06c1 \u062a\u0631\u0628\u06cc\u062a\u06cc \u0645\u0631\u0627\u062d\u0644 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06cc \u06c1\u062f\u0627\u06cc\u0627\u062a \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2<\/p>\n<\/td>\n<td>\n<p>\u06c1\u062f\u0627\u06cc\u0627\u062a \u0627\u0648\u0631 \u06a9\u0686\u06be \u0627\u0646 \u067e\u0679\/\u0622\u0624\u0679 \u067e\u0679 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0633\u0627\u062a\u06be\u060c<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u0639\u0645\u0644<\/strong><\/p>\n<\/td>\n<td>\n<p>\u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0648\u0632\u0646 \u06a9\u0648 \u0627\u067e \u0688\u06cc\u0679 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0648\u0632\u0646 \u06a9\u06cc \u06a9\u0648\u0626\u06cc \u062a\u0627\u0632\u06c1 \u06a9\u0627\u0631\u06cc \u0646\u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0648\u0632\u0646 \u06a9\u06cc \u06a9\u0648\u0626\u06cc \u062a\u0627\u0632\u06c1 \u06a9\u0627\u0631\u06cc \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 \u0633\u06cc\u06a9\u06be\u0646\u0627 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc \u0645\u06cc\u06ba \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0644\u0686\u06a9\u062f\u0627\u0631<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06cc\u06a9 \u06a9\u0627\u0645 \u0645\u06cc\u06ba \u0645\u06c1\u0627\u0631\u062a<\/p>\n<\/td>\n<td>\n<p>\u0645\u062e\u062a\u0644\u0641 \u0642\u0633\u0645 \u06a9\u06d2 \u06a9\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba \u0627\u0646\u062a\u06c1\u0627\u0626\u06cc \u0644\u0686\u06a9\u062f\u0627\u0631<\/p>\n<\/td>\n<td>\n<p>\u0644\u0686\u06a9\u062f\u0627\u0631 \u0631\u06c1\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u0628\u06be\u06cc \u0622\u067e \u06a9\u0648 \u0688\u06cc\u0645\u0648 \u06a9\u0627 \u0641\u0627\u0626\u062f\u06c1 \u0645\u0644\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0645\u0648\u0627\u0641\u0642\u062a<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0646\u0626\u06cc \u0645\u0644\u0627\u0632\u0645\u062a\u0648\u06ba \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u067e\u06cc\u063a\u0627\u0645 \u0631\u0633\u0627\u0646\u06cc \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0641\u0648\u0631\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0645\u0648\u0627\u0641\u0642\u062a \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u0645\u062a\u0639\u0644\u0642 \u062d\u0633\u0627\u0633 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0633\u0627\u062a\u06be \u062a\u06cc\u0632\u06cc \u0633\u06d2 \u0645\u0648\u0627\u0641\u0642\u062a \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0688\u06cc\u0679\u0627 \u0627\u0646\u062d\u0635\u0627\u0631<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0644\u06cc\u0628\u0644 \u0648\u0627\u0644\u06d2 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u067e\u0631 \u0628\u06c1\u062a \u0632\u06cc\u0627\u062f\u06c1 \u0627\u0646\u062d\u0635\u0627\u0631<\/p>\n<\/td>\n<td>\n<p>\u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u067e\u06cc\u0634\u06af\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0639\u0644\u0645 \u067e\u0631 \u0645\u0646\u062d\u0635\u0631 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06cc\u06c1 \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u0627\u0648\u0631 \u0641\u0648\u0631\u06cc \u0645\u062b\u0627\u0644\u0648\u06ba \u067e\u0631 \u0645\u0646\u062d\u0635\u0631 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc<\/strong><\/p>\n<\/td>\n<td>\n<p>\u062a\u0646\u06af \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u06a9\u062b\u0631 \u0633\u0628 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0637\u0627\u0642\u062a\u0648\u0631<\/p>\n<\/td>\n<td>\n<p>\u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af \u0633\u06d2 \u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u06a9\u0645\u0632\u0648\u0631<\/p>\n<\/td>\n<td>\n<p>\u0627\u06a9\u062b\u0631 \u0627\u0648\u0642\u0627\u062a \u06cc\u06c1 \u0635\u0641\u0631 \u0634\u0627\u0679 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0645\u0636\u0628\u0648\u0637 \u06c1\u0648\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u0628\u0639\u0636 \u0627\u0648\u0642\u0627\u062a \u06cc\u06c1 \u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u0642\u0631\u06cc\u0628 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u062a\u0645\u0627\u0645 \u0622\u067e\u0631\u06cc\u0634\u0646\u0632 \u0645\u06cc\u06ba \u0627\u0633\u06a9\u06cc\u0644 \u0627\u06cc\u0628\u0644\u0679\u06cc<\/strong><\/p>\n<\/td>\n<td>\n<p>\u06cc\u06c1 \u0645\u06c1\u0646\u06af\u0627 \u0627\u0648\u0631 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u06a9\u0631\u0646\u0627 \u0645\u0634\u06a9\u0644 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0627\u0646\u062a\u06c1\u0627\u0626\u06cc \u0642\u0627\u0628\u0644 \u062a\u0648\u0633\u06cc\u0639<\/p>\n<\/td>\n<td>\n<p>\u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u062a\u0648\u0633\u06cc\u0639 \u067e\u0630\u06cc\u0631<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0644\u0627\u06af\u062a \u06a9\u0627 \u062d\u0633\u0627\u0628<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0627\u0639\u0644\u06cc\u0670 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 \u06c1\u0631 \u06a9\u0627\u0645 \u06a9\u0648 \u0646\u0626\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u067e\u0691 \u0633\u06a9\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u0645\u06cc\u06ba \u06a9\u0645<\/p>\n<\/td>\n<td>\n<p>\u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u0645\u06cc\u06ba \u06a9\u0645<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u06c1\u0627\u06ba<\/strong><\/p>\n<\/td>\n<td>\n<p>\u062c\u0630\u0628\u0627\u062a\u06cc \u062a\u062c\u0632\u06cc\u06c1 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u0645\u0627\u0688\u0644<\/p>\n<\/td>\n<td>\n<p>&quot;\u0627\u0633 \u062c\u0645\u0644\u06d2 \u0645\u06cc\u06ba \u062c\u0630\u0628\u0627\u062a \u06a9\u06cc \u062f\u0631\u062c\u06c1 \u0628\u0646\u062f\u06cc \u06a9\u0631\u06cc\u06ba&#8221;<\/p>\n<\/td>\n<td>\n<p>&quot;\u0645\u062b\u0628\u062a: \u0641\u0644\u0645 \u0627\u0686\u06be\u06cc \u062a\u06be\u06cc\u06d4 \u0645\u0646\u0641\u06cc: \u0641\u0644\u0645 \u0628\u0648\u0631\u0646\u06af \u062a\u06be\u06cc\u06d4 \u062c\u0645\u0644\u06c1: \u06a9\u06c1\u0627\u0646\u06cc \u0632\u0628\u0631\u062f\u0633\u062a \u062a\u06be\u06cc \u2192&#8221;<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u06c1\u0645 \u0637\u0627\u0642\u062a\u06cc\u06ba\u06d4<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0627\u062d\u062a\u06cc\u0627\u0637 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0639\u0644\u06cc\u0670 \u062f\u0631\u0633\u062a\u06af\u06cc<\/p>\n<\/td>\n<td>\n<p>\u0633\u0627\u062f\u06af\u06cc \u0627\u0648\u0631 \u0648\u0633\u06cc\u0639 \u0639\u0645\u0648\u0645\u06cc\u062a<\/p>\n<\/td>\n<td>\n<p>\u0644\u0686\u06a9 \u0627\u0648\u0631 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u0637\u0627\u0642\u062a\u0648\u0631 \u062a\u0648\u0627\u0632\u0646<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u06c1\u0645 \u06a9\u0645\u0632\u0648\u0631\u06cc<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0645\u062a\u0639\u062f\u062f \u06a9\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba \u0627\u0686\u06be\u06cc \u0637\u0631\u062d \u0633\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06a9\u0627\u0645 \u06a9\u06cc \u0634\u06a9\u0644 \u06cc\u0627 \u0627\u0631\u0627\u062f\u06d2 \u06a9\u0648 \u063a\u0644\u0637 \u0633\u0645\u062c\u06be\u0627 \u062c\u0627 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u062a\u06cc\u0632 \u0645\u0639\u06cc\u0627\u0631 \u0627\u0648\u0631 \u0645\u062b\u0627\u0644 \u06a9\u06d2 \u0627\u0646\u062a\u062e\u0627\u0628 \u06a9\u06d2 \u0644\u06cc\u06d2 \u062d\u0633\u0627\u0633<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0633\u0628 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0645\u062a\u0639\u0644\u0642\u06c1<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0631\u0648\u0627\u06cc\u062a\u06cc NLP \u0646\u0638\u0627\u0645\u060c GPT-1 \u062f\u0648\u0631<\/p>\n<\/td>\n<td>\n<p>GPT-2 \u0627\u0633\u0679\u0627\u0626\u0644 \u067e\u0631\u0627\u0645\u067e\u0679<\/p>\n<\/td>\n<td>\n<p>GPT-3 \u0627\u0648\u0631 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u062a\u0639\u0644\u06cc\u0645<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644<\/strong><\/p>\n<\/td>\n<td>\n<p>\u06c1\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06c1\u062f\u0627\u06cc\u0627\u062a \u0633\u06d2 \u0627\u0639\u0645\u0627\u0644 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u0627<\/p>\n<\/td>\n<td>\n<p>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0645\u062b\u0627\u0644\u0648\u06ba \u0633\u06d2 \u0627\u0639\u0645\u0627\u0644 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0626\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<h2 id=\"heading-model-architecture\"><strong>\u0645\u0627\u0688\u0644 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631<\/strong><\/h2>\n<p>\u0633\u0627\u062e\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631\u060c GPT-3 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0646\u06cc\u0627 \u0688\u06cc\u0632\u0627\u0626\u0646 \u0645\u062a\u0639\u0627\u0631\u0641 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u0627\u062a\u0627 \u06c1\u06d2\u06d4 \u062f\u0631\u062d\u0642\u06cc\u0642\u062a\u060c \u0627\u0633 \u06a9\u0627\u063a\u0630 \u06a9\u06d2 \u0633\u0628 \u0633\u06d2 \u062f\u0644\u0686\u0633\u067e \u067e\u06c1\u0644\u0648\u0624\u06ba \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 \u062a\u0642\u0631\u06cc\u0628\u0627\u064b GPT-2 \u0633\u06d2 \u0645\u0645\u0627\u062b\u0644 \u06c1\u06d2\u06d4 OpenAI \u062e\u0648\u062f\u06a9\u0627\u0631 \u0645\u0642\u0627\u0635\u062f \u06a9\u06d2 \u0633\u0627\u062a\u06be \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0635\u0631\u0641 \u0688\u06cc\u06a9\u0648\u0688\u0631 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0645\u0627\u0688\u0644\u0632 \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be\u06d2 \u06c1\u0648\u0626\u06d2 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0639\u0644\u06cc \u0633\u0637\u062d \u067e\u0631\u060c \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 \u0645\u062a\u0646 \u067e\u0631 \u06a9\u0627\u0631\u0631\u0648\u0627\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u062f\u0631\u062c \u0630\u06cc\u0644 \u0645\u06cc\u06a9\u0627\u0646\u0632\u0645 \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2: <em>\u062a\u0648\u062c\u06c1<\/em>. \u067e\u0686\u06be\u0644\u06d2 \u062a\u06a9\u0631\u0627\u0631\u06cc \u0645\u0627\u0688\u0644\u0632 \u06a9\u06cc \u0637\u0631\u062d \u0627\u06cc\u06a9 \u0648\u0642\u062a \u0645\u06cc\u06ba \u0627\u0644\u0641\u0627\u0638 \u06a9\u0648 \u0633\u062e\u062a\u06cc \u0633\u06d2 \u067e\u0691\u06be\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u067e\u0648\u0631\u06cc \u062a\u0631\u062a\u06cc\u0628 \u06a9\u0648 \u062f\u06cc\u06a9\u06be \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u0627\u0633 \u0628\u0627\u062a \u06a9\u0627 \u062a\u0639\u06cc\u0646 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0648\u0646 \u0633\u06d2 \u0627\u0644\u0641\u0627\u0638 \u0627\u06cc\u06a9 \u062f\u0648\u0633\u0631\u06d2 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0648\u0627\u0628\u0633\u062a\u06c1 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u0632\u06cc\u062f \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631\u060c GPT-3 \u067e\u0631 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2: <em>\u0630\u0627\u062a\u06cc \u0645\u0641\u0627\u062f<\/em>\u06cc\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0645\u062a\u0646 \u067e\u06cc\u062f\u0627 \u06a9\u0631\u062a\u06d2 \u0648\u0642\u062a \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06d2 \u0645\u062e\u062a\u0644\u0641 \u062d\u0635\u0648\u06ba \u06a9\u0648 \u0648\u0632\u0646 \u062f\u06cc\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u0633 \u0633\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0627\u0644\u0641\u0627\u0638\u060c \u062c\u0645\u0644\u0648\u06ba \u0627\u0648\u0631 \u062e\u06cc\u0627\u0644\u0627\u062a \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u0637\u0648\u06cc\u0644 \u0645\u062f\u062a\u06cc \u062a\u0639\u0644\u0642\u0627\u062a \u06a9\u0648 \u062d\u0627\u0635\u0644 \u06a9\u0631\u0646\u06d2 \u0645\u06cc\u06ba \u0645\u062f\u062f \u0645\u0644\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u0628\u06be\u06cc \u06c1\u06d2\u06d4 <em>\u062e\u0648\u062f \u0628\u062e\u0648\u062f<\/em>\u0627\u0633 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 \u067e\u0686\u06be\u0644\u06d2 \u0679\u0648\u06a9\u0646 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u067e\u0631 \u0627\u06af\u0644\u06d2 \u0679\u0648\u06a9\u0646 \u06a9\u06cc \u067e\u06cc\u0634 \u06af\u0648\u0626\u06cc \u06a9\u0631 \u06a9\u06d2 \u062a\u0631\u062a\u06cc\u0628 \u0648\u0627\u0631 \u0645\u062a\u0646 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0627\u06af\u0644\u0627 \u0679\u0648\u06a9\u0646 \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0627 \u06c1\u062f\u0641 GPT-3 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u06c1\u06d2\u060c \u062c\u06cc\u0633\u0627 \u06a9\u06c1 \u0627\u0633 \u0646\u06d2 GPT-2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u06cc\u0627 \u062a\u06be\u0627\u06d4<\/p>\n<p>\u062a\u0648 \u0627\u06af\u0631 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u0627\u06cc\u06a9 \u062c\u06cc\u0633\u0627 \u06c1\u06d2 \u062a\u0648 \u0627\u0635\u0644 \u0645\u06cc\u06ba \u06a9\u06cc\u0627 \u0628\u062f\u0644\u0627 \u06c1\u06d2\u061f<\/p>\n<p>\u062c\u0648\u0627\u0628 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u0688\u0631\u0627\u0645\u0627\u0626\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0633\u0627\u0626\u0632\u060c \u062a\u0631\u0628\u06cc\u062a\u06cc \u0688\u06cc\u0679\u0627 \u06a9\u06cc \u0645\u0642\u062f\u0627\u0631\u060c \u0627\u0648\u0631 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u06a9\u0645\u067e\u06cc\u0648\u0679\u06cc\u0634\u0646\u0644 \u0648\u0633\u0627\u0626\u0644 \u06a9\u0648 \u0628\u0691\u06be\u0627\u062a\u0627 \u06c1\u06d2\u06d4 GPT-3 \u06a9\u0627 \u0633\u0628 \u0633\u06d2 \u0628\u0691\u0627 \u0648\u0631\u0698\u0646 175 \u0628\u0644\u06cc\u0646 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u067e\u0631 \u0645\u0634\u062a\u0645\u0644 \u06c1\u06d2\u060c \u062c\u0648 GPT-2 \u06a9\u06d2 1.5 \u0628\u0644\u06cc\u0646 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631 \u0645\u0627\u0688\u0644 \u0633\u06d2 \u0628\u06c1\u062a \u0628\u0691\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u0627\u063a\u0630 125 \u0645\u0644\u06cc\u0646 \u0633\u06d2 175 \u0628\u0644\u06cc\u0646 \u062a\u06a9 \u06a9\u06d2 \u0645\u062e\u062a\u0644\u0641 \u0645\u0627\u0688\u0644 \u0633\u0627\u0626\u0632 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0628\u06be\u06cc \u062a\u062c\u0631\u0628\u0627\u062a \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0627\u06c1\u0645 \u062a\u06be\u0627 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 \u0645\u0635\u0646\u0641\u06cc\u0646 \u0627\u0633 \u0628\u0627\u062a \u06a9\u0627 \u0645\u0637\u0627\u0644\u0639\u06c1 \u06a9\u0631\u0646\u0627 \u0686\u0627\u06c1\u062a\u06d2 \u062a\u06be\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0628\u0691\u06be\u0646\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u06c1\u06cc \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u06a9\u06cc\u0633\u06d2 \u062a\u06cc\u0627\u0631 \u06c1\u0648\u062a\u06cc \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 \u0645\u06cc\u06ba \u0634\u0627\u0645\u0644 \u06c1\u06cc\u06ba:<\/p>\n<ul>\n<li>\n<p>\u0688\u06cc\u06a9\u0648\u0688\u0631 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u062e\u0635\u0648\u0635 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0688\u06cc\u0632\u0627\u0626\u0646<\/p>\n<\/li>\n<li>\n<p>2048 \u0679\u0648\u06a9\u0646 \u06a9\u06cc \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc<\/p>\n<\/li>\n<li>\n<p>\u0645\u0644\u062a\u06d2 \u062c\u0644\u062a\u06d2 \u0627\u06c1\u062f\u0627\u0641 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0645\u062a\u0639\u062f\u062f \u0645\u0627\u0688\u0644 \u0627\u0633\u06a9\u06cc\u0644\u0632<\/p>\n<\/li>\n<li>\n<p>\u062a\u0648\u062c\u06c1 \u06a9\u0627 \u0637\u0631\u06cc\u0642\u06c1 \u06a9\u0627\u0631 \u062c\u0648 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0645\u0624\u062b\u0631 \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0645\u062a\u0639\u0644\u0642\u06c1 \u062a\u0639\u0644\u0642\u0627\u062a \u06a9\u0648 \u0633\u0646\u0628\u06be\u0627\u0644\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/li>\n<\/ul>\n<p>\u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u06a9\u06d2 \u0633\u0628 \u0633\u06d2 \u0627\u06c1\u0645 \u0645\u0634\u0627\u06c1\u062f\u0627\u062a \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u0628\u0691\u06be\u0646\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u06c1\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0645\u06cc\u06ba \u0622\u0633\u0627\u0646\u06cc \u0633\u06d2 \u0628\u06c1\u062a\u0631\u06cc \u0622\u062a\u06cc \u06c1\u06d2\u06d4 \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06cc \u0627\u06cc\u06a9 \u0648\u0633\u06cc\u0639 \u0631\u06cc\u0646\u062c \u067e\u0631 \u0645\u0633\u062a\u0642\u0644 \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u0628\u0634\u0645\u0648\u0644 \u062a\u0631\u062c\u0645\u06c1\u060c \u0633\u0648\u0627\u0644 \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a\u060c \u062a\u062e\u0645\u06cc\u0646\u06c1\u060c \u0627\u0648\u0631 \u0686\u0646\u062f \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af\u06d4<\/p>\n<p>\u06cc\u06c1 \u062e\u06cc\u0627\u0644 \u067e\u0648\u0631\u06d2 GPT-3 \u062f\u0633\u062a\u0627\u0648\u06cc\u0632 \u06a9\u0627 \u0645\u0631\u06a9\u0632 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06c1\u0627\u062a\u06be \u0633\u06d2 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062f\u06c1 \u0679\u0627\u0633\u06a9 \u0645\u062e\u0635\u0648\u0635 \u0646\u0638\u0627\u0645\u0648\u06ba \u067e\u0631 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 \u0628\u06c1\u062a \u0633\u0627\u0631\u06cc \u062c\u062f\u06cc\u062f \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u0642\u062f\u0631\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0627\u0628\u06be\u0631\u062a\u06cc \u06c1\u06cc\u06ba \u062c\u0628 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0627\u0641\u06cc \u0628\u0691\u06d2 \u06c1\u0648 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba \u0627\u0648\u0631 \u06a9\u0627\u0641\u06cc \u0645\u062a\u0646\u0648\u0639 \u0688\u06cc\u0679\u0627 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u062f\u0648\u0633\u0631\u06d2 \u0627\u0644\u0641\u0627\u0638 \u0645\u06cc\u06ba\u060c \u062a\u0648\u0633\u06cc\u0639 \u062e\u0648\u062f \u0627\u06cc\u06a9 \u062a\u062d\u0642\u06cc\u0642\u06cc \u062d\u06a9\u0645\u062a \u0639\u0645\u0644\u06cc \u06a9\u06cc \u0637\u0631\u062d \u06a9\u0627\u0645 \u06a9\u0631\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u062c\u0648 \u0686\u06cc\u0632 \u0627\u0633 \u062a\u0628\u062f\u06cc\u0644\u06cc \u06a9\u0648 \u0627\u06c1\u0645 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2 \u0648\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u067e\u06cc\u0686\u06cc\u062f\u06c1 \u062a\u0639\u0645\u06cc\u0631\u0627\u062a\u06cc \u0627\u062e\u062a\u0631\u0627\u0639\u0627\u062a \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0627\u067e\u0646\u06d2 \u0646\u062a\u0627\u0626\u062c \u062d\u0627\u0635\u0644 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u06a9\u0627 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u0628\u06c1\u062a \u0622\u0633\u0627\u0646 \u06c1\u06d2 \u0627\u0648\u0631 \u0628\u0639\u0636 \u0637\u0631\u06cc\u0642\u0648\u06ba \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u062d\u06cc\u0631\u0627\u0646 \u06a9\u0646 \u06c1\u06d2\u06d4<\/p>\n<p>\u0646\u0633\u0628\u062a\u0627 \u0645\u0639\u06cc\u0627\u0631\u06cc \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631\u060c \u062c\u0628 \u06a9\u0627\u0641\u06cc \u062d\u062f \u062a\u06a9 \u062c\u0627\u0631\u062d\u0627\u0646\u06c1 \u0637\u0648\u0631 \u067e\u0631 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u060c \u0645\u06a9\u0645\u0644 \u0637\u0648\u0631 \u067e\u0631 \u0646\u0626\u06d2 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u06cc \u0646\u0645\u0627\u0626\u0634 \u06a9\u0631\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/umang.pk\/wp-content\/uploads\/2026\/05\/1779155060_527_AI-\u067e\u06cc\u067e\u0631-\u0631\u06cc\u0648\u06cc\u0648-\u0632\u0628\u0627\u0646-\u06a9\u06d2-\u0645\u0627\u0688\u0644\u0632-\u0628\u06c1\u062a-\u06a9\u0645-\u0633\u06cc\u06a9\u06be\u0646\u06d2-\u0648\u0627\u0644\u06d2.png\" alt=\"\u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631-\u0688\u06cc\u06a9\u0648\u0688\u0631-\u0622\u0631\u06a9\u06cc\u0679\u06cc\u06a9\u0686\u0631\" style=\"display:block;margin:0 auto\" width=\"600\" height=\"400\" loading=\"lazy\" title=\"\"><\/p>\n<p><strong>\u0645\u06cc\u0645\u0648:<\/strong> \u0627\u0635\u0644 \u0634\u06a9\u0644 \u067e\u0648\u0631\u06d2 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 (\u0627\u0646\u06a9\u0648\u0688\u0631-\u0688\u06cc\u06a9\u0648\u0688\u0631) \u06a9\u0648 \u0638\u0627\u06c1\u0631 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4 <em>\u0622\u067e \u06a9\u0648 \u0635\u0631\u0641 \u062a\u0648\u062c\u06c1 \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u06d2\u06d4<\/em>. GPT \u0637\u0631\u0632 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u0648\u0636\u0627\u062d\u062a \u0627\u0648\u0631 \u0645\u0637\u0627\u0628\u0642\u062a \u06a9\u06d2 \u0644\u06cc\u06d2\u060c \u06cc\u06c1\u0627\u06ba \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06cc \u062a\u0635\u0627\u0648\u06cc\u0631 \u06a9\u0648 \u0635\u0631\u0641 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 \u06a9\u06d2 \u0688\u06cc\u06a9\u0648\u0688\u0631 \u067e\u06c1\u0644\u0648 \u067e\u0631 \u0641\u0648\u06a9\u0633 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u0627\u0679\u0627 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4 \u0627\u0633 \u06a9\u06cc \u0648\u062c\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 GPT \u0645\u0627\u0688\u0644 \u0635\u0631\u0641 \u0688\u06cc\u06a9\u0648\u0688\u0631 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0688\u06cc\u0632\u0627\u0626\u0646 \u067e\u0631 \u0645\u0628\u0646\u06cc \u06c1\u06d2\u06d4<\/p>\n<p><strong>\u062d\u0648\u0627\u0644\u06c1:<\/strong> \u0628\u0631\u0627\u0624\u0646\u0644\u06cc\u060c \u062c\u06d2 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0645\u0627\u0688\u0644 \u0627\u0646\u06a9\u0648\u0688\u0631\u0632 \u0627\u0648\u0631 \u0645\u0634\u06cc\u0646 \u0644\u0631\u0646\u0646\u06af \u0645\u0627\u0633\u0679\u0631\u06cc \u0645\u06cc\u06ba \u0688\u06cc\u06a9\u0648\u0688\u0631\u06d4<\/p>\n<h2 id=\"heading-experiments\"><strong>\u062a\u062c\u0631\u0628\u06c1<\/strong><\/h2>\n<p>\u06cc\u06c1 \u0633\u0645\u062c\u06be\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u06c1 \u0622\u06cc\u0627 GPT-3 \u062f\u0631\u0627\u0635\u0644 \u0635\u0631\u0641 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u0633\u06cc\u06a9\u06be \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u0646\u06d2 NLP \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06cc \u0627\u06cc\u06a9 \u0628\u06c1\u062a \u0648\u0633\u06cc\u0639 \u0631\u06cc\u0646\u062c \u0645\u06cc\u06ba \u0645\u0627\u0688\u0644 \u06a9\u0627 \u062c\u0627\u0626\u0632\u06c1 \u0644\u06cc\u0627\u06d4 \u06a9\u0633\u06cc \u0627\u06cc\u06a9 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u067e\u0631 \u062a\u0648\u062c\u06c1 \u0645\u0631\u06a9\u0648\u0632 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u06cc\u06c1 \u0645\u0642\u0627\u0644\u06c1 \u062c\u0627\u0646\u0686\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0622\u06cc\u0627 \u0627\u06cc\u06a9 \u06c1\u06cc \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0645\u0627\u0688\u0644 \u0635\u0631\u0641 \u0627\u0634\u0627\u0631\u06d2 \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u0645\u062e\u062a\u0644\u0641 \u0642\u0633\u0645 \u06a9\u06d2 \u0645\u0633\u0627\u0626\u0644 \u0633\u06d2 \u0645\u0637\u0627\u0628\u0642\u062a \u0631\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u062a\u062c\u0631\u0628\u0627\u062a \u0645\u062e\u062a\u0644\u0641 \u0634\u0639\u0628\u0648\u06ba \u06a9\u0627 \u0627\u062d\u0627\u0637\u06c1 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u0628\u0634\u0645\u0648\u0644:<\/p>\n<ul>\n<li>\n<p>\u0632\u0628\u0627\u0646 \u06a9\u06cc \u0645\u0627\u0688\u0644\u0646\u06af \u0627\u0648\u0631 \u0645\u062a\u0646 \u06a9\u06cc \u062a\u06a9\u0645\u06cc\u0644<\/p>\n<\/li>\n<li>\n<p>\u0633\u0648\u0627\u0644\u0627\u062a \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a<\/p>\n<\/li>\n<li>\n<p>\u0632\u0628\u0627\u0646\u0648\u06ba \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u062a\u0631\u062c\u0645\u06c1<\/p>\n<\/li>\n<li>\n<p>\u067e\u0691\u06be\u0646\u06d2 \u06a9\u06cc \u0633\u0645\u062c\u06be<\/p>\n<\/li>\n<li>\n<p>\u0639\u0627\u0645 \u0641\u06c1\u0645 \u0627\u0633\u062a\u062f\u0644\u0627\u0644<\/p>\n<\/li>\n<li>\n<p>\u0648\u0646\u0648\u06af\u0631\u0627\u0688 \u0637\u0631\u0632 \u06a9\u06d2 \u0627\u0646\u0641\u0631\u0646\u0633 \u0679\u0627\u0633\u06a9\u0633<\/p>\n<\/li>\n<li>\n<p>\u0628\u0646\u062f \u0627\u0648\u0631 \u062c\u0645\u0644\u06d2 \u06a9\u06cc \u062a\u06a9\u0645\u06cc\u0644 \u06a9\u06d2 \u06a9\u0627\u0645<\/p>\n<\/li>\n<li>\n<p>\u062c\u0627\u0645\u0639 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06a9\u06d2 \u0645\u0633\u0627\u0626\u0644 \u062c\u06cc\u0633\u06d2 \u0631\u06cc\u0627\u0636\u06cc \u0627\u0648\u0631 \u0627\u0644\u0641\u0627\u0638 \u06a9\u06cc \u06c1\u06cc\u0631\u0627 \u067e\u06be\u06cc\u0631\u06cc<\/p>\n<\/li>\n<\/ul>\n<p>\u062c\u0648 \u0686\u06cc\u0632 \u0627\u0646 \u062a\u062c\u0631\u0628\u0627\u062a \u06a9\u0648 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06c1\u0645 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2 \u0648\u06c1 \u062e\u0648\u062f \u062a\u0634\u062e\u06cc\u0635 \u06a9\u06cc \u062a\u0631\u062a\u06cc\u0628 \u06c1\u06d2\u06d4<\/p>\n<p>\u06c1\u0631 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0644\u06af \u0627\u0644\u06af GPT-3 \u06a9\u0648 \u0679\u06be\u06cc\u06a9 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u06c1\u0645 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0645\u062c\u0645\u0648\u0639\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062c\u0627\u0646\u0686 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0645\u0635\u0646\u0641\u06cc\u0646 \u062a\u06cc\u0646 \u0645\u062e\u062a\u0644\u0641 \u062a\u0631\u062a\u06cc\u0628\u0627\u062a \u0645\u06cc\u06ba GPT-3 \u06a9\u0627 \u062c\u0627\u0626\u0632\u06c1 \u0644\u06cc\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<ul>\n<li>\n<p><em>\u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af<\/em>\u06cc\u06c1\u0627\u06ba \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0635\u0631\u0641 \u0646\u0648\u06a9\u0631\u06cc \u06a9\u06cc \u062a\u0641\u0635\u06cc\u0644 \u0645\u0644\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<\/li>\n<li>\n<p><em>\u0627\u06cc\u06a9 \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em>\u0622\u067e \u06a9\u0648 \u0627\u06cc\u06a9 \u06c1\u06cc \u0645\u062b\u0627\u0644 \u0645\u0644\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<\/li>\n<li>\n<p><em>\u0686\u0646\u062f \u0634\u0627\u0679 \u0633\u06cc\u06a9\u06be\u0646\u06d2<\/em>\u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u0645\u06cc\u06ba \u06a9\u0626\u06cc \u0688\u06cc\u0645\u0648 \u0634\u0627\u0645\u0644 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<\/ul>\n<p>\u0645\u062b\u0627\u0644 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631\u060c \u062a\u0631\u062c\u0645\u06c1 \u06a9\u06d2 \u06a9\u0627\u0645 \u0645\u06cc\u06ba\u060c \u0645\u0627\u0688\u0644 \u0633\u06d2 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u06c1\u0646\u06d2 \u0633\u06d2 \u067e\u06c1\u0644\u06d2 \u067e\u0631\u0627\u0645\u067e\u0679 \u0645\u06cc\u06ba \u0627\u0646\u06af\u0631\u06cc\u0632\u06cc \u0633\u06d2 \u0641\u0631\u0627\u0646\u0633\u06cc\u0633\u06cc \u0645\u062b\u0627\u0644\u06cc\u06ba \u0634\u0627\u0645\u0644 \u06c1\u0648 \u0633\u06a9\u062a\u06cc \u06c1\u06cc\u06ba\u06d4 \u0633\u0648\u0627\u0644 \u062c\u0648\u0627\u0628 \u062f\u06cc\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u06a9\u0627\u0645 \u0645\u06cc\u06ba\u060c \u0645\u0627\u0688\u0644 \u0627\u06cc\u06a9 \u0646\u0626\u06d2 \u0633\u0648\u0627\u0644 \u06a9\u0648 \u0622\u0632\u0645\u0627\u0646\u06d2 \u0633\u06d2 \u067e\u06c1\u0644\u06d2 \u06a9\u0626\u06cc \u0645\u062b\u0627\u0644\u06cc \u0633\u0648\u0627\u0644\u0627\u062a \u0627\u0648\u0631 \u062c\u0648\u0627\u0628\u0627\u062a \u062f\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u06c1\u0645 \u0628\u0627\u062a \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0627\u0646 \u062a\u0634\u062e\u06cc\u0635 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u06a9\u0628\u06be\u06cc \u062a\u0628\u062f\u06cc\u0644 \u0646\u06c1\u06cc\u06ba \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u06a9\u0648\u0626\u06cc \u062a\u062f\u0631\u06cc\u062c\u06cc \u0627\u067e \u0688\u06cc\u0679\u0633 \u0646\u06c1\u06cc\u06ba \u06c1\u06cc\u06ba\u060c \u06a9\u0648\u0626\u06cc \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a\u06cc \u0627\u0642\u062f\u0627\u0645\u0627\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u06cc\u06ba\u060c \u0627\u0648\u0631 \u06a9\u0648\u0626\u06cc \u062e\u0627\u0635 \u06a9\u0627\u0645 \u06a9\u06cc \u0627\u0635\u0644\u0627\u062d \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 GPT-3 \u0628\u0627\u0644\u06a9\u0644 \u0648\u06c1\u06cc \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0648\u0632\u0646 \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u062a\u0645\u0627\u0645 \u0622\u067e\u0631\u06cc\u0634\u0646 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u0645\u0648\u062c\u0648\u062f\u06c1 NLP \u0633\u0633\u0679\u0645 \u0633\u06d2 \u0633\u0628 \u0633\u06d2 \u0628\u0691\u06cc \u0631\u0648\u0627\u0646\u06af\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u0648\u0642\u062a\u060c \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u062c\u062f\u06cc\u062f \u062a\u0631\u06cc\u0646 \u0645\u0627\u0688\u0644\u0632 \u0646\u06d2 \u0627\u062d\u062a\u06cc\u0627\u0637 \u0633\u06d2 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062f\u06c1 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679\u0633 \u067e\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc \u06a9\u06cc \u06af\u0626\u06cc \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0645\u0636\u0628\u0648\u0637 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u0646\u062a\u0627\u0626\u062c \u062d\u0627\u0635\u0644 \u06a9\u06cc\u06d2 \u062a\u06be\u06d2\u06d4 \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c GPT-3 \u062c\u0627\u0646\u0686\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0622\u06cc\u0627 \u0627\u06cc\u06a9 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u067e\u0631\u0627\u0645\u067e\u0679 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u0633\u0645\u062c\u06be \u06a9\u0631 \u062a\u0645\u0627\u0645 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0639\u0627\u0645 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u0627\u063a\u0630 \u0627\u0633 \u0628\u0627\u062a \u06a9\u0627 \u0628\u06be\u06cc \u062c\u0627\u0626\u0632\u06c1 \u0644\u06cc\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0633\u0627\u0626\u0632 \u0645\u06cc\u06ba \u0627\u0636\u0627\u0641\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u06cc\u0633\u06d2 \u0628\u062f\u0644\u062a\u06cc \u06c1\u06d2\u06d4 OpenAI \u0646\u06d2 125 \u0645\u0644\u06cc\u0646 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u0633\u06d2 \u0644\u06d2 \u06a9\u0631 175 \u0628\u0644\u06cc\u0646 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u062a\u06a9 \u06a9\u06d2 GPT-3 \u06a9\u06d2 \u0645\u062e\u062a\u0644\u0641 \u0648\u0631\u0698\u0646\u0632 \u06a9\u0648 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u060c \u0627\u0648\u0631 \u067e\u06be\u0631 \u0645\u0648\u0627\u0632\u0646\u06c1 \u06a9\u06cc\u0627 \u06a9\u06c1 \u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u0646\u06d2 \u0635\u0641\u0631 \u0634\u0627\u0679\u060c \u0648\u0646 \u0634\u0627\u0679\u060c \u0627\u0648\u0631 \u0627\u0639\u0634\u0627\u0631\u06cc\u06c1 \u0631\u0648\u06cc\u06d2 \u06a9\u0648 \u06a9\u06cc\u0633\u06d2 \u0645\u062a\u0627\u062b\u0631 \u06a9\u06cc\u0627\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u06a9\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u0645\u06cc\u06ba \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u06c1\u0648 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0686\u0646\u062f \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u060c \u06cc\u06c1 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u06cc \u06c1\u06d2 \u06a9\u06c1 \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0632\u06cc\u0627\u062f\u06c1 \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u06a9\u0648 \u0635\u0631\u0641 \u06cc\u0627\u062f \u0646\u06c1\u06cc\u06ba \u0631\u06a9\u06be\u062a\u06d2\u06d4 \u0648\u06c1 \u0646\u0626\u06d2 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0688\u06be\u0627\u0644\u0646\u06d2 \u06a9\u06d2 \u0642\u0627\u0628\u0644 \u06c1\u0648 \u0631\u06c1\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<h2 id=\"heading-key-findings\"><strong>\u06a9\u0644\u06cc\u062f\u06cc \u0646\u062a\u0627\u0626\u062c<\/strong><\/h2>\n<p>\u06cc\u06c1 \u0648\u06c1 \u0633\u06cc\u06a9\u0634\u0646 \u06c1\u06d2 \u062c\u06c1\u0627\u06ba GPT-3 \u0627\u06cc\u06a9 &quot;\u0628\u0691\u06d2 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644&#8221; \u06a9\u06cc \u0637\u0631\u062d \u0645\u062d\u0633\u0648\u0633 \u06a9\u0631\u0646\u0627 \u0628\u0646\u062f \u06a9\u0631 \u062f\u06cc\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0645\u062e\u062a\u0644\u0641 \u0686\u06cc\u0632 \u06a9\u06cc \u0637\u0631\u062d \u0646\u0638\u0631 \u0622\u0646\u06d2 \u0644\u06af\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u062a\u0642\u0631\u06cc\u0628\u0627\u064b \u062a\u0645\u0627\u0645 \u062a\u062c\u0631\u0628\u0627\u062a \u0645\u06cc\u06ba \u0633\u0628 \u0633\u06d2 \u0648\u0627\u0636\u062d \u0646\u0645\u0648\u0646\u0648\u06ba \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0633\u0627\u0626\u0632 \u0645\u06cc\u06ba \u0627\u0636\u0627\u0641\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0645\u06cc\u06ba \u0628\u06c1\u062a\u0631\u06cc \u0622\u062a\u06cc \u0631\u06c1\u062a\u06cc \u06c1\u06d2\u06d4 \u062c\u06cc\u0633\u0627 \u06a9\u06c1 GPT-3 \u06a9\u0627 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u0644\u0627\u06a9\u06be\u0648\u06ba \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u0633\u06d2 \u0633\u06cc\u0646\u06a9\u0691\u0648\u06ba \u0628\u0644\u06cc\u0646 \u062a\u06a9 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u060c \u0645\u0627\u0688\u0644 \u0627\u0634\u0627\u0631\u06d2 \u06a9\u0648 \u0633\u0645\u062c\u06be\u0646\u06d2\u060c \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642 \u0688\u06be\u0627\u0644\u0646\u06d2\u060c \u0627\u0648\u0631 \u0627\u0646 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u0648 \u0627\u0646\u062c\u0627\u0645 \u062f\u06cc\u0646\u06d2 \u0645\u06cc\u06ba \u0628\u06c1\u062a \u0628\u06c1\u062a\u0631 \u06c1\u0648 \u062c\u0627\u062a\u0627 \u06c1\u06d2 \u062c\u0646 \u06a9\u06cc \u0627\u0633\u06d2 \u0648\u0627\u0636\u062d \u0637\u0648\u0631 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u0646\u06c1\u06cc\u06ba \u062f\u06cc \u06af\u0626\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0644\u06cc\u06a9\u0646 \u0633\u0628 \u0633\u06d2 \u062d\u06cc\u0631\u0627\u0646 \u06a9\u0646 \u0646\u062a\u06cc\u062c\u06c1 \u0635\u0631\u0641 \u0627\u0639\u0644\u06cc \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u0633\u06a9\u0648\u0631 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u06c1\u06d2 \u0627\u0635\u0644 \u067e\u06cc\u0634 \u0631\u0641\u062a <em>\u0686\u0646\u062f \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af \u062f\u0631\u0627\u0635\u0644 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u06a9\u0627\u0645 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4<\/em>.<\/p>\n<p>\u0628\u06c1\u062a \u0633\u06d2 \u06a9\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba\u060c GPT-3 \u06a9\u06cc \u06a9\u0626\u06cc \u0634\u0627\u0679 \u067e\u0631\u0641\u0627\u0631\u0645\u0646\u0633 \u0627\u067e\u0631\u0648\u0686\u0632\u060c \u0627\u0648\u0631 \u0628\u0639\u0636 \u0635\u0648\u0631\u062a\u0648\u06ba \u0645\u06cc\u06ba \u0645\u06cc\u0686 \u06cc\u0627 \u0627\u0633 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1\u060c \u0637\u0627\u0642\u062a\u0648\u0631 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0688 \u0633\u0633\u0679\u0645\u0632\u06d4 \u06cc\u06c1 \u062d\u06cc\u0631\u0627\u0646 \u06a9\u0646 \u06c1\u06d2 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 GPT-3 \u0627\u0646\u0641\u0631\u0627\u062f\u06cc \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06d2 \u0648\u0632\u0646 \u06a9\u0648 \u0627\u067e \u0688\u06cc\u0679 \u06a9\u06cc\u06d2 \u0628\u063a\u06cc\u0631 \u06cc\u06c1 \u0646\u062a\u0627\u0626\u062c \u062d\u0627\u0635\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u0633\u0628 \u06a9\u0686\u06be \u0646\u062c\u06cc \u067e\u06cc\u063a\u0627\u0645\u0627\u062a \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0633\u0628 \u0633\u06d2 \u0645\u0636\u0628\u0648\u0637 \u0645\u062b\u0627\u0644\u0648\u06ba \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u0633\u0648\u0627\u0644 \u062c\u0648\u0627\u0628 \u062f\u06cc\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9\u0633 \u0633\u06d2 \u0645\u0644\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>TriviaQA \u0645\u06cc\u06ba\u060c GPT-3 \u06a9\u0648 \u0627\u0634\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0641\u0631\u0627\u06c1\u0645 \u06a9\u0631\u062f\u06c1 \u0645\u0632\u06cc\u062f \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u06a9\u06cc\u0627 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0645\u0642\u0627\u0644\u06c1 \u0631\u067e\u0648\u0631\u0679 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u062c\u0628 \u06a9\u06c1 \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u06a9\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u06c1\u06cc \u0645\u0633\u0627\u0628\u0642\u062a\u06cc \u06c1\u06d2\u060c \u0627\u06cc\u06a9 \u0634\u0627\u0679 \u0627\u0648\u0631 \u0686\u0646\u062f \u0634\u0627\u0679 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u067e\u0634 \u06a9\u06d2 \u0646\u062a\u0627\u0626\u062c \u0645\u0632\u06cc\u062f \u0628\u06c1\u062a\u0631 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u0628\u0627\u0644\u0622\u062e\u0631 \u0627\u0633\u06cc \u0646\u062c\u06cc \u062a\u0631\u062a\u06cc\u0628 \u0645\u06cc\u06ba \u06a9\u0686\u06be \u062c\u062f\u06cc\u062f \u062a\u0631\u06cc\u0646 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0688 \u0633\u0633\u0679\u0645 \u062a\u06a9 \u067e\u06c1\u0646\u0686 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba \u06cc\u0627 \u0627\u0633 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/umang.pk\/wp-content\/uploads\/2026\/05\/1779155060_18_AI-\u067e\u06cc\u067e\u0631-\u0631\u06cc\u0648\u06cc\u0648-\u0632\u0628\u0627\u0646-\u06a9\u06d2-\u0645\u0627\u0688\u0644\u0632-\u0628\u06c1\u062a-\u06a9\u0645-\u0633\u06cc\u06a9\u06be\u0646\u06d2-\u0648\u0627\u0644\u06d2.png\" alt=\"ZeroShot-OneShot-FewShot \u0633\u06cc\u06a9\u06be\u06cc\u06ba\u06d4\" style=\"display:block;margin:0 auto\" width=\"600\" height=\"400\" loading=\"lazy\" title=\"\"><\/p>\n<p>\u0645\u0627\u062e\u0630: \u0628\u0631\u0627\u0624\u0646 \u0648\u063a\u06cc\u0631\u06c1\u06d4 (2020)\u060c <em>\u0632\u0628\u0627\u0646 \u06a9\u0627 \u0646\u0645\u0648\u0646\u06c1 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u0648\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0627\u06cc\u06a9 \u0686\u06be\u0648\u0679\u06cc \u062a\u0639\u062f\u0627\u062f \u06c1\u06d2\u06d4<\/em>\u062a\u0635\u0648\u06cc\u0631 1.2\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u06c1\u06cc \u0646\u0645\u0648\u0646\u06c1 \u067e\u0648\u0631\u06d2 \u06a9\u0627\u063a\u0630 \u0645\u06cc\u06ba \u0628\u0627\u0631 \u0628\u0627\u0631 \u0638\u0627\u06c1\u0631 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<ul>\n<li>\n<p>\u0686\u0646\u062f \u0634\u0627\u0679 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u0645\u0633\u0644\u0633\u0644 \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u0633\u06d2 \u0628\u06c1\u062a\u0631 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0622\u067e \u06a9\u0627 \u0645\u0627\u0688\u0644 \u062c\u062a\u0646\u0627 \u0628\u0691\u0627 \u06c1\u0648\u06af\u0627\u060c \u0622\u067e \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u0648 \u0627\u062a\u0646\u0627 \u06c1\u06cc \u0628\u06c1\u062a\u0631 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u0646\u06c1 \u0635\u0631\u0641 \u062f\u0631\u0633\u062a\u06af\u06cc \u0628\u0644\u06a9\u06c1 \u062e\u0648\u062f \u0645\u0648\u0627\u0641\u0642\u062a \u06a9\u0648 \u0628\u06be\u06cc \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<\/li>\n<\/ul>\n<p>\u06cc\u06c1 \u0622\u062e\u0631\u06cc \u0646\u06a9\u062a\u06c1 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06c1\u0645 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u0633\u06d2 \u067e\u062a\u06c1 \u0686\u0644\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u0645\u0627\u0688\u0644\u0632 \u06a9\u0648 \u062d\u0642\u0627\u0626\u0642 \u06a9\u0648 \u06cc\u0627\u062f \u0631\u06a9\u06be\u0646\u06d2 \u06cc\u0627 \u0632\u06cc\u0627\u062f\u06c1 \u0631\u0648\u0627\u0646\u06cc \u0633\u06d2 \u0645\u062a\u0646 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u0646\u06d2 \u0645\u06cc\u06ba \u0645\u062f\u062f \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u06a9\u0627\u0645 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4 \u0645\u0627\u0688\u0644 \u062c\u062a\u0646\u0627 \u0628\u0691\u0627 \u06c1\u0648\u06af\u0627\u060c \u06cc\u06c1 \u0627\u062a\u0646\u0627 \u06c1\u06cc \u0645\u0636\u0628\u0648\u0637 \u062f\u06a9\u06be\u0627\u0626\u06cc \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4 <em>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/em> \u0635\u0644\u0627\u062d\u06cc\u062a \u06cc\u0639\u0646\u06cc\u060c \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u067e\u0631\u0627\u0645\u067e\u0679 \u0633\u06d2 \u067e\u06cc\u0679\u0631\u0646 \u0627\u0648\u0631 \u0679\u0627\u0633\u06a9 \u0688\u06be\u0627\u0646\u0686\u06d2 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u06d2 \u0645\u06cc\u06ba \u0628\u06c1\u062a\u0631 \u06c1\u0648 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u0646\u06d2 \u0645\u0634\u0627\u06c1\u062f\u06c1 \u06a9\u06cc\u0627 \u06a9\u06c1 \u0635\u0641\u0631 \u0634\u0627\u0679 \u06a9\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0627\u0648\u0631 \u0686\u0646\u062f \u0634\u0627\u0679 \u06a9\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u0641\u0631\u0642 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0633\u0627\u0626\u0632 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0628\u0691\u06be\u062a\u0627 \u06c1\u06d2\u06d4 \u0686\u06be\u0648\u0679\u06d2 \u0645\u0627\u0688\u0644\u0632 \u06a9\u0648 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u0633\u06d2 \u0645\u0624\u062b\u0631 \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u0645\u06cc\u06ba \u062f\u0634\u0648\u0627\u0631\u06cc \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u060c \u062c\u0628\u06a9\u06c1 \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0627\u06a9\u062b\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06cc \u0627\u06cc\u06a9 \u0686\u06be\u0648\u0679\u06cc \u0633\u06cc \u062a\u0639\u062f\u0627\u062f \u0633\u06d2 \u06c1\u06cc \u06a9\u0633\u06cc \u06a9\u0627\u0645 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u06d2 \u06a9\u06d2 \u0642\u0627\u0628\u0644 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u062c\u0648 \u0686\u06cc\u0632 \u0627\u0633 \u062f\u0631\u06cc\u0627\u0641\u062a \u06a9\u0648 \u062a\u0627\u0631\u06cc\u062e\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0627\u06c1\u0645 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2 \u0648\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 AI \u0646\u0638\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba \u0635\u0644\u0627\u062d\u06cc\u062a\u0648\u06ba \u06a9\u06cc \u0646\u0634\u0648\u0648\u0646\u0645\u0627 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0645\u062d\u0642\u0642\u06cc\u0646 \u06a9\u06d2 \u0633\u0648\u0686\u0646\u06d2 \u06a9\u06d2 \u0627\u0646\u062f\u0627\u0632 \u06a9\u0648 \u0628\u062f\u0644 \u062f\u06cc\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u0633\u06d2 \u067e\u06c1\u0644\u06d2\u060c \u0627\u06cc\u06a9\u0633\u0679\u06cc\u0646\u0634\u0646\u0632 \u06a9\u0648 \u0627\u06a9\u062b\u0631 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0645\u0648\u062c\u0648\u062f\u06c1 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0645\u06cc\u0679\u0631\u06a9\u0633 \u06a9\u0648 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0637\u0631\u06cc\u0642\u06d2 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631 \u062f\u06cc\u06a9\u06be\u0627 \u062c\u0627\u062a\u0627 \u062a\u06be\u0627\u06d4 GPT-3 \u0627\u06cc\u06a9 \u0627\u0648\u0631 \u0627\u0645\u06a9\u0627\u0646 \u067e\u06cc\u0634 \u06a9\u0631\u062a\u0627 \u06c1\u06d2: \u062c\u06cc\u0633\u06d2 \u062c\u06cc\u0633\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0627\u0641\u06cc \u0628\u0691\u06d2 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u0628\u0627\u0644\u06a9\u0644 \u0646\u0626\u06d2 \u0637\u0631\u0632 \u0639\u0645\u0644 \u0633\u0627\u0645\u0646\u06d2 \u0622 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u06cc\u06c1\u06cc \u0648\u062c\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 \u0645\u0642\u0627\u0644\u06c1 \u0627\u062a\u0646\u0627 \u0628\u0627\u0627\u062b\u0631 \u06c1\u0648\u0627\u06d4 \u06cc\u06c1 \u0635\u0631\u0641 \u0628\u06c1\u062a\u0631 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u0646\u0645\u0628\u0631\u0648\u06ba \u06a9\u06cc \u0627\u0637\u0644\u0627\u0639 \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0646\u06c1\u06cc\u06ba \u062a\u06be\u0627\u06d4 \u06c1\u0645 \u0627\u0633 \u0628\u0627\u062a \u06a9\u0627 \u062b\u0628\u0648\u062a \u0641\u0631\u0627\u06c1\u0645 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u062e\u0648\u062f \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0631\u0648\u06cc\u06d2 \u06a9\u06cc \u0646\u0626\u06cc \u0634\u06a9\u0644\u06cc\u06ba \u06a9\u06be\u0648\u0644 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-task-specific-observations\"><strong>\u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u062d\u0627\u0638 \u0633\u06d2 \u0645\u0634\u0627\u06c1\u062f\u06c1<\/strong><\/h2>\n<p>\u0633\u0631\u062e\u06cc \u06a9\u06d2 \u0646\u062a\u0627\u0626\u062c \u0633\u06d2 \u067e\u0631\u06d2 \u062f\u06cc\u06a9\u06be\u062a\u06d2 \u06c1\u0648\u0626\u06d2\u060c \u0645\u0642\u0627\u0644\u06c1 GPT-3 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u06a9\u0686\u06be \u0627\u0648\u0631 \u0627\u06c1\u0645 \u0628\u0627\u062a \u0638\u0627\u06c1\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u0633 \u0646\u06d2 \u06a9\u06c1\u0627\u060c GPT-3 \u06a9\u06cc \u0635\u0644\u0627\u062d\u06cc\u062a\u06cc\u06ba \u0628\u06c1\u062a \u0646\u0627\u06c1\u0645\u0648\u0627\u0631 \u06c1\u06cc\u06ba\u06d4 \u06cc\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0686\u06be \u0639\u0644\u0627\u0642\u0648\u06ba \u0645\u06cc\u06ba \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0637\u0648\u0631 \u067e\u0631 \u0627\u0686\u06be\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u067e\u06be\u0631 \u0628\u06be\u06cc \u062f\u0648\u0633\u0631\u0648\u06ba \u0645\u06cc\u06ba \u062c\u062f\u0648\u062c\u06c1\u062f \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u06cc \u0634\u0646\u0627\u062e\u062a \u0627\u0648\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06cc \u0627\u0633\u062a\u0642\u0627\u0645\u062a \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0642\u0631\u06cc\u0628 \u0633\u06d2 \u0645\u0646\u0633\u0644\u06a9 \u06a9\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0645\u0636\u0628\u0648\u0637 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u062f\u06a9\u06be\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u062a\u0631\u062c\u0645\u06c1 \u0627\u06cc\u06a9 \u0642\u0627\u0628\u0644 \u0630\u06a9\u0631 \u0645\u062b\u0627\u0644 \u06c1\u06d2\u06d4 GPT-3 \u06a9\u0648 \u06a9\u0628\u06be\u06cc \u0628\u06be\u06cc \u062a\u0631\u062c\u0645\u06d2 \u06a9\u06d2 \u0646\u0638\u0627\u0645 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u0646\u06c1\u06cc\u06ba \u062f\u06cc \u06af\u0626\u06cc \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u062c\u0628 \u06a9\u0686\u06be \u0645\u062b\u0627\u0644\u06cc\u06ba \u062f\u06cc \u062c\u0627\u0626\u06cc\u06ba \u062a\u0648 \u0627\u0634\u0627\u0631\u06c1 \u06a9\u06cc\u0627 \u062c\u0627\u0626\u06d2\u060c \u0645\u0627\u0688\u0644 \u0627\u0628 \u0628\u06be\u06cc \u0645\u062a\u0627\u062b\u0631 \u06a9\u0646 \u0646\u062a\u0627\u0626\u062c \u062f\u06d2 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u06a9\u0627\u063a\u0630 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u0686\u0646\u062f \u0634\u0627\u0679 \u062a\u0631\u062c\u0645\u06c1 \u06a9\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u06c1\u0648\u062a\u06cc \u06c1\u06d2 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0627 \u0633\u0627\u0626\u0632 \u0628\u0691\u06be\u062a\u0627 \u06c1\u06d2\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u062c\u0628 \u0627\u0646\u06af\u0631\u06cc\u0632\u06cc \u0645\u06cc\u06ba \u062a\u0631\u062c\u0645\u06c1 \u06a9\u06cc\u0627 \u062c\u0627\u0626\u06d2\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u0633\u0648\u0627\u0644 \u062c\u0648\u0627\u0628 \u062f\u06cc\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u0645\u0639\u06cc\u0627\u0631\u0627\u062a \u067e\u0631 \u0628\u06be\u06cc \u0627\u0686\u06be\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0646\u062c\u06cc \u0645\u0627\u062d\u0648\u0644 \u0645\u06cc\u06ba \u062c\u06c1\u0627\u06ba \u062c\u0648\u0627\u0628\u0627\u062a \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u0645\u062d\u0641\u0648\u0638 \u06a9\u0631\u062f\u06c1 \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u0633\u06d2 \u0627\u062e\u0630 \u06a9\u06cc\u06d2 \u062c\u0627\u0646\u06d2 \u0686\u0627\u06c1\u06cc\u06cc\u06ba\u06d4 \u0679\u0631\u06cc\u0648\u06cc\u0627 \u06a9\u06cc\u0648 \u0627\u06d2 \u062c\u06cc\u0633\u06d2 \u06a9\u0627\u0645 GPT-3 \u0635\u0641\u0631 \u0634\u0627\u0679 \u0633\u06d2 \u06a9\u0626\u06cc \u0634\u0627\u0679 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u067e\u0631 \u0645\u0646\u062a\u0642\u0644 \u06c1\u0648\u0646\u06d2 \u067e\u0631 \u0628\u0691\u06d2 \u0641\u0648\u0627\u0626\u062f \u062f\u06a9\u06be\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u062a\u0646 \u06a9\u06cc \u062a\u06a9\u0645\u06cc\u0644 \u0627\u0648\u0631 \u06a9\u0644\u0648\u0632 \u0627\u0633\u0679\u0627\u0626\u0644 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u06a9\u0627\u0645 \u06a9\u0631\u0646\u0627 \u0627\u06cc\u06a9 \u0627\u0648\u0631 \u0628\u0691\u06cc \u0637\u0627\u0642\u062a \u06c1\u06d2\u06d4 GPT-3 \u067e\u06cc\u0679\u0631\u0646 \u06a9\u0648 \u062c\u0627\u0631\u06cc \u0631\u06a9\u06be\u0646\u06d2\u060c \u0645\u06a9\u0645\u0644 \u067e\u06cc\u0631\u0627\u06af\u0631\u0627\u0641\u060c \u0627\u0648\u0631 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u06af\u0645\u0634\u062f\u06c1 \u0627\u0644\u0641\u0627\u0638 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u06d2 \u06a9\u06cc \u0637\u0627\u0642\u062a\u0648\u0631 \u0635\u0644\u0627\u062d\u06cc\u062a \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 LAMBADA \u062c\u06cc\u0633\u06d2 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u06a9\u06d2 \u0644\u06cc\u06d2\u060c \u0686\u0646\u062f \u0634\u0627\u0679\u0633 \u062a\u0631\u062a\u06cc\u0628 \u062f\u06cc\u0646\u06d2 \u0633\u06d2 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0628\u0691\u06cc \u0628\u06c1\u062a\u0631\u06cc \u0622\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u062a\u0627\u06c1\u0645\u060c \u06a9\u0627\u063a\u0630 \u06a9\u0645\u0632\u0648\u0631\u06cc\u0648\u06ba \u06a9\u0648 \u062f\u0633\u062a\u0627\u0648\u06cc\u0632 \u06a9\u0631\u0646\u06d2 \u06a9\u0627 \u0628\u06be\u06cc \u062e\u06cc\u0627\u0644 \u0631\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u06a9\u0686\u06be \u0642\u06cc\u0627\u0633-\u06c1\u0648\u06cc \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9\u0633 \u067e\u0631 \u062e\u0627\u0635\u06cc \u062c\u062f\u0648\u062c\u06c1\u062f \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06cc\u0633\u06d2 \u06a9\u0627\u0645 \u062c\u0646 \u0645\u06cc\u06ba \u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0634\u0627\u0645\u0644 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u06d2 \u0627\u06cc\u0646 \u0627\u06cc\u0644 \u0622\u0626\u06cc \u062c\u06cc\u0633\u06d2 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679\u0633 \u0633\u0628 \u0633\u06d2 \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0628\u06be\u06cc \u0645\u0634\u06a9\u0644 \u0631\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u067e\u0691\u06be\u0646\u06d2 \u06a9\u06d2 \u06a9\u0686\u06be \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06cc \u0628\u06be\u06cc \u062d\u062f\u0648\u062f \u06c1\u0648\u062a\u06cc \u06c1\u06cc\u06ba\u06d4 \u0628\u06c1\u062a \u0633\u06d2 \u0645\u0639\u0627\u0645\u0644\u0627\u062a \u0645\u06cc\u06ba\u060c GPT-3 \u0627\u06cc\u0633\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u0642\u0627\u0628\u0644 \u0641\u06c1\u0645 \u0644\u06af\u062a\u06d2 \u06c1\u06cc\u06ba \u0644\u06cc\u06a9\u0646 \u0632\u06cc\u0631\u0628\u062d\u062b \u062d\u0648\u0627\u0644\u06d2 \u06a9\u06cc \u06af\u06c1\u0631\u06cc \u0633\u0645\u062c\u06be \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u06d2\u06d4 \u06cc\u06c1 \u067e\u0648\u0631\u06d2 \u06a9\u0627\u063a\u0630 \u0645\u06cc\u06ba \u0628\u0627\u0631 \u0628\u0627\u0631 \u0686\u0644\u0646\u06d2 \u0648\u0627\u0644\u0627 \u062a\u06be\u06cc\u0645 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 \u0631\u0648\u0627\u0646\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06cc \u067e\u06cc\u062f\u0627\u0648\u0627\u0631 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06c1\u0645\u06cc\u0634\u06c1 \u0642\u0627\u0628\u0644 \u0628\u06be\u0631\u0648\u0633\u06c1 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0646\u06c1\u06cc\u06ba \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0633\u0628 \u0633\u06d2 \u062f\u0644\u0686\u0633\u067e \u0645\u0634\u0627\u06c1\u062f\u0627\u062a \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u0641\u0648\u0631\u06cc \u0688\u06cc\u0632\u0627\u0626\u0646 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u062a\u0646\u0627 \u062d\u0633\u0627\u0633 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0627\u06a9\u062b\u0631 \u0627\u0633 \u0644\u062d\u0627\u0638 \u0633\u06d2 \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0645\u062e\u062a\u0644\u0641 \u06c1\u0648\u062a\u06cc \u06c1\u06d2 \u06a9\u06c1 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc \u0645\u06cc\u06ba \u0645\u062b\u0627\u0644\u06cc\u06ba \u06a9\u06cc\u0633\u06d2 \u0644\u06a9\u06be\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06cc\u06ba\u060c \u0641\u0627\u0631\u0645\u06cc\u0679 \u06a9\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06cc\u06ba \u06cc\u0627 \u062a\u0631\u062a\u06cc\u0628 \u062f\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06cc\u06ba\u06d4 \u0628\u06c1\u062a \u0633\u06d2 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2\u060c \u0635\u0631\u0641 \u0686\u0646\u062f \u0688\u06cc\u0645\u0648 \u0634\u0627\u0645\u0644 \u06a9\u0631\u0646\u06d2 \u0633\u06d2 \u062f\u0631\u0633\u062a\u06af\u06cc \u06a9\u0648 \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u06cc\u0627 \u062c\u0627 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 GPT-3 \u06a9\u06d2 \u06a9\u0627\u0645 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0637\u0631\u06cc\u0642\u06c1 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u06a9\u0686\u06be \u0627\u06c1\u0645 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u0645\u0627\u0688\u0644 \u0635\u0631\u0641 \u0645\u06cc\u0645\u0648\u0631\u06cc \u0633\u06d2 \u0645\u0642\u0631\u0631\u06c1 \u0639\u0644\u0645 \u06a9\u06cc \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u06cc\u06c1 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06d2 \u0627\u0634\u0627\u0631\u06d2 \u067e\u0631 \u0628\u06c1\u062a \u0632\u06cc\u0627\u062f\u06c1 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u062a\u0627\u06a9\u06c1 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u06cc\u0627 \u062c\u0627 \u0633\u06a9\u06d2 \u06a9\u06c1 \u06a9\u0633 \u0642\u0633\u0645 \u06a9\u06d2 \u0631\u0648\u06cc\u06d2 \u06a9\u06cc \u062a\u0648\u0642\u0639 \u06a9\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4 \u0686\u06be\u0648\u0679\u06cc\u060c \u0641\u0648\u0631\u06cc \u062a\u0628\u062f\u06cc\u0644\u06cc\u0627\u06ba \u062e\u0648\u062f \u0645\u0627\u0688\u0644 \u06a9\u06cc \u0679\u0627\u0633\u06a9 \u06a9\u06cc \u062a\u0634\u0631\u06cc\u062d \u06a9\u0648 \u0628\u062f\u0644 \u0633\u06a9\u062a\u06cc \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u062f\u0631\u062d\u0642\u06cc\u0642\u062a\u060c \u0627\u0633 \u0645\u0636\u0645\u0648\u0646 \u0646\u06d2 AI \u06a9\u0645\u06cc\u0648\u0646\u0679\u06cc \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0628\u0627\u0644\u06a9\u0644 \u0646\u06cc\u0627 \u0622\u0626\u06cc\u0688\u06cc\u0627 \u0645\u062a\u0639\u0627\u0631\u0641 \u06a9\u0631\u0627\u0646\u06d2 \u0645\u06cc\u06ba \u0645\u062f\u062f \u06a9\u06cc\u06d4 <em>\u0645\u0627\u0688\u0644 \u0633\u06d2 \u06a9\u06cc\u0633\u06d2 \u067e\u0648\u0686\u06be\u06cc\u06ba\u06d4<\/em> \u06cc\u06c1 \u0627\u062a\u0646\u0627 \u06c1\u06cc \u0627\u06c1\u0645 \u06c1\u0648\u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u062c\u062a\u0646\u0627 \u06a9\u06c1 \u062e\u0648\u062f \u0645\u0627\u0688\u0644\u06d4<\/p>\n<p>\u06cc\u06c1 \u0628\u0635\u06cc\u0631\u062a \u0622\u062e\u0631 \u06a9\u0627\u0631 \u0627\u0633 \u0645\u06cc\u06ba \u062a\u06cc\u0627\u0631 \u06c1\u0648\u062a\u06cc \u06c1\u06d2 \u062c\u0633\u06d2 \u06c1\u0645 \u0627\u0628 \u06a9\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 <em>\u0631\u06cc\u067e\u0688 \u0627\u0646\u062c\u06cc\u0646\u0626\u0631\u0646\u06af<\/em>.<\/p>\n<h2 id=\"heading-generalization-vs-memorization\"><strong>\u062c\u0646\u0631\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u0628\u0645\u0642\u0627\u0628\u0644\u06c1 \u062d\u0641\u0638<\/strong><\/h2>\n<p>GPT-3 \u06a9\u06d2 \u0627\u0631\u062f \u06af\u0631\u062f \u0633\u0628 \u0633\u06d2 \u0628\u0691\u06d2 \u0633\u0648\u0627\u0644\u0627\u062a \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0622\u06cc\u0627 \u0645\u0627\u0688\u0644 \u0648\u0627\u0642\u0639\u06cc \u0645\u0641\u06cc\u062f \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u0648 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u06c1\u06d2\u060c \u06cc\u0627 \u06cc\u06c1 \u0627\u0646\u0679\u0631\u0646\u06cc\u0679 \u06a9\u06d2 \u0628\u06c1\u062a \u0628\u0691\u06d2 \u062d\u0635\u0648\u06ba \u06a9\u0648 \u0622\u0633\u0627\u0646\u06cc \u0633\u06d2 \u062d\u0641\u0638 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u062a\u0634\u0648\u06cc\u0634 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06c1\u0645 \u06c1\u06d2 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 GPT-3 \u06a9\u0648 \u06a9\u0627\u0645\u0646 \u06a9\u0631\u0627\u0644 \u0633\u0645\u06cc\u062a \u0628\u0691\u06d2 \u0648\u06cc\u0628 \u0633\u06a9\u06cc\u0644 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679\u0633 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06af\u0626\u06cc \u062a\u06be\u06cc\u06d4 \u0627\u062a\u0646\u06d2 \u0628\u0691\u06d2 \u0645\u0627\u0688\u0644\u0632 \u06a9\u06d2 \u0633\u0627\u062a\u06be\u060c \u06cc\u06c1 \u067e\u0648\u0686\u06be\u0646\u0627 \u0645\u0646\u0627\u0633\u0628 \u06c1\u06d2 \u06a9\u06c1 \u0622\u06cc\u0627 \u0645\u0636\u0628\u0648\u0637 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u06a9\u06cc \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0635\u062d\u06cc\u062d \u062c\u0646\u0631\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u0633\u06d2 \u0622\u062a\u06cc \u06c1\u06d2 \u06cc\u0627 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u062a\u0634\u062e\u06cc\u0635\u06cc \u0688\u06cc\u0679\u0627 \u06a9\u06d2 \u06a9\u0686\u06be \u062d\u0635\u0648\u06ba \u06a9\u0648 \u0646\u0627\u062f\u0627\u0646\u0633\u062a\u06c1 \u0637\u0648\u0631 \u067e\u0631 \u062f\u06cc\u06a9\u06be\u0646\u06d2 \u0633\u06d2\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u0627\u0633 \u0645\u0633\u0626\u0644\u06d2 \u06a9\u0648 \u0633\u0646\u062c\u06cc\u062f\u06af\u06cc \u0633\u06d2 \u0644\u06cc\u062a\u06d2 \u06c1\u06cc\u06ba \u0627\u0648\u0631 \u0645\u0642\u0627\u0644\u06d2 \u06a9\u06d2 \u067e\u0648\u0631\u06d2 \u062d\u0635\u06d2 \u06a9\u0648 \u0627\u0633 \u06a9\u06d2 \u0645\u0637\u0627\u0644\u0639\u06c1 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0648\u0642\u0641 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u062c\u0633\u06d2 \u0648\u06c1 \u06a9\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 <em>\u0688\u06cc\u0679\u0627 \u06a9\u06cc \u0622\u0644\u0648\u062f\u06af\u06cc<\/em>.<\/p>\n<p>\u06a9\u0627\u063a\u0630 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u0627\u0648\u067e\u0646 \u0627\u06d2 \u0622\u0626\u06cc \u0646\u06d2 \u062a\u0634\u062e\u06cc\u0635 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06cc \u062a\u0631\u0628\u06cc\u062a \u0627\u0648\u0631 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u0627\u0648\u0648\u0631\u0644\u06cc\u067e \u06a9\u0627 \u067e\u062a\u06c1 \u0644\u06af\u0627\u06cc\u0627\u06d4 \u0627\u0646\u06c1\u0648\u06ba \u0646\u06d2 \u067e\u0627\u06cc\u0627 \u06a9\u06c1 \u06a9\u0686\u06be \u0622\u0644\u0648\u062f\u06af\u06cc \u0645\u0648\u062c\u0648\u062f \u06c1\u06d2\u06d4 \u06cc\u0639\u0646\u06cc\u060c \u06a9\u0633\u06cc \u062e\u0627\u0635 \u062a\u0634\u062e\u06cc\u0635\u06cc \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679 \u06a9\u0627 \u062d\u0635\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u062a\u0631\u0628\u06cc\u062a\u06cc \u06a9\u0627\u0631\u067e\u0633 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u06a9\u06c1\u06cc\u06ba \u0638\u0627\u06c1\u0631 \u06c1\u0648\u0627\u06d4<\/p>\n<p>\u062a\u0627\u06c1\u0645\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u0627 \u06a9\u06c1\u0646\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 \u0627\u0648\u0648\u0631\u0644\u06cc\u067e \u0627\u062a\u0646\u0627 \u0628\u0691\u0627 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u06a9\u06d2 \u0646\u062a\u0627\u0626\u062c \u06a9\u06cc \u0645\u06a9\u0645\u0644 \u0648\u0636\u0627\u062d\u062a \u06a9\u0631 \u0633\u06a9\u06d2\u06d4<\/p>\n<p>\u0628\u06c1\u062a \u0633\u06d2 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9\u0633 \u0645\u06cc\u06ba\u060c \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u0645\u06cc\u06ba \u0628\u06c1\u062a\u0631\u06cc \u0622\u0644\u0648\u062f\u06af\u06cc \u06a9\u06d2 \u0627\u062b\u0631\u0627\u062a \u06a9\u0627 \u062d\u0633\u0627\u0628 \u06a9\u062a\u0627\u0628 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0628\u0639\u062f \u0628\u06be\u06cc \u0645\u0633\u062a\u0642\u0644 \u0631\u06c1\u062a\u06cc \u06c1\u06d2\u06d4 \u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u06cc\u06c1 \u0628\u06be\u06cc \u0628\u062a\u0627\u06cc\u0627 \u06af\u06cc\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0686\u06be \u06a9\u0627\u0645 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0645\u0648\u0627\u0641\u0642\u062a \u0627\u0648\u0631 \u062a\u062e\u0645\u06cc\u0646\u06c1 \u06a9\u06cc \u062c\u0627\u0646\u0686 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0628\u0646\u0627\u0626\u06d2 \u06af\u0626\u06d2 \u06c1\u06cc\u06ba \u0627\u0628 \u0628\u06be\u06cc \u0645\u0636\u0628\u0648\u0637 Few-Shot \u0628\u0631\u062a\u0627\u0624 \u06a9\u06cc \u0646\u0645\u0627\u0626\u0634 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062d\u0627\u0644\u0627\u0646\u06a9\u06c1 \u0627\u0646 \u06a9\u0627 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u062a\u0631\u0628\u06cc\u062a\u06cc \u0688\u06cc\u0679\u0627 \u0645\u06cc\u06ba \u0638\u0627\u06c1\u0631 \u06c1\u0648\u0646\u06d2 \u06a9\u0627 \u0627\u0645\u06a9\u0627\u0646 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u0627\u0648\u0631 \u0627\u06c1\u0645 \u0645\u0634\u0627\u06c1\u062f\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u0627\u0628 \u0628\u06be\u06cc <em>\u0627\u0646\u0688\u0631 \u0641\u0679\u0646\u06af<\/em> \u062a\u0631\u0628\u06cc\u062a \u06a9\u0627 \u0688\u06cc\u0679\u0627\u06d4 \u0627\u0633 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0628\u06c1\u062a \u0628\u0691\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u0639\u062f \u0628\u06be\u06cc\u060c \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0627\u0633 \u0646\u06d2 \u062f\u06cc\u06a9\u06be\u0627 \u0633\u0628 \u06a9\u0686\u06be \u06cc\u0627\u062f \u0646\u06c1\u06cc\u06ba \u0631\u06a9\u06be\u0627\u06d4<\/p>\n<p>\u06cc\u06c1 \u062a\u0641\u0635\u06cc\u0644\u0627\u062a \u0627\u06c1\u0645 \u06c1\u06cc\u06ba \u06a9\u06cc\u0648\u0646\u06a9\u06c1 \u0648\u06c1 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 \u0645\u0627\u0688\u0644 \u0627\u0639\u062f\u0627\u062f \u0648 \u0634\u0645\u0627\u0631 \u06a9\u06d2 \u0688\u06be\u0627\u0646\u0686\u06d2 \u0627\u0648\u0631 \u0644\u0633\u0627\u0646\u06cc \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u0648 \u0633\u06cc\u06a9\u06be \u0631\u06c1\u0627 \u06c1\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u0627\u0633 \u06a9\u06d2 \u06a9\u06c1 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679 \u06a9\u06cc \u0642\u0637\u0639\u06cc \u06a9\u0627\u067e\u06cc \u06a9\u0648 \u0630\u062e\u06cc\u0631\u06c1 \u06a9\u06cc\u0627 \u062c\u0627\u0626\u06d2\u06d4<\/p>\n<p>\u06cc\u0642\u06cc\u0646\u0627\u060c \u062d\u0641\u0638 \u0627\u0628 \u0628\u06be\u06cc \u06a9\u0633\u06cc \u062d\u062f \u062a\u06a9 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u062a\u0631\u0628\u06cc\u062a\u06cc \u0645\u062a\u0646 \u06a9\u06d2 \u0679\u06a9\u0691\u0648\u06ba \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u067e\u06cc\u0634 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06af\u0631 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0646\u0627\u06cc\u0627\u0628 \u06cc\u0627 \u0628\u0627\u0631 \u0628\u0627\u0631 \u0688\u06cc\u0679\u0627 \u06a9\u062b\u0631\u062a \u0633\u06d2 \u0638\u0627\u06c1\u0631 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 \u0627\u062e\u0628\u0627\u0631 \u0627\u0633 \u0633\u06d2 \u0627\u0646\u06a9\u0627\u0631 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u0627\u06d4 \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u0627 \u06a9\u06c1\u0646\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0635\u0631\u0641 \u062d\u0641\u0638 \u06c1\u06cc GPT-3 \u06a9\u06cc \u062a\u0631\u062c\u0645\u06d2\u060c \u0627\u0633\u062a\u062f\u0644\u0627\u0644\u060c \u0633\u0648\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a\u060c \u0627\u0648\u0631 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06d2 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u06a9\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba \u0648\u0633\u06cc\u0639 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u06cc \u0648\u0636\u0627\u062d\u062a \u0646\u06c1\u06cc\u06ba \u06a9\u0631 \u0633\u06a9\u062a\u0627\u06d4<\/p>\n<p>\u062d\u0642\u06cc\u0642\u062a \u0645\u06cc\u06ba\u060c \u0634\u0648\u0627\u06c1\u062f \u06a9\u0633\u06cc \u0627\u0648\u0631 \u067e\u06cc\u0686\u06cc\u062f\u06c1 \u0686\u06cc\u0632 \u06a9\u06cc \u0637\u0631\u0641 \u0627\u0634\u0627\u0631\u06c1 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>GPT-3 \u0628\u0691\u06d2 \u0645\u062a\u0646\u06cc \u0627\u0639\u062f\u0627\u062f \u0648 \u0634\u0645\u0627\u0631 \u0633\u06d2 \u067e\u06cc\u0679\u0631\u0646\u060c \u062a\u0639\u0644\u0642\u0627\u062a\u060c \u0627\u0648\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0688\u06be\u0627\u0646\u0686\u06d2 \u06a9\u0648 \u062c\u0630\u0628 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u067e\u06be\u0631 \u0644\u0686\u06a9\u062f\u0627\u0631 \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0646\u0626\u06d2 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0627\u0646 \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0635\u0631\u0641 \u0645\u062d\u0641\u0648\u0638 \u06a9\u0631\u062f\u06c1 \u062c\u0648\u0627\u0628\u0627\u062a \u06a9\u0648 \u06a9\u0627\u067e\u06cc \u06a9\u0631\u0646\u06d2 \u0633\u06d2 \u0628\u06c1\u062a \u0645\u062e\u062a\u0644\u0641 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0641\u0631\u0642 \u062c\u062f\u06cc\u062f AI \u062a\u062d\u0642\u06cc\u0642 \u0645\u06cc\u06ba \u0645\u0631\u06a9\u0632\u06cc \u0645\u0628\u0627\u062d\u062b\u0648\u06ba \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 GPT-3 \u0646\u06d2 \u0645\u062d\u0642\u0642\u06cc\u0646 \u06a9\u0648 \u0627\u0633 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0632\u06cc\u0627\u062f\u06c1 \u0627\u062d\u062a\u06cc\u0627\u0637 \u0633\u06d2 \u0633\u0648\u0686\u0646\u06d2 \u067e\u0631 \u0645\u062c\u0628\u0648\u0631 \u06a9\u06cc\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0633\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u0633\u06cc \u0686\u06cc\u0632 \u06a9\u0648 &quot;\u0633\u0645\u062c\u06be\u0646\u06d2&#8221; \u06a9\u0627 \u0648\u0627\u0642\u0639\u06cc \u06a9\u06cc\u0627 \u0645\u0637\u0644\u0628 \u06c1\u06d2\u060c \u0627\u0648\u0631 \u06cc\u06c1 \u06a9\u06c1 \u06cc\u0627\u062f\u062f\u0627\u0634\u062a\u060c \u067e\u06cc\u0679\u0631\u0646 \u06a9\u06cc \u0634\u0646\u0627\u062e\u062a\u060c \u0627\u0648\u0631 \u062d\u0642\u06cc\u0642\u06cc \u0639\u0627\u0645\u06cc\u062a \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u0644\u0627\u0626\u0646 \u06a9\u06c1\u0627\u06ba \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-discussion\"><strong>\u062f\u0644\u06cc\u0644<\/strong><\/h2>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u06cc\u06c1 \u0648\u06c1 \u0646\u06a9\u062a\u06c1 \u06c1\u06d2 \u062c\u06c1\u0627\u06ba GPT-3 \u06a9\u06d2 \u0648\u0633\u06cc\u0639 \u062a\u0631 \u0645\u0636\u0645\u0631\u0627\u062a \u0648\u0627\u0636\u062d \u06c1\u0648\u0646\u06d2 \u0644\u06af\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u0635\u0631\u0641 \u0645\u062a\u0646 \u06a9\u06cc \u067e\u06cc\u0634 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0639\u0627\u0645 \u06a9\u0627\u0645 \u0627\u0646\u062c\u0627\u0645 \u062f\u06d2 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0628\u0691\u06cc \u0645\u0642\u062f\u0627\u0631 \u0645\u06cc\u06ba \u0644\u0633\u0627\u0646\u06cc \u0688\u06cc\u0679\u0627 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u0633\u06d2\u060c \u0645\u0627\u0688\u0644 \u0627\u06cc\u0633\u06d2 \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u0648 \u0633\u06cc\u06a9\u06be\u062a\u0627 \u062f\u06a9\u06be\u0627\u0626\u06cc \u062f\u06cc\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u062e\u0648\u062f \u06a9\u0627\u0645 \u0633\u06d2 \u0645\u062a\u0639\u0644\u0642 \u06c1\u0648\u06ba\u06d4<\/p>\n<p>\u06cc\u06c1 \u062e\u06cc\u0627\u0644 \u0632\u0628\u0627\u0646 \u06a9\u06cc \u0645\u0627\u0688\u0644\u0646\u06af \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u06c1\u0645\u0627\u0631\u06d2 \u0633\u0648\u0686\u0646\u06d2 \u06a9\u06d2 \u0627\u0646\u062f\u0627\u0632 \u06a9\u0648 \u0628\u062f\u0644 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0631\u0648\u0627\u06cc\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631\u060c NLP \u0633\u0633\u0679\u0645 \u06a9\u0648 \u0648\u0627\u0636\u062d \u0646\u06af\u0631\u0627\u0646\u06cc \u06a9\u06d2 \u0627\u0631\u062f \u06af\u0631\u062f \u0688\u06cc\u0632\u0627\u0626\u0646 \u06a9\u06cc\u0627 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4 \u0686\u0627\u06c1\u06d2 \u0622\u067e \u06a9\u0648\u0626\u06cc \u0645\u0627\u0688\u0644 \u0645\u062a\u0646 \u06a9\u0627 \u062a\u0631\u062c\u0645\u06c1 \u06a9\u0631\u0646\u06d2\u060c \u0633\u0648\u0627\u0644\u0627\u062a \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a\u060c \u062f\u0633\u062a\u0627\u0648\u06cc\u0632\u0627\u062a \u06a9\u0627 \u062e\u0644\u0627\u0635\u06c1\u060c \u06cc\u0627 \u062c\u0630\u0628\u0627\u062a \u06a9\u06cc \u062f\u0631\u062c\u06c1 \u0628\u0646\u062f\u06cc \u06a9\u0631\u0646\u0627 \u0686\u0627\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u06c1\u0645 \u0646\u06d2 \u0644\u06cc\u0628\u0644 \u0648\u0627\u0644\u06cc \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u0627\u0646 \u06a9\u0627\u0645\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06cc\u06a9 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u0627\u06cc\u06a9 \u0627\u0648\u0631 \u0627\u0645\u06a9\u0627\u0646 \u067e\u06cc\u0634 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u06a9\u0627 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06c1\u06d2 \u06a9\u06c1 \u0628\u06c1\u062a \u0633\u06d2 \u06a9\u0627\u0645 \u067e\u06c1\u0644\u06d2 \u06c1\u06cc \u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0688\u06cc\u0679\u0627 \u0645\u06cc\u06ba \u0648\u0627\u0636\u062d \u0637\u0648\u0631 \u067e\u0631 \u0628\u0646\u0627\u0626\u06d2 \u06af\u0626\u06d2 \u06c1\u06cc\u06ba\u06d4 \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646\u060c \u0645\u0627\u0688\u0644 \u0627\u0646\u0679\u0631\u0646\u06cc\u0679 \u067e\u0631 \u0628\u06a9\u06be\u0631\u06cc \u06c1\u0648\u0626\u06cc \u0648\u0636\u0627\u062d\u062a\u0648\u06ba\u060c \u062a\u0631\u062c\u0645\u06d2\u060c \u06af\u0641\u062a\u06af\u0648\u060c \u0642\u06cc\u0627\u0633 \u06a9\u06d2 \u0646\u0645\u0648\u0646\u0648\u06ba\u060c \u06c1\u062f\u0627\u06cc\u0627\u062a\u060c \u0627\u0648\u0631 \u0633\u0648\u0627\u0644 \u062c\u0648\u0627\u0628 \u06a9\u06d2 \u062c\u0648\u0691\u0648\u06ba \u06a9\u06cc \u0628\u06d2 \u0634\u0645\u0627\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0633\u0627\u0645\u0646\u06d2 \u0622\u062a\u0627 \u06c1\u06d2\u06d4 \u062c\u06cc\u0633\u06d2 \u062c\u06cc\u0633\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06c1 \u0628\u0691\u06be\u062a\u0627 \u06c1\u06d2\u060c \u0645\u0627\u0688\u0644 \u0627\u0646 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u0648 \u0628\u0627\u0644\u0648\u0627\u0633\u0637\u06c1 \u0637\u0648\u0631 \u067e\u0631 \u0633\u06cc\u06a9\u06be\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0639\u0645\u0644\u06cc \u0637\u0648\u0631 \u067e\u0631\u060c \u0627\u0633 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0627\u0688\u0644\u0632 \u06a9\u0648 \u06c1\u0645\u06cc\u0634\u06c1 \u0646\u0626\u06d2 \u06a9\u0627\u0645 \u0627\u0646\u062c\u0627\u0645 \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0648\u0627\u0636\u062d \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4 \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0627\u0634\u0627\u0631\u06d2 \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u06cc\u06ba \u0627\u0633 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u0648 \u0686\u0627\u0644\u0648 \u06a9\u0631 \u0633\u06a9\u062a\u06cc \u06c1\u06cc\u06ba \u062c\u0648 \u0645\u0627\u0688\u0644 \u0646\u06d2 \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u067e\u06c1\u0644\u06d2 \u06c1\u06cc \u062c\u0630\u0628 \u06a9\u0631 \u0644\u06cc\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0648\u06c1\u06cc \u06c1\u06d2 \u062c\u0648 GPT-3 \u0645\u06cc\u06ba \u062d\u0648\u0635\u0644\u06c1 \u0627\u0641\u0632\u0627\u0626\u06cc \u06a9\u0648 \u0627\u062a\u0646\u0627 \u0637\u0627\u0642\u062a\u0648\u0631 \u0628\u0646\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0634\u0627\u0631\u06d2 \u0635\u0631\u0641 \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0646\u06c1\u06cc\u06ba \u06c1\u06cc\u06ba\u06d4 \u06cc\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0637\u0631\u0632 \u0639\u0645\u0644 \u06a9\u06d2 \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u06cc \u0637\u0631\u0641 \u0631\u06c1\u0646\u0645\u0627\u0626\u06cc \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u0633\u06cc\u06a9\u06be\u06cc \u06c1\u0648\u0626\u06cc \u0646\u0645\u0627\u0626\u0646\u062f\u06af\u06cc \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u06a9\u06c1\u06cc\u06ba \u0645\u0648\u062c\u0648\u062f \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u06c1\u06cc \u0648\u0642\u062a \u0645\u06cc\u06ba\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u0645\u062d\u062a\u0627\u0637 \u06c1\u06cc\u06ba \u06a9\u06c1 \u0646\u062a\u0627\u0626\u062c \u06a9\u0648 \u0628\u0691\u06be\u0627 \u0686\u0691\u06be\u0627 \u06a9\u0631 \u067e\u06cc\u0634 \u0646\u06c1 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<p>\u067e\u0648\u0631\u06d2 \u06a9\u0627\u063a\u0630 \u0645\u06cc\u06ba\u060c \u0648\u06c1 \u0628\u0627\u0631 \u0628\u0627\u0631 \u062a\u0633\u0644\u06cc\u0645 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 GPT-3 \u0627\u0628 \u0628\u06be\u06cc \u0645\u062a\u0636\u0627\u062f \u06c1\u06d2\u06d4 \u06a9\u0686\u06be \u0646\u062a\u0627\u0626\u062c \u0628\u06c1\u062a \u0642\u0627\u0626\u0644 \u06c1\u06cc\u06ba\u060c \u062c\u0628 \u06a9\u06c1 \u062f\u06cc\u06af\u0631 \u0648\u0627\u0636\u062d \u0637\u0648\u0631 \u067e\u0631 \u063a\u0644\u0637\u060c \u0628\u06d2 \u06c1\u0648\u062f\u06c1\u060c \u06cc\u0627 \u0645\u0646\u0637\u0642\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0646\u0627\u0642\u0635 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u06cc\u06c1 GPT-3 \u06a9\u06cc \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u0645\u06cc\u06ba \u0633\u06d2 \u0627\u06cc\u06a9 \u0628\u0646 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644\u0632 \u0627\u06a9\u062b\u0631 \u0627\u0633 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u067e\u0631\u0627\u0639\u062a\u0645\u0627\u062f \u0644\u06af\u062a\u06d2 \u06c1\u06cc\u06ba \u062c\u062a\u0646\u0627 \u06a9\u06c1 \u0648\u06c1 \u0627\u0635\u0644 \u0645\u06cc\u06ba \u06c1\u06cc\u06ba\u06d4 \u0622\u067e \u0631\u0648\u0627\u0646\u06cc \u0633\u06d2 \u0648\u0636\u0627\u062d\u062a\u06cc\u06ba \u0627\u0648\u0631 \u0642\u0627\u0626\u0644 \u06a9\u0631\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a \u067e\u06cc\u0634 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba \u06cc\u06c1\u0627\u06ba \u062a\u06a9 \u06a9\u06c1 \u062c\u0628 \u0622\u067e \u06a9\u0627 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06a9\u0645\u0632\u0648\u0631 \u06c1\u0648 \u06cc\u0627 \u0622\u067e \u06a9\u06d2 \u062d\u0642\u0627\u0626\u0642 \u063a\u0644\u0637 \u06c1\u0648\u06ba\u06d4 \u06a9\u0686\u06be \u06a9\u0627\u0645\u0648\u06ba \u067e\u0631\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u06af\u06c1\u0631\u06cc \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u0627\u0648\u0631 \u067e\u0691\u06be\u0646\u06d2 \u06a9\u06d2 \u0641\u06c1\u0645 \u06a9\u06d2 \u0645\u0639\u06cc\u0627\u0631\u0627\u062a \u067e\u0631\u060c GPT-3 \u0627\u0628 \u0628\u06be\u06cc \u0628\u06c1\u062a \u062c\u062f\u0648\u062c\u06c1\u062f \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0644\u06c1\u0630\u0627\u060c \u06cc\u06c1 \u06a9\u0627\u063a\u0630 GPT-3 \u06a9\u0648 \u0630\u06c1\u0627\u0646\u062a \u06a9\u06cc \u062d\u0644 \u0634\u062f\u06c1 \u0634\u06a9\u0644 \u06a9\u06d2 \u0637\u0648\u0631 \u067e\u0631 \u067e\u06cc\u0634 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u06c1\u0645 \u0627\u0633 \u0628\u0627\u062a \u06a9\u0627 \u062b\u0628\u0648\u062a \u0641\u0631\u0627\u06c1\u0645 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u06a9\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0628\u0691\u06be\u0627\u0646\u0627 \u0646\u0626\u06cc \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u06a9\u0648 \u06a9\u06be\u0648\u0644 \u062f\u06cc\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u067e\u06c1\u0644\u06d2 \u06a9\u0645\u0632\u0648\u0631 \u06cc\u0627 \u063a\u06cc\u0631 \u0645\u0648\u062c\u0648\u062f \u062a\u06be\u06cc\u06ba\u06d4 \u0646\u062a\u0627\u0626\u062c \u06a9\u0627\u0641\u06cc \u0645\u062a\u0627\u062b\u0631 \u06a9\u0646 \u06c1\u06cc\u06ba \u062a\u0627\u06a9\u06c1 \u0633\u0645\u062a \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0628\u0691\u06cc \u062a\u0628\u062f\u06cc\u0644\u06cc \u06a9\u0627 \u0645\u0634\u0648\u0631\u06c1 \u062f\u06cc\u0627 \u062c\u0627 \u0633\u06a9\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u0645\u0632\u06cc\u062f \u062a\u062d\u0642\u06cc\u0642 \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06a9\u0648 \u062e\u062a\u0645 \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u062a\u0646\u06d2 \u0645\u0636\u0628\u0648\u0637 \u0646\u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u06cc\u06c1 \u062a\u0648\u0627\u0632\u0646 \u0627\u0633 \u0686\u06cc\u0632 \u06a9\u0627 \u062d\u0635\u06c1 \u06c1\u06d2 \u062c\u0648 \u06a9\u0627\u063a\u0630 \u06a9\u0648 \u0645\u0624\u062b\u0631 \u0628\u0646\u0627\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0645\u06c1\u062a\u0648\u0627\u06a9\u0627\u0646\u06a9\u0634\u06cc \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u0627\u0633 \u06a9\u06cc \u0628\u0627\u0642\u06cc \u062d\u062f\u0648\u062f \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06cc\u0645\u0627\u0646\u062f\u0627\u0631 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-limitations\"><strong>\u067e\u0627\u0628\u0646\u062f\u06cc\u0627\u06ba<\/strong><\/h2>\n<p>GPT-3 \u067e\u06cc\u067e\u0631 \u0646\u06d2 \u0627\u067e\u0646\u06d2 \u0627\u0631\u062f \u06af\u0631\u062f \u062c\u0648\u0634 \u0648 \u062e\u0631\u0648\u0634 \u06a9\u06d2 \u0628\u0627\u0648\u062c\u0648\u062f \u0633\u0627\u06a9\u06be \u0628\u0631\u0642\u0631\u0627\u0631 \u0631\u06a9\u06be\u0646\u06d2 \u06a9\u06cc \u0627\u06cc\u06a9 \u0648\u062c\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u0645\u0635\u0646\u0641\u06cc\u0646 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u06a9\u0645\u0632\u0648\u0631\u06cc\u0648\u06ba \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u063a\u06cc\u0631 \u0645\u0639\u0645\u0648\u0644\u06cc \u0637\u0648\u0631 \u067e\u0631 \u06a9\u06be\u0644\u06d2 \u062a\u06be\u06d2\u06d4 \u06cc\u06c1 \u06a9\u0627\u063a\u0630 \u06cc\u06c1 \u062f\u0639\u0648\u06cc\u0670 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0686\u0646\u062f \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af NLP \u06a9\u0648 \u062d\u0644 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u060c \u0627\u0648\u0631 \u0646\u06c1 \u06c1\u06cc \u06cc\u06c1 \u062f\u0639\u0648\u06cc\u0670 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u062a\u0645\u0627\u0645 \u06a9\u0627\u0645\u0648\u06ba \u067e\u0631 \u0642\u0627\u0628\u0644 \u0627\u0639\u062a\u0645\u0627\u062f \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u06a9\u0627\u0645 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u0645\u0639\u0627\u0645\u0644\u0627\u062a \u0645\u06cc\u06ba\u060c \u0645\u0648\u062c\u0648\u062f\u06c1 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0688 \u0633\u0633\u0679\u0645 \u0627\u0628 \u0628\u06be\u06cc \u0628\u06c1\u062a\u0631 \u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u06cc\u06ba \u06af\u06d2\u06d4<\/p>\n<p>\u0627\u06af\u0631\u0686\u06c1 GPT-3 \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9\u0633 \u06a9\u06cc \u0627\u06cc\u06a9 \u0648\u0633\u06cc\u0639 \u0631\u06cc\u0646\u062c \u0645\u06cc\u06ba \u0686\u0646\u062f \u0634\u0627\u0679 \u06a9\u06d2 \u0645\u062a\u0627\u062b\u0631 \u06a9\u0646 \u0646\u062a\u0627\u0626\u062c \u062d\u0627\u0635\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u06cc\u06c1 \u0645\u0627\u0688\u0644 \u0645\u062a\u0639\u062f\u062f \u0642\u06cc\u0627\u0633 \u0633\u06d2 \u0628\u06be\u0631\u06d2 \u06a9\u0627\u0645\u0648\u06ba\u060c \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0642\u062f\u0631\u062a\u06cc \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0627\u0648\u0631 \u06a9\u0686\u06be \u067e\u0691\u06be\u0646\u06d2 \u06a9\u06d2 \u0641\u06c1\u0645 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u067e\u0631 \u062c\u062f\u0648\u062c\u06c1\u062f \u06a9\u0631\u062a\u0627 \u0631\u06c1\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u0627\u0633 \u0628\u0627\u062a \u067e\u0631 \u0628\u06be\u06cc \u0632\u0648\u0631 \u062f\u06cc\u0627 \u06af\u06cc\u0627 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u06a9\u06cc \u06a9\u0627\u0645\u06cc\u0627\u0628\u06cc \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0645\u0646\u062d\u0635\u0631 \u06c1\u06d2\u06d4 \u0645\u0627\u0688\u0644 \u06a9\u06d2 \u0686\u06be\u0648\u0679\u06d2 \u0648\u0631\u0698\u0646 \u0628\u06c1\u062a \u06a9\u0645\u0632\u0648\u0631 \u0686\u0646\u062f \u0634\u0627\u0679 \u0635\u0644\u0627\u062d\u06cc\u062a\u0648\u06ba \u06a9\u0648 \u0638\u0627\u06c1\u0631 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062c\u0628\u06a9\u06c1 \u0645\u0636\u0628\u0648\u0637 \u062a\u0631\u06cc\u0646 \u0646\u062a\u0627\u0626\u062c \u0635\u0631\u0641 \u0628\u06c1\u062a \u0628\u0691\u06d2 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631 \u0634\u0645\u0627\u0631\u0648\u06ba \u06a9\u06d2 \u0644\u06cc\u06d2 \u0638\u0627\u06c1\u0631 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0627\u0633 \u0633\u06d2 \u0627\u06c1\u0645 \u0639\u0645\u0644\u06cc \u0645\u0633\u0627\u0626\u0644 \u067e\u06cc\u062f\u0627 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>GPT-3 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u0645\u067e\u06cc\u0648\u0679\u0646\u06af \u06a9\u06d2 \u0628\u06d2 \u067e\u0646\u0627\u06c1 \u0648\u0633\u0627\u0626\u0644\u060c \u062e\u0635\u0648\u0635\u06cc \u0627\u0646\u0641\u0631\u0627\u0633\u0679\u0631\u06a9\u0686\u0631\u060c \u0627\u0648\u0631 \u0688\u06cc\u0679\u0627 \u06a9\u06cc \u0628\u0691\u06cc \u0645\u0642\u062f\u0627\u0631 \u062f\u0631\u06a9\u0627\u0631 \u06c1\u06d2\u06d4 \u0633\u0628 \u0633\u06d2 \u0628\u0691\u0627 \u0645\u0627\u0688\u0644 175 \u0628\u0644\u06cc\u0646 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u067e\u0631 \u0645\u0634\u062a\u0645\u0644 \u06c1\u06d2 \u0627\u0648\u0631 \u0627\u0633\u06d2 \u0628\u0691\u06d2 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679\u0633 \u067e\u0631 \u0627\u06cc\u06a9 \u0628\u0691\u06d2 GPU \u06a9\u0644\u0633\u0679\u0631 \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06af\u0626\u06cc \u062a\u06be\u06cc\u06d4<\/p>\n<p>\u062f\u0631\u062d\u0642\u06cc\u0642\u062a\u060c \u0627\u0633 \u0648\u0642\u062a \u062f\u0646\u06cc\u0627 \u0645\u06cc\u06ba \u0628\u06c1\u062a \u06a9\u0645 \u062a\u0646\u0638\u06cc\u0645\u06cc\u06ba \u062a\u06be\u06cc\u06ba \u062c\u0648 \u0627\u0633 \u06a9\u0627\u0645 \u06a9\u0648 \u062d\u0642\u06cc\u0642\u062a \u067e\u0633\u0646\u062f\u0627\u0646\u06c1 \u0637\u0648\u0631 \u067e\u0631 \u0646\u0642\u0644 \u06a9\u0631 \u0633\u06a9\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u062a\u0639\u0635\u0628 \u0627\u0648\u0631 \u0627\u0646\u0635\u0627\u0641 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0648\u0633\u06cc\u0639 \u062a\u0631 \u062e\u062f\u0634\u0627\u062a \u067e\u0631 \u0628\u06be\u06cc \u0628\u062d\u062b \u06a9\u06cc \u06af\u0626\u06cc \u06c1\u06d2\u06d4 \u0686\u0648\u0646\u06a9\u06c1 GPT-3 \u06a9\u0648 \u0628\u0691\u06d2 \u0627\u0646\u0679\u0631\u0646\u06cc\u0679 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679\u0633 \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u060c \u0627\u0633 \u0644\u06cc\u06d2 \u06cc\u06c1 \u0644\u0627\u0645\u062d\u0627\u0644\u06c1 \u0633\u0645\u0627\u062c\u06cc \u062a\u0639\u0635\u0628\u0627\u062a\u060c \u062f\u0642\u06cc\u0627\u0646\u0648\u0633\u06cc \u062a\u0635\u0648\u0631\u0627\u062a\u060c \u0627\u0648\u0631 \u0688\u06cc\u0679\u0627 \u0645\u06cc\u06ba \u0645\u0648\u062c\u0648\u062f \u0645\u0633\u0627\u0626\u0644 \u0632\u062f\u06c1 \u0644\u0633\u0627\u0646\u06cc \u0646\u0645\u0648\u0646\u0648\u06ba \u06a9\u0648 \u062c\u0630\u0628 \u06a9\u0631 \u0644\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u062a\u0634\u0648\u06cc\u0634 \u06a9\u0627 \u0628\u0627\u0639\u062b \u06c1\u06d2 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 \u0645\u0627\u0688\u0644 \u0628\u06c1\u062a \u0642\u0627\u0626\u0644 \u0645\u062a\u0646 \u062a\u06cc\u0627\u0631 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u063a\u0644\u0637 \u06cc\u0627 \u0645\u062a\u0639\u0635\u0628 \u0622\u0624\u0679 \u067e\u0679 \u0645\u0633\u062a\u0646\u062f \u0644\u06af \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u0686\u0627\u06c1\u06d2 \u06cc\u06c1 \u06af\u0645\u0631\u0627\u06c1 \u06a9\u0646 \u06cc\u0627 \u0646\u0642\u0635\u0627\u0646 \u062f\u06c1 \u06c1\u0648\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u0627\u0648\u0631 \u0645\u0633\u0626\u0644\u06c1 \u062c\u0633 \u06a9\u06cc \u0645\u0635\u0646\u0641 \u0646\u06d2 \u062a\u062d\u0642\u06cc\u0642 \u06a9\u06cc \u06c1\u06d2\u06d4 <em>\u0688\u06cc\u0679\u0627 \u06a9\u06cc \u0622\u0644\u0648\u062f\u06af\u06cc<\/em>. \u0686\u0648\u0646\u06a9\u06c1 GPT-3 \u0679\u0631\u06cc\u0646\u06cc\u06ba \u0648\u06cc\u0628 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u06a9\u0627\u0631\u067e\u0648\u0631\u0627 \u067e\u0631 \u0686\u0644\u062a\u06cc \u06c1\u06cc\u06ba\u060c \u0628\u06cc\u0646\u0686 \u0645\u0627\u0631\u06a9 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679 \u06a9\u06d2 \u06a9\u0686\u06be \u062d\u0635\u06d2 \u062d\u0627\u062f\u062b\u0627\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0679\u0631\u06cc\u0646\u0646\u06af \u0688\u06cc\u0679\u0627 \u0645\u06cc\u06ba \u0638\u0627\u06c1\u0631 \u06c1\u0648 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u06a9\u0627\u063a\u0630 \u0627\u0633 \u06a9\u0627 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u062c\u0627\u0626\u0632\u06c1 \u0644\u06cc\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u062a\u0633\u0644\u06cc\u0645 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0686\u06be \u0627\u0648\u0648\u0631\u0644\u06cc\u067e \u06c1\u06d2\u06d4 \u062a\u0627\u06c1\u0645\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u0627 \u06a9\u06c1\u0646\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0635\u0631\u0641 \u0622\u0644\u0648\u062f\u06af\u06cc \u06c1\u06cc \u0645\u06a9\u0645\u0644 \u0646\u062a\u0627\u0626\u062c \u06a9\u06cc \u0648\u0636\u0627\u062d\u062a \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644\u0632 \u06a9\u06cc \u06cc\u06c1 \u062c\u0627\u0631\u062d\u0627\u0646\u06c1 \u062a\u0648\u0633\u06cc\u0639 \u0645\u0627\u062d\u0648\u0644\u06cc\u0627\u062a\u06cc \u0627\u0648\u0631 \u0627\u0642\u062a\u0635\u0627\u062f\u06cc \u0627\u062e\u0631\u0627\u062c\u0627\u062a \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0628\u06be\u06cc \u0622\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u06a9\u0627 \u062a\u0639\u0644\u06cc\u0645\u06cc \u0646\u0638\u0627\u0645 \u0628\u06c1\u062a \u0632\u06cc\u0627\u062f\u06c1 \u06a9\u0645\u067e\u06cc\u0648\u0679\u0646\u06af \u0627\u0648\u0631 \u062a\u0648\u0627\u0646\u0627\u0626\u06cc \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u06d2 \u06af\u0627\u060c \u062c\u0633 \u0633\u06d2 AI \u062a\u062d\u0642\u06cc\u0642 \u06a9\u06cc \u067e\u0627\u0626\u06cc\u062f\u0627\u0631\u06cc \u0627\u0648\u0631 \u0631\u0633\u0627\u0626\u06cc \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0633\u0648\u0627\u0644\u0627\u062a \u0627\u0679\u06be\u06cc\u06ba \u06af\u06d2\u06d4 \u062c\u06cc\u0633\u06d2 \u062c\u06cc\u0633\u06d2 \u0645\u0627\u0688\u0644 \u0628\u0691\u06be\u062a\u06d2 \u06c1\u06cc\u06ba\u060c \u062c\u062f\u06cc\u062f \u062a\u0631\u06cc\u0646 \u067e\u06cc\u0634\u0631\u0641\u062a \u062a\u06cc\u0632\u06cc \u0633\u06d2 \u0635\u0646\u0639\u062a\u06cc \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0688\u06be\u0627\u0646\u0686\u06d2 \u062a\u06a9 \u0631\u0633\u0627\u0626\u06cc \u067e\u0631 \u0627\u0646\u062d\u0635\u0627\u0631 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u0633\u06d2 \u062a\u0646\u0627\u0624 \u067e\u06cc\u062f\u0627 \u06c1\u0648\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u0622\u062c \u0628\u06be\u06cc \u0645\u0648\u062c\u0648\u062f \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u0646\u06d2 \u062b\u0627\u0628\u062a \u06a9\u06cc\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u0628\u06c1\u062a \u0627\u0686\u06be\u06cc \u0637\u0631\u062d \u0633\u06d2 \u06a9\u0627\u0645 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u0627\u0633 \u0646\u06d2 \u06cc\u06c1 \u0628\u06be\u06cc \u0627\u062c\u0627\u06af\u0631 \u06a9\u06cc\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0633 \u0637\u0631\u062d \u062a\u0648\u062c\u06c1 \u0645\u0631\u06a9\u0648\u0632 \u06a9\u06cc \u06af\u0626\u06cc \u0627\u06cc\u0688\u0648\u0627\u0646\u0633\u0688 AI \u062a\u062d\u0642\u06cc\u0642 \u0628\u0646 \u0631\u06c1\u06cc \u06c1\u06d2\u06d4 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u06a9\u0627 \u0645\u0633\u062a\u0642\u0628\u0644 \u06cc\u0642\u06cc\u0646\u0627\u064b \u0627\u0645\u06cc\u062f \u0627\u0641\u0632\u0627 \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u06cc\u06c1 \u062a\u06cc\u0632\u06cc \u0633\u06d2 \u0645\u06c1\u0646\u06af\u0627 \u0628\u06be\u06cc \u06c1\u0648\u062a\u0627 \u062c\u0627 \u0631\u06c1\u0627 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-conclusion\"><strong>\u0646\u062a\u06cc\u062c\u06c1<\/strong><\/h2>\n<p>\u06a9\u0627\u063a\u0630 \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0637\u0648\u0631 \u067e\u0631 \u0633\u0627\u062f\u06c1 \u0646\u062a\u06cc\u062c\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u062e\u062a\u0645 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0628\u0691\u06be\u0627\u0646\u0627 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u06a9\u06cc\u0627 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u0627\u0633 \u0645\u06cc\u06ba \u062a\u0628\u062f\u06cc\u0644\u06cc \u0644\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0635\u0646\u0641\u06cc\u0646 \u06a9\u06d2 \u0645\u0637\u0627\u0628\u0642\u060c GPT-3 \u0638\u0627\u06c1\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u06a9\u0627\u0641\u06cc \u0628\u0691\u06d2 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644 \u0628\u063a\u06cc\u0631 \u06af\u0631\u06cc\u0688\u06cc\u0646\u0679 \u0627\u067e \u0688\u06cc\u0679\u0633 \u06cc\u0627 \u0679\u0627\u0633\u06a9 \u0645\u062e\u0635\u0648\u0635 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u06a9\u0627\u0645 \u0633\u06cc\u06a9\u06be \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u06cc\u06c1 \u062e\u06cc\u0627\u0644 NLP \u06a9\u06cc \u0633\u0645\u062a \u0645\u06cc\u06ba \u0627\u06cc\u06a9 \u0628\u0691\u06cc \u062a\u0628\u062f\u06cc\u0644\u06cc \u06a9\u06cc \u0646\u0645\u0627\u0626\u0646\u062f\u06af\u06cc \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u0626\u06cc \u0633\u0627\u0644\u0648\u06ba \u0633\u06d2\u060c \u0645\u0634\u06cc\u0646 \u0644\u0631\u0646\u0646\u06af \u0645\u06cc\u06ba \u0645\u0639\u06cc\u0627\u0631\u06cc \u0648\u0631\u06a9 \u0641\u0644\u0648 \u06cc\u06c1 \u06c1\u06d2:<\/p>\n<p>GPT-3 \u0627\u06cc\u06a9 \u0645\u062e\u062a\u0644\u0641 \u0646\u0645\u0648\u0646\u06c1 \u067e\u06cc\u0634 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06a9\u0633\u06cc \u0646\u0626\u06d2 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0628\u0627\u0631 \u0628\u0627\u0631 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0648\u06c1\u06cc \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0645\u0627\u0688\u0644 \u0627\u06a9\u062b\u0631 \u0635\u0631\u0641 \u0627\u06cc\u06a9 \u0627\u0634\u0627\u0631\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0688\u06be\u0627\u0644 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u062f\u06cc \u06af\u0626\u06cc \u06c1\u062f\u0627\u06cc\u0627\u062a \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u06cc\u06ba \u0645\u0627\u0688\u0644 \u06a9\u06cc \u0645\u0641\u06cc\u062f \u0631\u0648\u06cc\u06d2 \u0645\u06cc\u06ba \u0631\u06c1\u0646\u0645\u0627\u0626\u06cc \u06a9\u06d2 \u0644\u06cc\u06d2 \u06a9\u0627\u0641\u06cc \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u06cc\u0639\u0646\u06cc\u060c \u0648\u0631\u06a9 \u0641\u0644\u0648 \u0627\u0633 \u0637\u0631\u062d \u0634\u0631\u0648\u0639 \u06c1\u0648\u062a\u0627 \u06c1\u06d2:<\/p>\n<p>\u06cc\u06c1 \u0635\u0631\u0641 \u0633\u06c1\u0648\u0644\u062a \u0646\u06c1\u06cc\u06ba \u06c1\u06d2 \u062c\u0648 \u0627\u06c1\u0645\u06cc\u062a \u0631\u06a9\u06be\u062a\u06cc \u06c1\u06d2\u06d4 \u0627\u0633 \u0633\u06d2 \u0645\u062d\u0642\u0642\u06cc\u0646 \u06a9\u06cc \u0639\u0645\u0648\u0645\u06cc\u062a \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0633\u0648\u0686\u0646\u06d2 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632 \u0628\u062f\u0644 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0645\u0642\u0627\u0644\u06c1 \u062a\u062c\u0648\u06cc\u0632 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0631\u0648\u0627\u06cc\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0632\u06cc\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u0633\u06d2 \u0648\u0627\u0628\u0633\u062a\u06c1 \u0628\u06c1\u062a \u0633\u06cc \u062e\u0635\u0648\u0635\u06cc\u0627\u062a \u0642\u062f\u0631\u062a\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0646\u06af \u0633\u06d2 \u0627\u0628\u06be\u0631 \u0633\u06a9\u062a\u06cc \u06c1\u06cc\u06ba\u06d4 \u062a\u0631\u062c\u0645\u06c1\u060c \u0633\u0648\u0627\u0644 \u06a9\u0627 \u062c\u0648\u0627\u0628\u060c \u062a\u062e\u0645\u06cc\u0646\u06c1\u060c \u062e\u0644\u0627\u0635\u06c1\u060c \u0627\u0648\u0631 \u06cc\u06c1\u0627\u06ba \u062a\u06a9 \u06a9\u06c1 \u06a9\u0627\u0645 \u06a9\u06cc \u0645\u0648\u0627\u0641\u0642\u062a \u0628\u06be\u06cc \u0635\u0631\u0641 \u0627\u06af\u0644\u06cc \u0679\u0648\u06a9\u0646 \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u067e\u0631 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0648\u0627\u062d\u062f \u0645\u0631\u0628\u0648\u0637 \u0646\u0638\u0627\u0645 \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u0633\u0627\u0645\u0646\u06d2 \u0622\u0646\u0627 \u0634\u0631\u0648\u0639 \u06c1\u0648 \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u06c1\u06cc \u0648\u0642\u062a \u0645\u06cc\u06ba\u060c \u0645\u0635\u0646\u0641\u06cc\u0646 \u0627\u067e\u0646\u06d2 \u0646\u062a\u0627\u0626\u062c \u0645\u06cc\u06ba \u0645\u062d\u062a\u0627\u0637 \u0631\u06c1\u062a\u06d2 \u06c1\u06cc\u06ba.<\/p>\n<p>GPT-3 \u06cc\u0642\u06cc\u0646\u0627\u064b \u0637\u0627\u0642\u062a\u0648\u0631 \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u06cc\u06c1 \u0627\u062a\u0646\u0627 \u0642\u0627\u0628\u0644 \u0627\u0639\u062a\u0645\u0627\u062f \u0646\u06c1\u06cc\u06ba \u06c1\u06d2 \u06a9\u06c1 \u0627\u0633\u06d2 \u0630\u06c1\u0627\u0646\u062a \u06cc\u0627 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u06a9\u0645\u0644 \u062d\u0644 \u0633\u0645\u062c\u06be\u0627 \u062c\u0627\u0626\u06d2\u06d4 \u0645\u0642\u0627\u0644\u06c1 \u0628\u0627\u0631 \u0628\u0627\u0631 \u0645\u0646\u0637\u0642\u060c \u062d\u0642\u0627\u0626\u0642 \u06a9\u06cc \u062f\u0631\u0633\u062a\u06af\u06cc\u060c \u062a\u0639\u0635\u0628 \u0627\u0648\u0631 \u0645\u0633\u062a\u0642\u0644 \u0645\u0632\u0627\u062c\u06cc \u0633\u06d2 \u0645\u062a\u0639\u0644\u0642 \u06a9\u0645\u0632\u0648\u0631\u06cc\u0648\u06ba \u06a9\u0648 \u062a\u0633\u0644\u06cc\u0645 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u067e\u06be\u0631 \u0628\u06be\u06cc\u060c \u0648\u0633\u06cc\u0639 \u062a\u0631 \u067e\u06cc\u063a\u0627\u0645 \u06a9\u0648 \u0646\u0638\u0631 \u0627\u0646\u062f\u0627\u0632 \u06a9\u0631\u0646\u0627 \u0645\u0634\u06a9\u0644 \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u0646\u06d2 \u0638\u0627\u06c1\u0631 \u06a9\u06cc\u0627 \u06a9\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0648\u0633\u06cc\u0639 \u0635\u0631\u0641 \u0631\u0648\u0627\u0646\u06cc \u06a9\u0648 \u0628\u06c1\u062a\u0631 \u0646\u06c1\u06cc\u06ba \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4 \u06cc\u06c1 \u0645\u06a9\u0645\u0644 \u0637\u0648\u0631 \u067e\u0631 \u0646\u0626\u06d2 \u0637\u0631\u0632 \u0639\u0645\u0644 \u062a\u0634\u06a9\u06cc\u0644 \u062f\u06d2 \u0633\u06a9\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u0686\u06be\u0648\u0679\u06d2 \u0646\u0638\u0627\u0645\u0648\u06ba \u0645\u06cc\u06ba \u06a9\u0645\u0632\u0648\u0631 \u06cc\u0627 \u063a\u06cc\u0631 \u0645\u0648\u062c\u0648\u062f \u06c1\u06cc\u06ba\u06d4 \u0627\u0633 \u0627\u062d\u0633\u0627\u0633 \u0646\u06d2 \u062c\u062f\u06cc\u062f AI \u062a\u062d\u0642\u06cc\u0642 \u06a9\u06cc \u0631\u0641\u062a\u0627\u0631 \u06a9\u0648 \u0646\u0626\u06cc \u0634\u06a9\u0644 \u062f\u06cc \u0627\u0648\u0631 \u062a\u06cc\u0632\u06cc \u0633\u06d2 \u06a9\u0627\u0645 \u06a9\u0631\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u0646\u0638\u0627\u0645\u0648\u06ba \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u0631\u06a9\u06be\u06cc \u062c\u0633 \u06a9\u06cc \u067e\u06cc\u0631\u0648\u06cc \u062c\u0644\u062f \u06c1\u0648\u06af\u06cc\u06d4<\/p>\n<h2 id=\"heading-final-insight\"><strong>\u062d\u062a\u0645\u06cc \u0628\u0635\u06cc\u0631\u062a<\/strong><\/h2>\n<p>\u0627\u06af\u0631 GPT-1 \u0646\u06d2 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u0627\u0648\u0631 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u0627 \u0622\u0626\u06cc\u0688\u06cc\u0627 \u0645\u062a\u0639\u0627\u0631\u0641 \u06a9\u0631\u0627\u06cc\u0627\u060c \u0627\u0648\u0631 GPT-2 \u0646\u06d2 \u0638\u0627\u06c1\u0631 \u06a9\u06cc\u0627 \u06a9\u06c1 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0632 \u0679\u0627\u0633\u06a9 \u0645\u062e\u0635\u0648\u0635 \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0637\u0648\u0631 \u067e\u0631 \u0627\u0686\u06be\u06cc \u0637\u0631\u062d \u0633\u06d2 \u0639\u0627\u0645 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u060c GPT-3 \u0627\u0633 \u062e\u06cc\u0627\u0644 \u06a9\u0648 \u0645\u0632\u06cc\u062f \u0622\u06af\u06d2 \u0644\u06d2 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0633 \u0633\u06d2 \u067e\u062a\u06c1 \u0686\u0644\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u0627 \u0645\u0627\u0688\u0644 \u0633\u06cc\u06a9\u06be\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 <em>\u062e\u0648\u062f \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646<\/em>.<\/p>\n<p>\u06cc\u06c1 \u0627\u0633 \u0645\u0642\u0627\u0644\u06d2 \u0645\u06cc\u06ba \u062d\u0642\u06cc\u0642\u06cc \u062a\u0635\u0648\u0631\u0627\u062a\u06cc \u062a\u0628\u062f\u06cc\u0644\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>GPT-3 \u0633\u06d2 \u067e\u06c1\u0644\u06d2\u060c \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 AI \u0633\u0633\u0679\u0645 \u0627\u0628 \u0628\u06be\u06cc \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u062e\u0635\u0648\u0635 \u0646\u0638\u0627\u0645 \u062a\u06be\u06d2\u06d4 \u06cc\u06c1\u0627\u06ba \u062a\u06a9 \u06a9\u06c1 \u0645\u0636\u0628\u0648\u0637 \u067e\u06c1\u0644\u06d2 \u0633\u06d2 \u062a\u0631\u0628\u06cc\u062a \u06cc\u0627\u0641\u062a\u06c1 \u0645\u0627\u0688\u0644\u0632 \u06a9\u0648 \u0628\u06be\u06cc \u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u0627\u0636\u0627\u0641\u06cc \u0632\u06cc\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u0648\u062a\u06cc \u06c1\u06d2 \u0627\u0633 \u0633\u06d2 \u067e\u06c1\u0644\u06d2 \u06a9\u06c1 \u0648\u06c1 \u06a9\u0633\u06cc \u0645\u062e\u0635\u0648\u0635 \u0627\u06cc\u067e\u0644\u06cc \u06a9\u06cc\u0634\u0646 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u0641\u06cc\u062f \u06c1\u0648\u06ba\u06d4<\/p>\n<p>GPT-3 \u0627\u0633 \u0637\u0631\u0632 \u06a9\u0648 \u062a\u0648\u0691\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u062a\u0631\u062c\u0645\u06c1\u060c \u062e\u0644\u0627\u0635\u06c1\u060c \u0633\u0648\u0627\u0644 \u06a9\u06d2 \u062c\u0648\u0627\u0628\u060c \u06cc\u0627 \u062a\u062e\u0645\u06cc\u0646\u06c1 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0644\u06af \u0627\u0644\u06af \u0645\u0627\u0688\u0644 \u0628\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2\u060c \u0627\u06cc\u06a9 \u06c1\u06cc \u0645\u0627\u0688\u0644 \u0627\u0633\u06d2 \u0645\u0648\u0635\u0648\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u0627\u0634\u0627\u0631\u06d2 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f \u067e\u0631 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0688\u06be\u0627\u0644 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc \u06a9\u06d2 \u0627\u0646\u062f\u0631 \u06a9\u06cc \u0645\u062b\u0627\u0644\u06cc\u06ba \u0645\u0624\u062b\u0631 \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u06a9\u0627\u0631\u0631\u0648\u0627\u0626\u06cc \u06a9\u06d2 \u0644\u06cc\u06d2 \u0639\u0627\u0631\u0636\u06cc \u0631\u06c1\u0646\u0645\u0627 \u062e\u0637\u0648\u0637 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u062f\u0631\u062d\u0642\u06cc\u0642\u062a\u060c \u06cc\u06c1 AI \u0633\u0633\u0679\u0645\u0632 \u06a9\u0648 \u062a\u0646\u06af \u062a\u062e\u0635\u0635 \u0633\u06d2 \u062f\u0648\u0631 \u0627\u0648\u0631 \u0632\u06cc\u0627\u062f\u06c1 \u0644\u0686\u06a9 \u06a9\u06cc \u0637\u0631\u0641 \u0644\u06d2 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u062c\u0648 \u0686\u06cc\u0632 \u0627\u0633\u06d2 \u062e\u0627\u0635 \u0637\u0648\u0631 \u067e\u0631 \u0627\u06c1\u0645 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2 \u0648\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u0646\u06d2 \u0627\u0633\u06d2 \u067e\u06cc\u0686\u06cc\u062f\u06c1 \u0639\u0644\u0627\u0645\u062a\u06cc \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06a9\u06d2 \u0646\u0638\u0627\u0645 \u06cc\u0627 \u062f\u0633\u062a\u06a9\u0627\u0631\u06cc \u06a9\u06cc \u067e\u0627\u0626\u067e \u0644\u0627\u0626\u0646\u0648\u06ba \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u062d\u0627\u0635\u0644 \u0646\u06c1\u06cc\u06ba \u06a9\u06cc\u0627\u06d4 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0627\u0628 \u0628\u06be\u06cc \u0646\u0633\u0628\u062a\u0627\u064b \u0622\u0633\u0627\u0646 \u0627\u06af\u0644\u0627 \u0679\u0648\u06a9\u0646 \u067e\u06cc\u0634\u0646 \u06af\u0648\u0626\u06cc \u0645\u0642\u0635\u062f \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u062a\u0631\u0628\u06cc\u062a \u062f\u06cc \u06af\u0626\u06cc \u062a\u06be\u06cc\u06d4 \u0644\u06cc\u06a9\u0646 \u06a9\u0627\u0641\u06cc \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631\u060c \u0645\u06a9\u0645\u0644 \u0637\u0648\u0631 \u067e\u0631 \u0646\u0626\u06d2 \u0637\u0631\u0632 \u0639\u0645\u0644 \u0633\u0627\u0645\u0646\u06d2 \u0622\u0646\u0627 \u0634\u0631\u0648\u0639 \u06c1\u0648 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u067e\u06cc\u0686\u06be\u06d2 \u0645\u0691 \u06a9\u0631 \u062f\u06cc\u06a9\u06be\u06cc\u06ba \u062a\u0648 \u06cc\u06c1 \u0645\u0642\u0627\u0644\u06c1 \u062c\u06cc \u067e\u06cc \u0679\u06cc \u0633\u06cc\u0631\u06cc\u0632 \u06a9\u06d2 \u0627\u062e\u062a\u062a\u0627\u0645 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u0627\u06cc\u06a9 \u0646\u0626\u06d2 \u062f\u0648\u0631 \u06a9\u06d2 \u0622\u063a\u0627\u0632 \u06a9\u06d2 \u0642\u0631\u06cc\u0628 \u0645\u062d\u0633\u0648\u0633 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0628\u06c1\u062a \u0633\u06d2 \u062e\u06cc\u0627\u0644\u0627\u062a \u062c\u0648 \u0627\u0628 \u062c\u062f\u06cc\u062f AI \u06a9\u06cc \u062a\u0639\u0631\u06cc\u0641 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba \u0627\u0646 \u06a9\u0627 \u0633\u0631\u0627\u063a \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a GPT-3 \u0633\u06d2 \u0644\u06af\u0627\u06cc\u0627 \u062c\u0627 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<ul>\n<li>\n<p>\u0631\u06cc\u067e\u0688 \u0627\u0646\u062c\u06cc\u0646\u0626\u0631\u0646\u06af<\/p>\n<\/li>\n<li>\n<p>\u0646\u0638\u0627\u0645 \u062c\u0648 \u06c1\u062f\u0627\u06cc\u0627\u062a \u067e\u0631 \u0639\u0645\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/p>\n<\/li>\n<li>\n<p>\u0628\u0627\u062a \u0686\u06cc\u062a \u06a9\u0631\u0646\u06d2 \u0648\u0627\u0644\u0627 AI \u0627\u0633\u0633\u0679\u0646\u0679<\/p>\n<\/li>\n<li>\n<p>\u06cc\u0648\u0646\u06cc\u0648\u0631\u0633\u0644 \u0628\u06cc\u0633 \u0645\u0627\u0688\u0644<\/p>\n<\/li>\n<\/ul>\n<p>\u0627\u0648\u0631 \u0628\u0627\u0644\u0622\u062e\u0631\u060c ChatGPT \u062c\u06cc\u0633\u06d2 \u0633\u0633\u0679\u0645 \u06a9\u06d2 \u0645\u0648\u062c\u0648\u062f \u06c1\u0648\u0646\u06d2 \u06a9\u06cc \u0648\u062c\u06c1 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 GPT-3 \u0646\u06d2 \u06cc\u06c1 \u0638\u0627\u06c1\u0631 \u06a9\u06cc\u0627 \u06a9\u06c1 \u067e\u0631\u0627\u0645\u067e\u0679 \u062e\u0648\u062f \u0627\u0646\u0679\u06cc\u0644\u06cc \u062c\u0646\u0633 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0628\u0627\u062a \u0686\u06cc\u062a \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u06cc\u06a9 \u0637\u0627\u0642\u062a\u0648\u0631 \u0627\u0646\u0679\u0631\u0641\u06cc\u0633 \u06c1\u0648 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1\u06cc \u0648\u062c\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u06cc\u06c1 \u0645\u0642\u0627\u0644\u06c1 \u062a\u0627\u0631\u06cc\u062e\u06cc \u0627\u0639\u062a\u0628\u0627\u0631 \u0633\u06d2 \u0627\u06c1\u0645 \u06c1\u06d2\u06d4<\/p>\n<p>\u06cc\u06c1 \u0635\u0631\u0641 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0648\u0633\u06cc\u0639 \u0646\u06c1\u06cc\u06ba \u06c1\u06d2\u06d4 \u0627\u0633 \u0646\u06d2 \u0644\u0648\u06af\u0648\u06ba \u06a9\u06d2 \u0627\u0633\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u0646\u06d2 \u06a9\u0627 \u062a\u0635\u0648\u0631 \u06a9\u0631\u0646\u06d2 \u06a9\u0627 \u0637\u0631\u06cc\u0642\u06c1 \u0628\u062f\u0644 \u062f\u06cc\u0627 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-gpt-1-vs-gpt-2-vs-gpt-3-key-differences\"><strong>GPT-1 \u0628\u0645\u0642\u0627\u0628\u0644\u06c1 GPT-2 \u0628\u0645\u0642\u0627\u0628\u0644\u06c1 GPT-3: \u06a9\u0644\u06cc\u062f\u06cc \u0641\u0631\u0642<\/strong><\/h2>\n<table style=\"min-width:100px\">\n<colgroup>\n<col style=\"min-width:25px\"\/>\n<col style=\"min-width:25px\"\/>\n<col style=\"min-width:25px\"\/>\n<col style=\"min-width:25px\"\/><\/colgroup>\n<tbody>\n<tr>\n<td>\n<p><strong>\u0637\u0631\u0641<\/strong><\/p>\n<\/td>\n<td>\n<p><strong>GPT-1<\/strong><\/p>\n<\/td>\n<td>\n<p><strong>GPT-2<\/strong><\/p>\n<\/td>\n<td>\n<p><strong>GPT-3<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0628\u0646\u06cc\u0627\u062f\u06cc \u062e\u06cc\u0627\u0644<\/strong><\/p>\n<\/td>\n<td>\n<p>\u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06d2 \u0628\u0639\u062f \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af<\/p>\n<\/td>\n<td>\n<p>\u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0622\u067e\u0631\u06cc\u0634\u0646 \u0635\u0631\u0641 \u067e\u06cc\u0634\u06af\u06cc \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0645\u0645\u06a9\u0646 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06a9\u0686\u06be \u0634\u0627\u0679 \u0627\u0648\u0631 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06d2 \u0645\u062a\u0639\u0644\u0642 \u0645\u062e\u0635\u0648\u0635 \u0633\u06cc\u06a9\u06be\u0646\u0627 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u067e\u06cc\u0634\u06af\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0645\u0645\u06a9\u0646 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u062a\u0631\u0628\u06cc\u062a \u06a9\u0627 \u0646\u0642\u0637\u06c1 \u0646\u0638\u0631<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0645\u0631\u062d\u0644\u06c1 2 \u067e\u0627\u0626\u067e \u0644\u0627\u0626\u0646: \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u067e\u06be\u0631 \u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af<\/p>\n<\/td>\n<td>\n<p>\u0633\u0646\u06af\u0644 \u0642\u062f\u0645\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06cc \u0645\u0627\u0688\u0644\u0646\u06af<\/p>\n<\/td>\n<td>\n<p>\u06cc\u06c1 \u0627\u06cc\u06a9 \u06c1\u06cc \u0632\u0628\u0627\u0646 \u06a9\u06cc \u0645\u0627\u0688\u0644\u0646\u06af \u06a9\u0627 \u0637\u0631\u06cc\u0642\u06c1 \u06c1\u06d2\u060c \u0644\u06cc\u06a9\u0646 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u067e\u06be\u06cc\u0644\u0627 \u06c1\u0648\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0646\u06af\u0631\u0627\u0646\u06cc<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0688\u0627\u0624\u0646 \u0627\u0633\u0679\u0631\u06cc\u0645 \u0622\u067e\u0631\u06cc\u0634\u0646\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0622\u067e \u06a9\u0648 \u0644\u06cc\u0628\u0644 \u0648\u0627\u0644\u06d2 \u0688\u06cc\u0679\u0627 \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0622\u067e \u0628\u063a\u06cc\u0631 \u06a9\u0633\u06cc \u0632\u06cc\u0631 \u0646\u06af\u0631\u0627\u0646\u06cc \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u06a9\u0627\u0645 \u06a9\u0631\u0648\u0627 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u0627\u0634\u0627\u0631\u06d2 \u0627\u0648\u0631 \u0645\u062b\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0645\u0648\u0627\u0641\u0642\u062a \u067e\u0630\u06cc\u0631<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0679\u0627\u0633\u06a9 \u067e\u0631\u0648\u0633\u06cc\u0633\u0646\u06af<\/strong><\/p>\n<\/td>\n<td>\n<p>\u06c1\u0631 \u06a9\u0627\u0645 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0639\u0644\u06cc\u062d\u062f\u06c1 \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af<\/p>\n<\/td>\n<td>\n<p>\u0622\u067e\u0631\u06cc\u0634\u0646\u0632 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0633\u0646\u0628\u06be\u0627\u0644\u06d2 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0632\u06cc\u0631\u0648 \u0634\u0627\u0679\u060c \u0648\u0646 \u0634\u0627\u0679\u060c \u0627\u0648\u0631 \u0686\u0646\u062f \u0634\u0627\u0679 \u067e\u0631\u0627\u0645\u067e\u0679\u0633 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0633\u0646\u0628\u06be\u0627\u0644\u06d2 \u06af\u0626\u06d2 \u06a9\u0627\u0645<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0627\u0638\u06c1\u0627\u0631 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0628\u0639\u062f \u062a\u062e\u0635\u0635<\/p>\n<\/td>\n<td>\n<p>\u0639\u0627\u0645 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0646\u0645\u0648\u0646\u06d2 \u0633\u06cc\u06a9\u06be\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0635\u0648\u0631\u062a\u062d\u0627\u0644 \u0633\u06d2 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u0627\u0639\u0645\u0627\u0644 \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632\u06c1 \u0644\u06af\u0627\u0646\u06d2 \u06a9\u0627 \u0637\u0631\u06cc\u0642\u06c1 \u0633\u06cc\u06a9\u06be\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0639\u0627\u0645 \u06a9\u0631\u0646\u0627<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0645\u062d\u062f\u0648\u062f \u0628\u06cc\u0631\u0648\u0646\u06cc \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u0622\u067e\u0631\u06cc\u0634\u0646\u0632<\/p>\n<\/td>\n<td>\n<p>\u0645\u0636\u0628\u0648\u0637 \u06a9\u0631\u0627\u0633 \u0679\u0627\u0633\u06a9 \u062c\u0646\u0631\u0644\u0627\u0626\u0632\u06cc\u0634\u0646<\/p>\n<\/td>\n<td>\n<p>\u0628\u06c1\u062a \u0632\u06cc\u0627\u062f\u06c1 \u0637\u0627\u0642\u062a\u0648\u0631 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0645\u0648\u0627\u0641\u0642\u062a \u0627\u0648\u0631 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u0627<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u0634\u0627\u0631\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u0646\u06d2 \u06a9\u0627 \u0637\u0631\u06cc\u0642\u06c1<\/strong><\/p>\n<\/td>\n<td>\n<p>\u06a9\u0645 \u0633\u06d2 \u06a9\u0645 \u0627\u06c1\u0645\u06cc\u062a<\/p>\n<\/td>\n<td>\n<p>\u0627\u0634\u0627\u0631\u06d2 \u0645\u0641\u06cc\u062f \u06c1\u0648 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0627\u0634\u0627\u0631\u06d2 \u0633\u0633\u0679\u0645 \u06a9\u06d2 \u0622\u067e\u0631\u06cc\u0634\u0646 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0645\u0631\u06a9\u0632\u06cc \u0628\u0646 \u062c\u0627\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u0646\u062f\u0627\u0632\u06c1 \u0631\u0648\u06cc\u06c1<\/strong><\/p>\n<\/td>\n<td>\n<p>\u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u0639\u062f \u0632\u06cc\u0627\u062f\u06c1 \u062a\u0631 \u062c\u0627\u0645\u062f<\/p>\n<\/td>\n<td>\n<p>\u0642\u06cc\u0627\u0633 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0639\u0627\u0645 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06cc\u06c1 \u0642\u06cc\u0627\u0633 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0645\u062a\u062d\u0631\u06a9 \u0637\u0648\u0631 \u067e\u0631 \u0688\u06be\u0627\u0644 \u0633\u06a9\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0641\u0646 \u062a\u0639\u0645\u06cc\u0631<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 (\u0688\u06cc\u06a9\u0648\u0688\u0631 \u067e\u0631 \u0645\u0628\u0646\u06cc)<\/p>\n<\/td>\n<td>\n<p>\u0688\u06cc\u06a9\u0648\u0688\u0631 \u0648\u0642\u0641 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631<\/p>\n<\/td>\n<td>\n<p>\u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0635\u0631\u0641 \u0688\u06cc\u06a9\u0648\u0688\u0631 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0645\u0627\u0688\u0644 \u0633\u0627\u0626\u0632<\/strong><\/p>\n<\/td>\n<td>\n<p>~117M \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632<\/p>\n<\/td>\n<td>\n<p>1.5B \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u062a\u06a9<\/p>\n<\/td>\n<td>\n<p>175B \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u062a\u06a9<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u06a9\u06be\u0691\u06a9\u06cc<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0686\u06be\u0648\u0679\u06d2 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0644\u0645\u0628\u0627\u0626\u06cc<\/p>\n<\/td>\n<td>\n<p>1024 \u0679\u0648\u06a9\u0646 \u062a\u06a9<\/p>\n<\/td>\n<td>\n<p>2048 \u0679\u0648\u06a9\u0646 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0648\u0646\u0688\u0648<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0627\u0639\u062f\u0627\u062f \u0648 \u0634\u0645\u0627\u0631<\/strong><\/p>\n<\/td>\n<td>\n<p>\u06a9\u0627\u0631\u067e\u0648\u0631\u0627 \u0627\u0648\u0631 \u06a9\u06cc\u0648\u0631\u06cc\u0679\u0688 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679 \u0628\u06a9 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<td>\n<p>\u0648\u06cc\u0628 \u0679\u06cc\u06a9\u0633\u0679 \u0627\u0646\u0679\u0631\u0646\u06cc\u0679 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679<\/p>\n<\/td>\n<td>\n<p>\u06a9\u0627\u0645\u0646 \u06a9\u0631\u0627\u0644\u060c \u0648\u06cc\u0628 \u0679\u06cc\u06a9\u0633\u0679\u060c \u06a9\u062a\u0627\u0628\u06cc\u06ba\u060c \u0627\u0648\u0631 \u0648\u06cc\u06a9\u06cc\u067e\u06cc\u0688\u06cc\u0627 \u0633\u0645\u06cc\u062a \u0628\u0691\u06d2 \u0645\u0644\u0679\u06cc \u0633\u0648\u0631\u0633 \u0688\u06cc\u0679\u0627 \u0633\u06cc\u0679\u0633<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u06c1\u0645 \u062e\u0635\u0648\u0635\u06cc\u0627\u062a<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0645\u0646\u062a\u0642\u0644\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2<\/p>\n<\/td>\n<td>\n<p>\u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0644\u0631\u0646\u0646\u06af<\/p>\n<\/td>\n<td>\n<p>\u06a9\u0686\u06be \u0634\u0627\u0679 \u0627\u0648\u0631 \u0627\u0646 \u0633\u06cc\u0679\u0648 \u0633\u06cc\u06a9\u06be\u0646\u0627<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u06a9\u0627\u0631\u06a9\u0631\u062f\u06af\u06cc \u06a9\u0627 \u0627\u0646\u062f\u0627\u0632<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0646\u06af \u06a9\u06d2 \u0628\u0639\u062f \u0645\u0636\u0628\u0648\u0637<\/p>\n<\/td>\n<td>\n<p>\u0645\u0644\u0627\u0632\u0645\u062a \u06a9\u06cc \u0645\u062e\u0635\u0648\u0635 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06d2 \u0628\u063a\u06cc\u0631 \u0628\u06be\u06cc \u0645\u0636\u0628\u0648\u0637<\/p>\n<\/td>\n<td>\n<p>\u06cc\u06c1 \u0627\u06a9\u062b\u0631 \u0679\u06be\u06cc\u06a9 \u0679\u06cc\u0648\u0646\u0688 \u0633\u0633\u0679\u0645\u0632 \u0633\u06d2 \u0645\u0642\u0627\u0628\u0644\u06c1 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u062c\u0648 \u0635\u0631\u0641 \u0627\u0634\u0627\u0631\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u0633\u06a9\u06cc\u0644\u0646\u06af \u06a9\u06cc \u0627\u06c1\u0645\u06cc\u062a<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0639\u0627\u0645<\/p>\n<\/td>\n<td>\n<p>\u0627\u06c1\u0645<\/p>\n<\/td>\n<td>\n<p>\u0645\u0642\u0627\u0644\u06d2 \u06a9\u06cc \u0645\u0631\u06a9\u0632\u06cc \u062a\u062d\u0642\u06cc\u0642\u06cc \u062d\u06a9\u0645\u062a \u0639\u0645\u0644\u06cc<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u06c1\u0645 \u062d\u062f\u0648\u062f<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0644\u06cc\u0628\u0644 \u0634\u062f\u06c1 \u0688\u06cc\u0679\u0627\u0633\u06cc\u0679 \u0627\u0648\u0631 \u062f\u0648\u0628\u0627\u0631\u06c1 \u062a\u0631\u0628\u06cc\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u06a9\u0645\u0632\u0648\u0631 \u062a\u062e\u0645\u06cc\u0646\u06c1 \u0627\u0648\u0631 \u0645\u062a\u0636\u0627\u062f \u0635\u0641\u0631 \u0634\u0627\u0679 \u0633\u0644\u0648\u06a9<\/p>\n<\/td>\n<td>\n<p>\u0628\u06c1\u062a \u0645\u06c1\u0646\u06af\u06cc \u062d\u0633\u0627\u0628 \u06a9\u06cc \u0636\u0631\u0648\u0631\u06cc\u0627\u062a \u0627\u0648\u0631 \u0645\u062d\u062f\u0648\u062f \u0645\u0633\u0644\u0633\u0644 \u062a\u062e\u0645\u06cc\u0646\u06c1<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0627\u06c1\u0645 \u0634\u0631\u0627\u06a9\u062a<\/strong><\/p>\n<\/td>\n<td>\n<p>\u062c\u062f\u06cc\u062f \u062a\u0631\u06cc\u0646 NLP \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af \u067e\u06cc\u0631\u0627\u0688\u0627\u0626\u0645 \u06a9\u0627 \u062a\u0639\u0627\u0631\u0641<\/p>\n<\/td>\n<td>\n<p>\u0645\u0644\u0679\u06cc \u0679\u0627\u0633\u06a9\u0646\u06af \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0622\u067e\u0631\u06cc\u0634\u0646 \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1<\/p>\n<\/td>\n<td>\n<p>\u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u06c1\u0646\u06af\u0627\u0645\u06cc \u062d\u0627\u0644\u0627\u062a \u0645\u06cc\u06ba \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u0645\u0638\u0627\u06c1\u0631\u06c1 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u062a\u0627\u0631\u06cc\u062e\u06cc \u0627\u062b\u0631<\/strong><\/p>\n<\/td>\n<td>\n<p>\u062c\u062f\u06cc\u062f \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 NLP \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f\u06cc \u0628\u0627\u062a\u06cc\u06ba<\/p>\n<\/td>\n<td>\n<p>\u0639\u0627\u0645 \u0645\u0642\u0635\u062f \u06a9\u06d2 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644 \u0645\u06cc\u06ba \u0645\u0646\u062a\u0642\u0644\u06cc\u06d4<\/p>\n<\/td>\n<td>\n<p>\u067e\u0631\u0627\u0645\u067e\u0679 \u067e\u0631 \u0645\u0628\u0646\u06cc AI \u0633\u0633\u0679\u0645\u0632 \u0627\u0648\u0631 \u062c\u062f\u06cc\u062f LLM \u0627\u06cc\u067e\u0644\u06cc \u06a9\u06cc\u0634\u0646\u0632 \u06a9\u06cc \u0628\u0646\u06cc\u0627\u062f<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0645\u06cc\u062f\u0627\u0646 \u0645\u06cc\u06ba \u06a9\u06cc\u0627 \u062a\u0628\u062f\u06cc\u0644\u06cc \u0622\u0626\u06cc \u06c1\u06d2\u06d4<\/strong><\/p>\n<\/td>\n<td>\n<p>\u067e\u06cc\u0634\u06af\u06cc \u062a\u0631\u0628\u06cc\u062a \u0645\u0639\u0645\u0648\u0644 \u0628\u0646 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u067e\u0631\u0627\u0645\u067e\u0679 \u0642\u0627\u0628\u0644 \u0639\u0645\u0644 \u06c1\u0648 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4<\/p>\n<\/td>\n<td>\n<p>\u067e\u0631\u0627\u0645\u067e\u0679\u0633 AI \u0633\u0633\u0679\u0645\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0688\u06cc\u0641\u0627\u0644\u0679 \u0627\u0646\u0679\u0631\u0641\u06cc\u0633 \u0628\u0646 \u06af\u0626\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p><strong>\u0645\u06cc\u0631\u0627\u062b<\/strong><\/p>\n<\/td>\n<td>\n<p>\u0627\u06cc\u06a9 \u062c\u062f\u06cc\u062f\u060c \u0627\u0644\u06c1\u0627\u0645\u06cc \u0679\u0631\u0627\u0646\u0633\u0641\u0631 \u0644\u0631\u0646\u0646\u06af \u067e\u0627\u0626\u067e \u0644\u0627\u0626\u0646<\/p>\n<\/td>\n<td>\n<p>\u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u067e\u06cc\u062f\u0627 \u06a9\u0631\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0633\u06d2 \u0645\u062a\u0627\u062b\u0631<\/p>\n<\/td>\n<td>\n<p>ChatGPT \u06a9\u0627 \u06af\u0627\u0626\u06cc\u0688\u0646\u0633 \u06a9\u0648\u0622\u0631\u0688\u06cc\u0646\u06cc\u0634\u0646 \u0627\u0648\u0631 \u0628\u0646\u06cc\u0627\u062f\u06cc \u0645\u0627\u0688\u0644\u0632 \u067e\u0631 \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u0627\u062b\u0631 \u067e\u0691\u0627\u06d4<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<h2 id=\"heading-pytorch-implementations-of-the-gpt-architecture-evolution\">\u062c\u06cc \u067e\u06cc \u0679\u06cc \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631 \u06a9\u06d2 \u0627\u0631\u062a\u0642\u0627\u0621 \u06a9\u0627 \u067e\u0627\u0626 \u0679\u0627\u0631\u0686 \u0646\u0641\u0627\u0630<\/h2>\n<p><strong>GPT-1: \u067e\u0631\u06cc \u0679\u0631\u06cc\u0646\u0646\u06af + \u0641\u0627\u0626\u0646 \u0679\u06cc\u0648\u0646\u0646\u06af \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631<\/strong><\/p>\n<pre><code class=\"language-python\">class GPT1(nn.Module):\n    def __init__(self, vocab_size, d_model, n_layers):\n        super().__init__()\n\n        self.token_embedding = nn.Embedding(vocab_size, d_model)\n        self.position_embedding = nn.Embedding(512, d_model)\n\n        self.transformer_blocks = nn.ModuleList([\n            TransformerBlock(d_model)\n            for _ in range(n_layers)\n        ])\n\n        self.ln_f = nn.LayerNorm(d_model)\n\n        # Language modeling head\n        self.lm_head = nn.Linear(d_model, vocab_size)\n\n    def forward(self, input_ids):\n        positions = torch.arange(input_ids.size(1))\n\n        x = (\n            self.token_embedding(input_ids)\n            + self.position_embedding(positions)\n        )\n\n        for block in self.transformer_blocks:\n            x = block(x)\n\n        x = self.ln_f(x)\n\n        logits = self.lm_head(x)\n\n        return logits\n<\/code><\/pre>\n<p><code>GPT1<\/code>    \u0633\u06d2 \u0648\u0631\u0627\u062b\u062a <code>nn.Module<\/code>PyTorch \u0645\u06cc\u06ba \u0646\u06cc\u0648\u0631\u0644 \u0646\u06cc\u0679 \u0648\u0631\u06a9 \u0628\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06cc \u0628\u06cc\u0633 \u06a9\u0644\u0627\u0633 \u06c1\u06d2\u06d4 \u06a9\u0646\u0633\u0679\u0631\u06a9\u0679\u0631 <code>(init)<\/code> \u0645\u0627\u0688\u0644 \u0645\u06cc\u06ba \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u0646\u06d2 \u0648\u0627\u0644\u06cc \u062a\u0645\u0627\u0645 \u0642\u0627\u0628\u0644 \u062a\u0631\u0628\u06cc\u062a \u067e\u0631\u062a\u0648\u06ba \u06a9\u06cc \u0648\u0636\u0627\u062d\u062a \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p><code>nn.Embedding(vocab_size, d_model)<\/code>    \u0627\u06cc\u06a9 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06d2 \u0642\u0627\u0628\u0644 \u062a\u0644\u0627\u0634 \u0679\u06cc\u0628\u0644 \u0628\u0646\u0627\u0626\u06cc\u06ba \u062c\u0648 \u0679\u0648\u06a9\u0646 \u0622\u0626\u06cc \u0688\u06cc\u0632 \u06a9\u0648 \u06af\u06be\u0646\u06d2 \u0648\u06cc\u06a9\u0679\u0631\u0632 \u0645\u06cc\u06ba \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0631\u06d2\u06d4 \u0627\u0644\u0641\u0627\u0638 \u0645\u06cc\u06ba \u06c1\u0631 \u0679\u0648\u06a9\u0646 \u06a9\u0648 \u0633\u0627\u0626\u0632 \u06a9\u06d2 \u0648\u06cc\u06a9\u0679\u0631 \u067e\u0631 \u0646\u0642\u0634 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 <code>d_model<\/code>.<\/p>\n<p>\u067e\u0648\u0632\u06cc\u0634\u0646\u06cc \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af \u067e\u0631\u062a \u0679\u0648\u06a9\u0646 \u0622\u0631\u0688\u0631 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u06a9\u0627 \u0627\u0636\u0627\u0641\u06c1 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4 \u0686\u0648\u0646\u06a9\u06c1 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0645\u062a\u0648\u0627\u0632\u06cc \u0637\u0648\u0631 \u067e\u0631 \u0679\u0648\u06a9\u0646 \u067e\u0631 \u06a9\u0627\u0631\u0631\u0648\u0627\u0626\u06cc \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u0627\u0633 \u0644\u06cc\u06d2 \u062a\u0631\u062a\u06cc\u0628 \u06a9\u06d2 \u0688\u06be\u0627\u0646\u0686\u06d2 \u06a9\u0648 \u0633\u0645\u062c\u06be\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u06d2 \u0648\u0627\u0636\u062d \u067e\u0648\u0632\u06cc\u0634\u0646\u06cc \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u06a9\u06cc \u0636\u0631\u0648\u0631\u062a \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p><code>nn.ModuleList([...])<\/code>    \u0627\u06cc\u06a9 \u0633\u06d2 \u0632\u06cc\u0627\u062f\u06c1 \u0627\u0633\u0679\u0648\u0631\u0632 <code>Transformer blocks<\/code> \u062c\u0628\u06a9\u06c1 \u06cc\u06c1 \u0628\u06be\u06cc \u06cc\u0642\u06cc\u0646\u06cc \u0628\u0646\u0627\u062a\u0627 \u06c1\u06d2 \u06a9\u06c1 \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 PyTorch \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u06a9\u0648 \u062f\u0631\u0633\u062a \u0637\u0631\u06cc\u0642\u06d2 \u0633\u06d2 \u0679\u0631\u06cc\u06a9 \u06a9\u0631 \u0631\u06c1\u0627 \u06c1\u06d2\u06d4 \u06c1\u0631 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0628\u0644\u0627\u06a9 \u0645\u06cc\u06ba \u0639\u0627\u0645 \u0637\u0648\u0631 \u067e\u0631 \u0646\u0642\u0627\u0628 \u067e\u0648\u0634 \u062e\u0648\u062f \u062a\u0648\u062c\u06c1 \u0627\u0648\u0631 \u0641\u06cc\u0688 \u0641\u0627\u0631\u0648\u0631\u0688 \u0646\u06cc\u0679 \u0648\u0631\u06a9 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p><code>nn.LayerNorm(d_model)<\/code>    \u0622\u0624\u0679 \u067e\u0679 \u067e\u0631\u0648\u062c\u06cc\u06a9\u0634\u0646 \u0633\u06d2 \u067e\u06c1\u0644\u06d2 \u067e\u0631\u062a \u0646\u0627\u0631\u0645\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u06a9\u0627 \u0627\u0637\u0644\u0627\u0642 \u06a9\u0631\u06cc\u06ba\u06d4 \u0627\u0633 \u0633\u06d2 \u0679\u0631\u06cc\u0646\u0646\u06af \u06a9\u0648 \u0645\u0633\u062a\u062d\u06a9\u0645 \u06a9\u0631\u0646\u06d2 \u0627\u0648\u0631 \u06af\u06c1\u0631\u06d2 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0622\u0631\u06a9\u06cc\u0679\u06cc\u06a9\u0686\u0631\u0632 \u0645\u06cc\u06ba \u062a\u062f\u0631\u06cc\u062c\u06cc \u0628\u06c1\u0627\u0624 \u06a9\u0648 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u0646\u06d2 \u0645\u06cc\u06ba \u0645\u062f\u062f \u0645\u0644\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0646\u06af \u0688\u0627\u0626\u0631\u06cc\u06a9\u0679\u0631 <code>(nn.Linear)<\/code> \u067e\u0648\u0634\u06cc\u062f\u06c1 \u062a\u0627\u062b\u0631\u0627\u062a \u06a9\u0648 \u0644\u063a\u0648\u06cc \u062c\u06af\u06c1 \u0645\u06cc\u06ba \u067e\u06cc\u0634 \u06a9\u0631\u0646\u0627\u06d4 \u0622\u0624\u0679 \u067e\u0679 \u0633\u0627\u0626\u0632 \u06c1\u06d2: <code>vocab_size<\/code>\u0627\u06af\u0644\u06d2 \u062a\u0645\u0627\u0645 \u0645\u0645\u06a9\u0646\u06c1 \u0679\u0648\u06a9\u0646\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u06d2 \u0627\u0633\u06a9\u0648\u0631 \u062a\u06cc\u0627\u0631 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0627\u0646\u062f\u0631\u0648\u0646\u06cc <code>forward()<\/code> \u0637\u0631\u06cc\u0642\u06c1\u060c <code>input_ids.size(1)<\/code> \u062a\u0631\u062a\u06cc\u0628 \u06a9\u06cc \u0644\u0645\u0628\u0627\u0626\u06cc \u0628\u0627\u0632\u06cc\u0627\u0641\u062a \u06a9\u0631\u06cc\u06ba \u0627\u0648\u0631 <code>torch.arange(...)<\/code> \u06c1\u0631 \u0679\u0648\u06a9\u0646 \u0644\u0648\u06a9\u06cc\u0634\u0646 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0644\u0648\u06a9\u06cc\u0634\u0646 \u0627\u0646\u0688\u06cc\u06a9\u0633 \u0628\u0646\u0627\u0626\u06cc\u06ba\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u0627\u0628\u062a\u062f\u0627\u0626\u06cc \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0627\u0646 \u067e\u0679 \u0646\u0645\u0627\u0626\u0646\u062f\u06af\u06cc \u0628\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0679\u0648\u06a9\u0646 \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af\u0632 \u0627\u0648\u0631 \u067e\u0648\u0632\u06cc\u0634\u0646 \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af\u0632 \u06a9\u0648 \u0627\u06cc\u06a9 \u0633\u0627\u062a\u06be \u062c\u0648\u0691\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u067e\u06be\u0631 \u062a\u0631\u062a\u06cc\u0628 \u0648\u0627\u0631 \u06c1\u0631 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0628\u0644\u0627\u06a9 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u0627\u067e\u0646\u06cc \u0646\u0645\u0627\u0626\u0646\u062f\u06af\u06cc \u06a9\u0648 \u0645\u0646\u062a\u0642\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<pre><code class=\"language-python\">for block in self.transformer_blocks:\n    x = block(x)\n<\/code><\/pre>\n<p>\u06cc\u06c1 \u062a\u06a9\u0631\u0627\u0631\u06cc \u0627\u0633\u0679\u06cc\u06a9\u0646\u06af GPT \u0645\u0627\u0688\u0644 \u06a9\u0648 \u062a\u06cc\u0632\u06cc \u0633\u06d2 \u062a\u062c\u0631\u06cc\u062f\u06cc \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0646\u0645\u0627\u0626\u0646\u062f\u06af\u06cc \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0646\u0627\u0631\u0645\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u06a9\u06d2 \u0628\u0639\u062f\u060c \u0622\u062e\u0631\u06cc \u067e\u0648\u0634\u06cc\u062f\u06c1 \u062d\u0627\u0644\u062a \u0641\u0631\u0627\u06c1\u0645 \u06a9\u06cc \u062c\u0627\u062a\u06cc \u06c1\u06d2\u06d4 <code>lm_head<\/code>\u067e\u06cc\u062f\u0627\u0648\u0627\u0631 <code>logits<\/code>. \u06cc\u06c1 \u0644\u0627\u06af\u0679\u0633 \u063a\u06cc\u0631 \u0645\u0639\u0645\u0648\u0644\u06cc \u067e\u06cc\u0634 \u06af\u0648\u0626\u06cc \u0634\u062f\u06c1 \u0627\u0633\u06a9\u0648\u0631 \u06c1\u06cc\u06ba \u062c\u0648 \u0627\u06af\u0644\u0627 \u0679\u0648\u06a9\u0646 \u0628\u0646\u0627\u0646\u06d2 \u06a9\u06d2 \u0627\u0645\u06a9\u0627\u0646 \u06a9\u0627 \u062d\u0633\u0627\u0628 \u0644\u06af\u0627\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06c1\u0648\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u0622\u062e\u0631 \u06a9\u0627\u0631 \u0627\u06cc\u06a9 \u0644\u0627\u06af\u0679 \u0679\u06cc\u0646\u0633\u0631 \u0644\u0648\u0679\u0627\u062a\u0627 \u06c1\u06d2\u060c \u062c\u0648 \u062d\u0633\u0628 \u0645\u0639\u0645\u0648\u0644 \u067e\u0627\u0633 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 <code>softmax<\/code> \u0628\u0631\u0627\u06c1 \u0631\u0627\u0633\u062a \u06cc\u0627 \u0627\u0633\u062a\u062f\u0644\u0627\u0644 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 <code>CrossEntropyLoss<\/code> \u062a\u0631\u0628\u06cc\u062a \u0645\u06cc\u06ba\u06d4<\/p>\n<p><strong>GPT-2: \u0632\u06cc\u0631\u0648 \u0634\u0627\u0679 \u0645\u0644\u0679\u06cc \u0679\u0627\u0633\u06a9\u0646\u06af \u0622\u0631\u06a9\u06cc\u0679\u06cc\u06a9\u0686\u0631<\/strong><\/p>\n<pre><code class=\"language-python\">class GPT2(nn.Module):\n    def __init__(self, vocab_size, d_model, n_layers):\n        super().__init__()\n\n        self.token_embedding = nn.Embedding(vocab_size, d_model)\n        self.position_embedding = nn.Embedding(1024, d_model)\n\n        self.transformer_blocks = nn.ModuleList([\n            TransformerBlock(\n                d_model=d_model,\n                pre_layer_norm=True\n            )\n            for _ in range(n_layers)\n        ])\n\n        self.final_layer_norm = nn.LayerNorm(d_model)\n\n        self.lm_head = nn.Linear(d_model, vocab_size, bias=False)\n\n    def forward(self, input_ids):\n        positions = torch.arange(input_ids.size(1))\n\n        x = (\n            self.token_embedding(input_ids)\n            + self.position_embedding(positions)\n        )\n\n        for block in self.transformer_blocks:\n            x = block(x)\n\n        x = self.final_layer_norm(x)\n\n        logits = self.lm_head(x)\n\n        return logits\n<\/code><\/pre>\n<p>GPT-1 \u06a9\u06cc \u0637\u0631\u062d\u060c \u0645\u0627\u0688\u0644 \u0679\u0648\u06a9\u0646 \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af\u0632 \u0627\u0648\u0631 \u0644\u0648\u06a9\u06cc\u0634\u0646 \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af \u06a9\u06d2 \u0633\u0627\u062a\u06be \u0634\u0631\u0648\u0639 \u06c1\u0648\u062a\u0627 \u06c1\u06d2\u06d4 <code>nn.Embedding<\/code> \u06cc\u06c1 \u0679\u0648\u06a9\u0646 IDs \u06a9\u0648 \u06af\u06be\u0646\u06d2 \u0648\u06cc\u06a9\u0679\u0631\u0632 \u0645\u06cc\u06ba \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u060c \u062c\u0628\u06a9\u06c1 \u067e\u0648\u0632\u06cc\u0634\u0646\u06cc \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af\u0632 \u062a\u0631\u062a\u06cc\u0628 \u0645\u06cc\u06ba \u0679\u0648\u06a9\u0646 \u06a9\u06cc \u062a\u0631\u062a\u06cc\u0628 \u06a9\u06d2 \u0628\u0627\u0631\u06d2 \u0645\u06cc\u06ba \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u0641\u0631\u0627\u06c1\u0645 \u06a9\u0631\u062a\u06cc \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0627\u06cc\u06a9 \u0642\u0627\u0628\u0644 \u0630\u06a9\u0631 \u0641\u0631\u0642 \u067e\u0648\u0632\u06cc\u0634\u0646\u06cc \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af \u0633\u0627\u0626\u0632 \u06c1\u06d2 (<code>1024<\/code> \u0627\u0633 \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 <code>512<\/code>)\u060c GPT-2 \u06a9\u0648 \u0637\u0648\u06cc\u0644 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u0648 \u0633\u0646\u0628\u06be\u0627\u0644\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u06a9\u06cc \u062a\u06c1\u0648\u06ba \u06a9\u0648 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u06a9\u06d2 \u0645\u062d\u0641\u0648\u0638 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2: <code>nn.ModuleList<\/code>\u0644\u06cc\u06a9\u0646 \u06c1\u0631 \u0627\u06cc\u06a9 <code>TransformerBlock<\/code> \u0627\u0628 \u06c1\u0645 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u06cc\u06ba:<\/p>\n<pre><code class=\"language-python\">pre_layer_norm=True\n<\/code><\/pre>\n<p>\u0627\u0633 \u06a9\u0627 \u0645\u0637\u0644\u0628 \u06cc\u06c1 \u06c1\u06d2 \u06a9\u06c1 \u067e\u0631\u062a \u0646\u0627\u0631\u0645\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u06a9\u0648 \u062a\u0648\u062c\u06c1 \u0627\u0648\u0631 \u0641\u06cc\u0688 \u0641\u0627\u0631\u0648\u0631\u0688 \u0622\u067e\u0631\u06cc\u0634\u0646\u0632 \u06a9\u06d2 \u0628\u0639\u062f \u06a9\u06d2 \u0628\u062c\u0627\u0626\u06d2 \u067e\u06c1\u0644\u06d2 \u0644\u0627\u06af\u0648 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4 \u06cc\u06c1 &quot;\u067e\u0631\u06cc-LN&#8221; \u0688\u06cc\u0632\u0627\u0626\u0646 \u06af\u06c1\u0631\u06d2 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0645\u0627\u0688\u0644\u0632 \u0645\u06cc\u06ba \u06af\u0631\u06cc\u0688\u06cc\u0646\u0679 \u0628\u06c1\u0627\u0624 \u0627\u0648\u0631 \u062a\u0631\u0628\u06cc\u062a\u06cc \u0627\u0633\u062a\u062d\u06a9\u0627\u0645 \u06a9\u0648 \u0646\u0645\u0627\u06cc\u0627\u06ba \u0637\u0648\u0631 \u067e\u0631 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0641\u0627\u0631\u0648\u0631\u0688 \u067e\u0627\u0633 \u0627\u0633\u06cc \u0645\u062c\u0645\u0648\u0639\u06cc \u067e\u0627\u0626\u067e \u0644\u0627\u0626\u0646 \u06a9\u06cc \u067e\u06cc\u0631\u0648\u06cc \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<ol>\n<li>\n<p>\u0627\u0633 \u06a9\u0627 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u062a\u06d2 \u06c1\u0648\u0626\u06d2 \u0645\u0642\u0627\u0645 \u06a9\u0627 \u0627\u0646\u0688\u06cc\u06a9\u0633 \u0628\u0646\u0627\u0626\u06cc\u06ba: <code>torch.arange()<\/code><\/p>\n<\/li>\n<li>\n<p>\u0679\u0648\u06a9\u0646 \u0627\u0648\u0631 \u0645\u0642\u0627\u0645 \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af\u0632 \u0634\u0627\u0645\u0644 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u062c\u0645\u0639 \u0634\u062f\u06c1 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0628\u0644\u0627\u06a9\u0633 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u062a\u0627\u062b\u0631\u0627\u062a \u06a9\u0648 \u0645\u0646\u062a\u0642\u0644 \u06a9\u0631\u0646\u0627<\/p>\n<\/li>\n<li>\n<p>\u062d\u062a\u0645\u06cc \u0646\u0627\u0631\u0645\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u06a9\u0627 \u0627\u0637\u0644\u0627\u0642 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0644\u063a\u0648\u06cc \u062c\u06af\u06c1 \u0645\u06cc\u06ba \u067e\u0631\u0648\u062c\u06cc\u06a9\u0679 \u0622\u0624\u0679 \u067e\u0679<\/p>\n<\/li>\n<\/ol>\n<p>\u062a\u0631\u062a\u06cc\u0628 \u0648\u0627\u0631 \u0628\u0644\u0627\u06a9 \u067e\u0631\u0648\u0633\u06cc\u0633\u0646\u06af \u06cc\u06c1\u0627\u06ba \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<pre><code class=\"language-python\">for block in self.transformer_blocks:\n    x = block(x)\n<\/code><\/pre>\n<p>GPT-2 \u0622\u0624\u0679 \u067e\u0679 \u067e\u0631\u062a \u0645\u06cc\u06ba \u0686\u06be\u0648\u0679\u06cc \u0627\u0635\u0644\u0627\u062d\u06cc\u06ba \u0628\u06be\u06cc \u0645\u062a\u0639\u0627\u0631\u0641 \u06a9\u0631\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<pre><code class=\"language-python\">self.lm_head = nn.Linear(d_model, vocab_size, bias=False)\n<\/code><\/pre>\n<pre><code class=\"language-python\">self.lm_head = nn.Linear(d_model, vocab_size, bias=False)\n<\/code><\/pre>\n<p>\u062a\u0639\u0635\u0628 \u06a9\u06cc \u0627\u0635\u0637\u0644\u0627\u062d \u06a9\u0648 \u06c1\u0679\u0627 \u062f\u06cc\u0627 \u06af\u06cc\u0627 \u062a\u06be\u0627 \u06a9\u06cc\u0648\u0646\u06a9\u06c1 \u06cc\u06c1 \u0628\u0691\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0644\u06cc\u0646\u06af\u0648\u06cc\u062c \u0645\u0627\u0688\u0644\u0646\u06af \u0633\u06cc\u0679\u0646\u06af\u0632 \u0645\u06cc\u06ba \u0628\u06c1\u062a \u06a9\u0645 \u0641\u0627\u0626\u062f\u06c1 \u067e\u06cc\u0634 \u06a9\u0631\u062a\u0627 \u06c1\u06d2 \u0627\u0648\u0631 \u0635\u0631\u0641 \u067e\u06cc\u0631\u0627\u0645\u06cc\u0679\u0631\u0632 \u06a9\u06cc \u062a\u0639\u062f\u0627\u062f \u06a9\u0648 \u062a\u06be\u0648\u0691\u0627 \u06a9\u0645 \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u0622\u062e\u0631 \u06a9\u0627\u0631 \u0648\u0627\u067e\u0633 \u0622 \u06af\u06cc\u0627 \u06c1\u06d2\u06d4 <code>logits<\/code>\u0627\u0633 \u0645\u06cc\u06ba \u06c1\u0631 \u062a\u0631\u062a\u06cc\u0628 \u06a9\u06cc \u067e\u0648\u0632\u06cc\u0634\u0646 \u067e\u0631 \u0627\u0644\u0641\u0627\u0638 \u06a9\u06d2 \u062a\u0645\u0627\u0645 \u0679\u0648\u06a9\u0646\u0632 \u06a9\u06d2 \u0644\u06cc\u06d2 \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u06d2 \u0627\u0633\u06a9\u0648\u0631 \u0634\u0627\u0645\u0644 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p><strong>GPT-3: \u0686\u0646\u062f \u0634\u0627\u0679\/\u0627\u0646-\u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u0633\u06cc\u06a9\u06be\u0646\u06d2 \u06a9\u0627 \u0641\u0646 \u062a\u0639\u0645\u06cc\u0631<\/strong><\/p>\n<pre><code class=\"language-python\">class GPT3(nn.Module):\n    def __init__(\n        self,\n        vocab_size=50257,\n        d_model=12288,\n        n_layers=96,\n        n_heads=96,\n        context_length=2048\n    ):\n        super().__init__()\n\n        self.token_embedding = nn.Embedding(vocab_size, d_model)\n        self.position_embedding = nn.Embedding(context_length, d_model)\n\n        self.transformer_blocks = nn.ModuleList([\n            TransformerBlock(\n                d_model=d_model,\n                n_heads=n_heads,\n                pre_layer_norm=True,\n                sparse_attention=True\n            )\n            for _ in range(n_layers)\n        ])\n\n        self.final_layer_norm = nn.LayerNorm(d_model)\n\n        self.lm_head = nn.Linear(\n            d_model,\n            vocab_size,\n            bias=False\n        )\n\n    def forward(self, input_ids):\n        positions = torch.arange(input_ids.size(1))\n\n        x = (\n            self.token_embedding(input_ids)\n            + self.position_embedding(positions)\n        )\n\n        for block in self.transformer_blocks:\n            x = block(x)\n\n        x = self.final_layer_norm(x)\n\n        logits = self.lm_head(x)\n\n        return logits\n<\/code><\/pre>\n<p>\u067e\u0686\u06be\u0644\u06d2 \u062c\u06cc \u067e\u06cc \u0679\u06cc \u0648\u0631\u0698\u0646 \u06a9\u06d2 \u0645\u0642\u0627\u0628\u0644\u06d2\u060c \u06cc\u06c1 \u0645\u0627\u0688\u0644 \u0688\u0631\u0627\u0645\u0627\u0626\u06cc \u0637\u0648\u0631 \u067e\u0631 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u06a9\u0648 \u0628\u0691\u06be\u0627\u062a\u0627 \u06c1\u06d2\u06d4 \u0633\u0631\u0627\u06cc\u062a \u06a9\u0627 \u0633\u0627\u0626\u0632 (<code>d_model=12288<\/code>) \u0627\u0648\u0631 \u06a9\u0646\u0648\u0631\u0679\u0631 \u067e\u0631\u062a\u0648\u06ba \u06a9\u06cc \u062a\u0639\u062f\u0627\u062f (<code>96<\/code>) \u0646\u06cc\u0679 \u0648\u0631\u06a9 \u0628\u06c1\u062a \u067e\u06cc\u0686\u06cc\u062f\u06c1 \u0644\u0633\u0627\u0646\u06cc \u0646\u0645\u0648\u0646\u0648\u06ba \u0627\u0648\u0631 \u0644\u0645\u0628\u06cc \u062f\u0648\u0631\u06cc \u067e\u0631 \u0627\u0646\u062d\u0635\u0627\u0631 \u0633\u06cc\u06a9\u06be \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4<\/p>\n<p>\u0645\u0627\u0688\u0644 \u0628\u06be\u06cc \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u0631\u06cc\u06ba\u06d4 <code>96<\/code> \u0633\u0631 \u062a\u0648\u062c\u06c1:<\/p>\n<pre><code class=\"language-python\">n_heads=96\n<\/code><\/pre>\n<p>\u0645\u0644\u0679\u06cc \u06c1\u06cc\u0688 \u062a\u0648\u062c\u06c1 \u0645\u0627\u0688\u0644 \u06a9\u0648 \u0679\u0648\u06a9\u0646 \u06a9\u06d2 \u062f\u0631\u0645\u06cc\u0627\u0646 \u0628\u06cc\u06a9 \u0648\u0642\u062a \u0645\u062a\u0639\u062f\u062f \u0631\u0634\u062a\u0648\u06ba \u067e\u0631 \u062a\u0648\u062c\u06c1 \u0645\u0631\u06a9\u0648\u0632 \u06a9\u0631\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u06cc \u06c1\u06d2\u060c \u062c\u0633 \u0633\u06d2 \u0633\u06cc\u0627\u0642 \u0648 \u0633\u0628\u0627\u0642 \u06a9\u06cc \u0633\u0645\u062c\u06be \u0645\u06cc\u06ba \u0628\u06c1\u062a\u0631\u06cc \u0622\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<p>\u067e\u0648\u0632\u06cc\u0634\u0646\u06cc \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af \u06a9\u06cc \u0644\u0645\u0628\u0627\u0626\u06cc \u06a9\u06d2 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u0645\u0646\u062f\u0631\u062c\u06c1 \u0630\u06cc\u0644 \u06c1\u06cc\u06ba: <code>2048<\/code>\u0645\u0627\u0688\u0644 \u06a9\u0648 GPT-2 \u06a9\u06d2 \u0645\u0642\u0627\u0628\u0644\u06d2 \u0645\u06cc\u06ba \u0632\u06cc\u0627\u062f\u06c1 \u0637\u0648\u06cc\u0644 \u062a\u0631\u062a\u06cc\u0628 \u06a9\u0648 \u06c1\u06cc\u0646\u0688\u0644 \u06a9\u0631\u0646\u06d2 \u06a9\u06cc \u0627\u062c\u0627\u0632\u062a \u062f\u06cc\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u06c1\u0631 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0628\u0644\u0627\u06a9 \u067e\u0631 \u0645\u0634\u062a\u0645\u0644 \u06c1\u06d2:<\/p>\n<pre><code class=\"language-python\">pre_layer_norm=True,\nsparse_attention=True\n<\/code><\/pre>\n<p>\u067e\u0631\u06cc \u0644\u06cc\u0626\u0631 \u0646\u0627\u0631\u0645\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u0628\u06c1\u062a \u06af\u06c1\u0631\u06d2 \u0646\u06cc\u0679 \u0648\u0631\u06a9\u0633 \u0645\u06cc\u06ba \u062a\u0631\u0628\u06cc\u062a\u06cc \u0627\u0633\u062a\u062d\u06a9\u0627\u0645 \u06a9\u0648 \u0628\u06c1\u062a\u0631 \u0628\u0646\u0627\u062a\u06cc \u06c1\u06d2\u060c \u062c\u0628\u06a9\u06c1 \u06a9\u0645 \u062a\u0648\u062c\u06c1 \u0627\u06cc\u06a9 \u062f\u0648\u0633\u0631\u06d2 \u06a9\u06d2 \u0633\u0627\u062a\u06be \u062d\u0635\u06c1 \u0644\u06cc\u0646\u06d2 \u0648\u0627\u0644\u06d2 \u0679\u0648\u06a9\u0646\u0632 \u06a9\u06cc \u062a\u0639\u062f\u0627\u062f \u06a9\u0648 \u0645\u062d\u062f\u0648\u062f \u06a9\u0631\u06a9\u06d2 \u062a\u0648\u062c\u06c1 \u06a9\u06cc \u06a9\u0645\u067e\u06cc\u0648\u0679\u06cc\u0634\u0646\u0644 \u0644\u0627\u06af\u062a \u06a9\u0648 \u06a9\u0645 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u06d4 \u06cc\u06c1 GPT-3 \u067e\u06cc\u0645\u0627\u0646\u06d2 \u067e\u0631 \u0627\u06c1\u0645 \u06c1\u0648 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u060c \u062c\u06c1\u0627\u06ba \u0637\u0648\u06cc\u0644 \u062a\u0631\u062a\u06cc\u0628 \u067e\u0631 \u067e\u0648\u0631\u06cc \u062a\u0648\u062c\u06c1 \u062f\u06cc\u0646\u0627 \u0628\u06c1\u062a \u0645\u06c1\u0646\u06af\u0627 \u06c1\u06d2\u06d4<\/p>\n<p>\u0641\u0627\u0631\u0648\u0631\u0688 \u067e\u0627\u0633 \u0645\u0639\u06cc\u0627\u0631\u06cc GPT \u067e\u0627\u0626\u067e \u0644\u0627\u0626\u0646 \u06a9\u06cc \u067e\u06cc\u0631\u0648\u06cc \u06a9\u0631\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<ol>\n<li>\n<p>\u0679\u0648\u06a9\u0646 ID \u06a9\u0648 \u0627\u06cc\u0645\u0628\u06cc\u0688\u0646\u06af \u0645\u06cc\u06ba \u062a\u0628\u062f\u06cc\u0644 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0645\u0642\u0627\u0645 \u06a9\u06cc \u0645\u0639\u0644\u0648\u0645\u0627\u062a \u0634\u0627\u0645\u0644 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u062c\u0645\u0639 \u0634\u062f\u06c1 \u0679\u0631\u0627\u0646\u0633\u0641\u0627\u0631\u0645\u0631 \u0628\u0644\u0627\u06a9\u0633 \u06a9\u06d2 \u0630\u0631\u06cc\u0639\u06d2 \u062a\u0627\u062b\u0631\u0627\u062a \u06a9\u0648 \u0645\u0646\u062a\u0642\u0644 \u06a9\u0631\u0646\u0627<\/p>\n<\/li>\n<li>\n<p>\u0622\u062e\u0631\u06cc \u067e\u0631\u062a \u0646\u0627\u0631\u0645\u0644\u0627\u0626\u0632\u06cc\u0634\u0646 \u06a9\u0627 \u0627\u0637\u0644\u0627\u0642 \u06a9\u0631\u06cc\u06ba\u06d4<\/p>\n<\/li>\n<li>\n<p>\u0644\u063a\u0648\u06cc \u0645\u0646\u0637\u0642\u06cc\u06ba \u0628\u0646\u0627\u0626\u06cc\u06ba<\/p>\n<\/li>\n<\/ol>\n<p>\u0628\u0646\u06cc\u0627\u062f\u06cc \u062a\u06a9\u0631\u0627\u0631\u06cc \u067e\u0631\u0648\u0633\u06cc\u0633\u0646\u06af \u06cc\u06c1\u0627\u06ba \u06c1\u0648\u062a\u06cc \u06c1\u06d2\u06d4<\/p>\n<pre><code class=\"language-plaintext\">for block in self.transformer_blocks:\n    x = block(x)\n<\/code><\/pre>\n<p>\u0622\u062e\u0631 \u0645\u06cc\u06ba\u060c \u0622\u0624\u0679 \u067e\u0679 \u067e\u0631\u062a \u067e\u0648\u0634\u06cc\u062f\u06c1 \u062d\u0627\u0644\u062a \u06a9\u0648 \u0644\u063a\u0648\u06cc \u062c\u06af\u06c1 \u0645\u06cc\u06ba \u067e\u06cc\u0634 \u06a9\u0631\u062a\u06cc \u06c1\u06d2\u060c \u067e\u06cc\u062f\u0627 \u06a9\u0631\u062a\u06cc \u06c1\u06d2: <code>logits<\/code> \u0679\u0631\u06cc\u0646\u0646\u06af \u0627\u0648\u0631 \u0679\u06cc\u06a9\u0633\u0679 \u062c\u0646\u0631\u06cc\u0634\u0646 \u06a9\u06d2 \u062f\u0648\u0631\u0627\u0646 \u0627\u06af\u0644\u06cc \u0679\u0648\u06a9\u0646 \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u06d2 \u0644\u06cc\u06d2 \u0627\u0633\u062a\u0639\u0645\u0627\u0644 \u06a9\u06cc\u0627 \u062c\u0627\u062a\u0627 \u06c1\u06d2\u06d4<\/p>\n<h2 id=\"heading-resources\"><strong>\u0648\u0633\u0627\u0626\u0644:<\/strong><\/h2>\n<p><strong>\u0645\u062c\u06be \u0633\u06d2 \u0631\u0627\u0628\u0637\u06c1 \u06a9\u0631\u06cc\u06ba<\/strong><\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"<p>GPT-2 \u06a9\u06d2 \u0628\u0639\u062f\u060c \u06cc\u06c1 \u0648\u0627\u0636\u062d \u06c1\u0648 \u06af\u06cc\u0627 \u06a9\u06c1 \u0632\u0628\u0627\u0646 \u06a9\u06d2 \u0645\u0627\u0688\u0644\u0632 \u0645\u062d\u0642\u0642\u06cc\u0646 \u06a9\u06cc \u0627\u0635\u0644 \u062a\u0648\u0642\u0639 \u0633\u06d2 \u06a9\u06c1\u06cc\u06ba \u0632\u06cc\u0627\u062f\u06c1 \u06a9\u0627\u0645 \u06a9\u0631 \u0633\u06a9\u062a\u06d2 \u06c1\u06cc\u06ba\u06d4 \u0627\u06af\u0644\u06d2 \u0644\u0641\u0638 \u06a9\u06cc \u067e\u06cc\u0634\u06cc\u0646 \u06af\u0648\u0626\u06cc \u06a9\u0631\u0646\u06d2 \u06a9\u06d2 \u0644\u06cc\u06d2 \u0635\u0631\u0641 \u0627\u06cc\u06a9 \u0645\u0627\u0688\u0644 \u06a9\u06cc \u062a\u0631\u0628\u06cc\u062a \u0646\u06d2 \u067e\u06c1\u0644\u06d2 \u06c1\u06cc \u062d\u06cc\u0631\u062a \u0627\u0646\u06af\u06cc\u0632 \u0635\u0644\u0627\u062d\u06cc\u062a\u06cc\u06ba \u067e\u06cc\u062f\u0627 \u06a9\u0631\u0646\u0627 \u0634\u0631\u0648\u0639 \u06a9\u0631 \u062f\u06cc \u06c1\u06cc\u06ba \u062c\u06cc\u0633\u06d2 \u062a\u0631\u062c\u0645\u06c1\u060c \u062e\u0644\u0627\u0635\u06c1\u060c \u0627\u0648\u0631 \u0633\u0648\u0627\u0644\u0648\u06ba \u06a9\u06d2 \u062c\u0648\u0627\u0628\u0627\u062a \u0628\u063a\u06cc\u0631 [&hellip;]<\/p>\n","protected":false},"author":7,"featured_media":24134,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[1],"tags":[],"class_list":["post-24133","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog"],"_links":{"self":[{"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/posts\/24133","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/comments?post=24133"}],"version-history":[{"count":1,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/posts\/24133\/revisions"}],"predecessor-version":[{"id":24135,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/posts\/24133\/revisions\/24135"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/media\/24134"}],"wp:attachment":[{"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/media?parent=24133"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/categories?post=24133"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/umang.pk\/ur\/wp-json\/wp\/v2\/tags?post=24133"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}