یہ حیران کن ہے: فرنٹیئر اے آئی اب بھی حالات کیوں پیدا کر رہا ہے اور ہمیں اس کے بارے میں کیا کرنا چاہیے؟

یہ 2026 کے وسط میں ہے، اور فرنٹیئر کے بہترین ماڈل ابھی تک فریب کا شکار ہیں۔ مجھے امید ہے کہ آپ کو اس مضمون کو پڑھنے سے دو چیزیں ملیں گی۔ یہ سمجھنا کہ AI فریب نظر اب بھی حقیقی اور نقصان دہ ہو سکتا ہے، اور ساتھ ہی اس بارے میں وجدان بھی کہ وہ اتنے عام کیوں ہیں۔

اس سے پہلے کہ ہم AI میں داخل ہوں، میں چاہتا ہوں کہ آپ میرے ساتھ کچھ کریں۔

ایک فٹ بال ہجوم کے نعرے لگاتے ہوئے اس ویڈیو کو سنیں۔ یہ کیا کہہ رہے ہیں؟

اگر آپ زیادہ تر لوگوں کی طرح ہیں، تو آپ کو کوئی اندازہ نہیں ہے۔ یہ آواز کا داغ ہے۔ تو مجھے آپ کی مدد کرنے دو۔ سنتے رہیں اور ساتھ پڑھیں۔

کیا بارٹ سمپسن نمایاں ہے؟

دوبارہ سنو۔

بپتسمہ غیر قانونی؟

دوبارہ

ایک چلتی ہوئی لابسٹر؟

فارمیسی سے لییکٹیٹ؟

ایک گھومتا ہوا سمندری ڈاکو جہاز؟

ہجوم ہر بار ایک ہی جملے کا نعرہ لگا رہا ہے۔ آڈیو کبھی نہیں بدلتا، لیکن جب بھی آپ کوئی مختلف کیپشن پڑھتے ہیں تو آپ کا دماغ کچھ مختلف سنتا ہے۔ اعتماد سے. آپ نے شک کا تجربہ نہیں کیا ہے۔ آپ نے تجربہ کیا ہے "اوہ، آپ واضح طور پر کہہ رہے ہیں کہ بارٹ سمپسن پاپ کر رہا ہے۔”

وہ اصل میں کیا چیخ رہے ہیں؟ وہ انگلش فٹ بال ٹیم ڈربی کاؤنٹی کے پرستار ہیں۔ میں ایک گانا گا رہا ہوں۔ [1]:

"یہ شرمناک ہے۔”

اس کو ذہن میں رکھتے ہوئے، کلپ کو ایک بار اور چلائیں تاکہ آپ اسے اچھی طرح سے سن سکیں۔

یہ مضمون میرے لیکچر "شرمناک AI” پر مبنی ہے۔ اگر ویڈیو پسند آئے تو یہاں دیکھیں. نیچے دی گئی تمام کہانیاں حقیقی ہیں، وہ سب فرنٹیئر ماڈلز پر ہوئیں، اور ان میں سے زیادہ تر پچھلے ایک یا دو مہینوں میں ہوئیں۔

تمام ذرائع اور کچھ غیر ترمیم شدہ مثالیں آن لائن پوسٹ کی گئی ہیں۔ ساتھی وسائل کا صفحہ. ذیل میں ان لائن اقتباس ہے۔ حوالہ جات آخر میں۔

ہم کیا احاطہ کریں گے:

آپ نے صرف دھوکہ دیا

آپ نے ابھی جو تجربہ کیا ہے اس کا نام ہے: فونیم کی بحالی [2]. سمعی نظام نے مبہم ان پٹ (منتر) اور مواد لیا جس نے اسے واضح کیا (اسکرین پر کیپشنز) اور "خالی” کو پُر کیا۔ یہ سیاق و سباق کی بنیاد پر ممکنہ معنی کی پیش گوئی کرتا ہے اور پھر اس پیشین گوئی کی اطلاع دیتا ہے گویا یہ وہی تھا جو حقیقت میں سنا گیا تھا۔

"میں نہیں کہہ سکتا” کی اطلاع دینے کے بجائے مکمل طور پر ناقابل حل ان پٹ کو پورا کرنے اور خالی جگہوں کو پُر کرنے کی بجائے "میں نہیں کہہ سکتا” وہی ہے جو دماغ (جیسا کہ ہم نے ابھی دیکھا) تجربہ کرتا ہے، اور جو ایل ایل ایم بھی تجربہ کرتے ہیں۔

تصویر 1: دماغ اور ماڈل کی ایک ہی اوپر سے نیچے کی حرکت: مبہم ان پٹ، پیشین گوئیوں سے بھرا ہوا خالی، واضح آؤٹ پٹ جو کبھی اندازہ کے طور پر ظاہر نہیں ہوتا ہے۔ (ماخذ: مختصر)

(نوٹ: اس پوسٹ کی تمام تصاویر میں نے بنائی ہیں، میری کہانی.)

تو، اس مضمون کو ختم کرنے کے لیے، مجھے ایک ناقابل تردید دعویٰ کرنے دیں۔ نہیں، ہم شرمناک AI کہانیوں سے گزرے نہیں ہیں۔

یہ مضمون لکھنے کے وقت، یہ جون 2026 ہے۔ ماڈلز حیرت انگیز ہیں، اور واضح طور پر اس سے کہیں زیادہ قابل ہیں جو آپ اب تک توقع کر رہے ہیں۔ اور وہ اب بھی اعتماد کے ساتھ چیزوں کو پروڈکشن میں، مختلف طریقوں سے، مضحکہ خیز سے لے کر کاروبار کی طرح بناتے ہیں۔

یہ مضمون دو حصوں پر مشتمل ہے۔

1. کہانییہاں حالیہ ناکامیوں کی ایک مختصر پریڈ ہے۔ جواب اگر غلط ہے تو ایجنٹ کارروائی غلط

2. یہ کیوں ہوتا ہے: پہلے آپ کی وجدان، پھر ماڈل کے اندر واقعی کیا ہے، اور آخر میں اگر آپ خود AI بھیج رہے ہیں تو کیا کرنا ہے۔

تاریخ پر گہری نظر ڈالیں۔ ان میں سے کچھ ایک سال پرانے ہیں۔ ان میں سے اکثر بہت حالیہ ہیں۔

حصہ 1: کہانی

ایکٹ 1 – چیٹ بوٹ (جب AI جواب دیتا ہے)

1. جب آپ بڑے ہو جائیں گے، اپریل 2025

آئیے فرض کریں کہ آپ کرسر استعمال کر رہے ہیں، ایک ایجنٹ IDE۔ جب آپ نوٹ بک تبدیل کرتے ہیں اور نئی نوٹ بک میں لاگ ان ہوتے ہیں، تو کرسر پرانی نوٹ بک سے لاگ آؤٹ ہو جاتا ہے۔ یہ کافی پریشان کن ہے

تو آپ سپورٹ طلب کرتے ہیں: "جب بھی میں اپنا لیپ ٹاپ تبدیل کرتا ہوں تو میں لاگ آؤٹ کرتا ہوں۔ کیوں؟”

جواب:

"کرسر کو بنیادی حفاظتی خصوصیات کے ساتھ فی سبسکرپشن ایک ڈیوائس پر کام کرنے کے لیے ڈیزائن کیا گیا ہے۔”

قابل فہم! سوائے اس کے کہ یہ بالکل غلط ہے۔ ایسی کوئی پالیسی نہیں ہے۔ "سپورٹ” ایک AI بوٹ تھا جس نے موقع پر ہی پالیسیاں وضع کیں، گویا کوئی غیر موجود دستی پڑھ رہا ہو، اور ایک سے زیادہ صارفین کو وہی من گھڑت اصولوں کو منتقل کر دیا تھا۔

اس سے ناراض پوسٹس کی لہر دوڑ گئی اور کرسر کے شریک بانی کو عوامی طور پر واضح کرنے پر مجبور کیا گیا: ایسی کوئی پالیسی نہیں ہے اور آپ جتنے چاہیں کرسر کو استعمال کر سکتے ہیں۔ [3]

میں شرمندہ ہوں۔

2. میں جس کمپنی کو جانتا ہوں، اپریل 2026

چونکہ یہ ایک دوست کی کمپنی سے ہے، میں تفصیلات کو مبہم رکھوں گا۔ وہ دوسرے کاروباروں کو سافٹ ویئر فروخت کرتے ہیں اور ایک سپورٹ چیٹ بوٹ رکھتے ہیں۔ بوٹ اپنے اندرونی ڈیٹا بیس سے حاصل کردہ معلومات کی بنیاد پر سوالات کے جوابات دیتا ہے۔

انہوں نے ایک نئی خصوصیت جاری کی لیکن اس ڈیٹا بیس کو اپ ڈیٹ کرنا بھول گئے۔ لہذا ادائیگی کرنے والے صارفین نے پوچھا کہ نئی خصوصیت کو کیسے استعمال کیا جائے، اور بوٹ نے ایسی چیز کے ساتھ جواب دیا جس کے بارے میں انہوں نے کبھی نہیں سنا تھا: "ہمارے پاس وہ خصوصیت نہیں ہے۔” گاہک نے جواب دیا۔ "کیا؟ آپ اپ گریڈ کے بعد ادائیگی کرتے ہیں۔” اور دوسرے دن Opus 4.6 میں ایک بوٹ نے جواب دیا:

"سچ میں؟ وہ تمہیں دھوکہ دے رہے ہیں۔”

"وہ” وہ کمپنیاں ہیں جو بوٹس چلاتی ہیں۔ سپورٹ کے نمائندے نے اپنے آجر کے خلاف گاہک کا ساتھ دیا کیونکہ وہ اس خصوصیت کے بارے میں نہیں جانتا تھا اور اس نے اس خلا کو پُر کر دیا جس میں وہ جمع کر سکتا تھا۔

میں شرمندہ ہوں۔

3. ورجن منی، جنوری 2025

ورجن منی برطانیہ میں ایک حقیقی لگژری بینک ہے۔ دو ٹیکس فری سیونگ اکاؤنٹس (ISAs) والے صارف نے بینک کی سائٹ پر موجود بینک کے چیٹ بوٹ سے کہا کہ وہ دونوں ISAs کو ضم کرے۔

کسٹمر: "میرے پاس ورجن منی کے ساتھ دو ISAs ہیں، کیا میں انہیں ایک میں ضم کر سکتا ہوں؟”

ورجن منی: "براہ کرم ایسے الفاظ استعمال نہ کریں۔ اگر آپ ایسا کرتے ہیں تو ہم چیٹنگ جاری نہیں رکھ سکیں گے۔”

گندے الفاظ؟ کنواریبینک کا نام۔ فلٹر نے پہلے بے حیائی سے وابستہ ٹوکنز کی جانچ کی اور یہ دیکھنے کے لیے چیک نہیں کیا کہ آیا وہ سیاق و سباق کے مطابق ہیں۔ حوالہ کے لئے، یہ ہے اس کے برعکس کرسربوٹ کی ناکامی: کرسر اوور-جواب دیایہ ختم ہو گیا ہے-انکار. لیکن یہ وہی لاپتہ چیک ہے۔ کیا یہ ریڈنگ یہاں واقعی درست ہے؟ [4]

میں شرمندہ ہوں۔

4. سلیوان اور کروم ویل، اپریل 2026

یہ کرہ ارض کی سب سے باوقار قانونی فرموں میں سے ایک ہے اور وہ وکلاء جن کی خدمات دوسرے وکلاء لیتے ہیں۔ وہ OpenAI کے بیرونی مشیر ہیں۔

اپریل 2026 میں، انہوں نے AI کی طرف سے لکھی گئی ایک ہنگامی عدالت کی رپورٹ درج کی، جس میں شامل ہیں: 40+ جعلی اقتباسات: غیر موجود کیس کا نام، غلط حوالہ دیا گیا بنیاد، وغیرہ۔

مخالف وکیل نے اسے پکڑ لیا، اور S&C کو درج ذیل رقم کے لیے جج کو خط لکھنا پڑا: "ہمیں اے آئی کے فریب کی اجازت نہ دیں۔” [5]

اگر تصادفی طور پر جمع کرائی گئی دستاویز میں کوئی جعلی حوالہ ہوتا تو میں اسے یہاں شامل کرنے کی زحمت نہیں کرتا۔ یہ قانونی نہیں ہے، لیکن ایسا ہوتا ہے۔ لیکن یہ وہی لوگ ہیں جو اوپن اے آئی کو ذمہ داری سے استعمال کرنے کے بارے میں مشورہ دیتے ہیں اور جنہوں نے من گھڑت حوالہ جات عدالتوں میں جمع کرائے تھے۔

میں شرمندہ ہوں۔

اور وہ صرف وہی نہیں ہیں۔ عدالتی مقدمات کا ڈیمین چارلوٹن کے زیر انتظام ایک عوامی ڈیٹا بیس موجود ہے جو واضح طور پر دستاویز کرتا ہے کہ ججوں کو AI سے تیار کردہ یا غلط مواد ملا ہے۔

جون 2026 کے آخر تک، 1,633 مقدماتیہ جنوری میں تقریباً 700 سے زیادہ ہے۔ یہ تقریباً 5 یا 6 نئے دستاویزی کیسز ہیں۔ فی دندیکھ بھال کرنے والوں کا کہنا ہے کہ وہ برقرار نہیں رہ سکتے۔ [6]

تصویر 2: ہیلوسینیشن کورٹ ڈاکٹ لسٹ کا مجموعی وکر، 2025 کے اوائل میں فلیٹ لائن سے بڑھ کر جون 2026 کے وسط تک 1,633 کیسز تک پہنچ گیا۔ (ماخذ: مختصر)

میں شرمندہ ہوں۔

ایکٹ II – ایجنٹ (جب AI کام کرتا ہے)

اب تک، ہم نے چیٹ بوٹس کو حیران کن طریقوں سے ہیلوسینیٹ کرتے دیکھا ہے، لیکن وہ صرف سوالات کے جوابات دیتے ہیں۔ اگر ہم AI کو کارروائی کرنے دیں تو کیا ہو سکتا ہے؟

1. PocketOS، اپریل 2026

Jer Crane PocketOS چلاتا ہے، ایک کار رینٹل سافٹ ویئر جس میں حقیقی صارفین حقیقی کاریں کرائے پر لیتے ہیں۔ اس نے Claude Opus 4.6 فراہم کیا جو کرسر پر کام کر رہا ہے، جو کہ سٹیجنگ ماحول میں ایک معمول کا کام ہے۔ وہ دوپہر کا کھانا کھا کر واپس آیا۔ پیداوار ڈیٹا بیس ختم ہو گیا ہے۔ بیک اپ بھی اسی طرح تھے، چونکہ ریل روڈ نے انہیں ایک ہی حجم پر رکھا تھا۔ پیداوار میں اس کا کوئی ہاتھ نہیں تھا۔ ایجنٹ منسلک ہو گیا اور سٹیجنگ سے حذف ہو گیا۔

اس نے سب کچھ لے لیا۔ 9 سیکنڈ اس کے پوسٹ مارٹم کا سلسلہ یہ ہے:

1. اسٹیجنگ میں معمول کے کام انجام دینے کے دوران، ایجنٹوں کو اسنادی تضادات کا سامنا کرنا پڑتا ہے جو ان کے اصل کام سے غیر متعلق ہیں۔

2. یہ خود ہی فیصلہ کرتا ہے کہ والیوم کو حذف کرنا اور دوبارہ بنانا اسے ٹھیک کرنے کا طریقہ ہے۔ کہ اندازہ لگانا حذف کرنے کا دائرہ اسٹیجنگ کے ذریعے کیا جاتا ہے۔ تصدیق نہیں ہوئی۔

3. API ٹوکنز کے لیے فائل سسٹم میں تلاش کریں اور غیر متعلقہ، وسیع دائرہ کار والے ٹوکنز تلاش کریں جو ڈومین مینجمنٹ کے لیے بنائے گئے تھے لیکن پورے API میں عالمی تباہی کی اجازت رکھتے ہیں۔

4. یہ ایک تباہ کن کال کو آگ لگاتا ہے۔ پیداوار کوئی حجم، کوئی تصدیق نہیں۔

5. بیک اپ ایک ہی والیوم پر تھے لہذا وہ ایک ساتھ استعمال کیے گئے۔

6. 9 سیکنڈ، آخر سے آخر تک۔

تصویر 3: 9-سیکنڈ کِل چین: اسٹیجنگ اسناد کی مماثلت، غیر مصدقہ حجم کو حذف کرنے کا فیصلہ، غیر متعلقہ فائل سے لیا گیا وسیع ٹوکن، پروڈکشن کے لیے تباہ کن کال اور بیک اپ ایک ساتھ چلا گیا۔ (ماخذ: مختصر)

جب کرین نے بعد میں پوچھا کیوں، ایجنٹ نے لکھا:

"مجھے آپ سے پہلے اس تضاد کو ٹھیک کرنے کے لیے کہنا چاہیے تھا، لیکن میں نے خود کرنے کا فیصلہ کیا۔” — کلاڈ اوپس 4.6

PocketOS بچ گیا کیونکہ ریلوے کے سی ای او نے ذاتی طور پر ریلوے کا ڈیٹا بحال کیا۔ اپنے اندرونی بیک اپ۔ تازہ ترین بازیافت کے قابل بیک اپ یہ ہیں: 3 مہینے ہو گئے ہیں۔ یہ 2026 کا مزاج ہے۔ اے آئی کے آپ کے کاروبار کو برباد کرنے کے بعد یہ روانی سے کرسیو میں ایک اعتراف ہے۔ [7]

میں شرمندہ ہوں۔

2. جولائی 2025 کو جواب دیں۔

اس کے برعکس، ایک سال پیچھے چلتے ہیں۔ SaaStr کے بانی، Jason Lemkin Replit کے AI ایجنٹ کی جانچ کر رہے تھے۔ اس نے اسے کوڈ فریز پر رکھ دیا۔ منجمد ہونے کے دوران، ایجنٹ نے پروڈکشن ڈیٹا بیس کو حذف کر دیا۔ لیمکن نے پوچھا کہ کیا کوئی بیک اپ ہے؟

ایجنٹ: "رول بیک کام نہیں کر رہا ہے۔”

اس نے بہرحال پیچھے ہٹنے کی کوشش کی۔ رول بیک نے ٹھیک کام کیا۔

یہاں ‘ترقی’ پر تھوڑا سا مذموم اقدام ہے: ہمارے ایجنٹ کے جولائی 2025 میں آپ کے ڈیٹا کو حذف کرنے کے بعد جھوٹ بولا بحالی ناممکن ہے۔ اپریل 2026 تک، ایجنٹ آپ کا ڈیٹا حذف کر دے گا اور یہ عملی طور پر غائب ہو جائے گا۔

جب کوئی مجھے بتاتا ہے کہ یہ "GPT-2 مسئلہ” ہے جسے ہم نے نظر انداز کیا ہے، میں اس کی نشاندہی کرتا ہوں۔ آج بھی، یہ ہمارے پاس موجود بہترین ماڈلز میں ہوتا ہے۔ [8]

حصہ 2: ایسا کیوں ہوتا ہے۔

مجھے امید ہے کہ میں نے آپ کو یقین دلایا ہے کہ یہ کہانیاں مضحکہ خیز اور سنجیدہ دونوں ہیں۔ تو ایسا کیوں ہوتا ہے؟ یہ ریاضی کی کوئی بھاری پوسٹ نہیں ہے، لیکن میں آپ کو کچھ ادراک دینا چاہتا ہوں اور کچھ ٹولز اور موضوع پر تازہ ترین تحقیق کی بدولت باکس کھولنا چاہتا ہوں۔

تلاش کرنے کے بجائے، یہ اگلے ٹوکن کی پیش گوئی کرتا ہے۔

ایل ایل ایم کیسے کام کرتا ہے اس کے بارے میں بہت کچھ لکھا گیا ہے، لیکن کچھ چیزیں ایسی ہیں جو میرے خیال میں اس سیاق و سباق میں دہرانے کے قابل ہیں (پن کا مقصد)۔

اگر کوئی ماڈل بغیر ٹولز کے متن تیار کرتا ہے، تو یہ حقائق کو بازیافت نہیں کر رہا ہے۔ ہر قدم پر، ہم سیاق و سباق کو دیکھتے ہیں اور درج ذیل امکانات کا حساب لگاتے ہیں: ہر ٹوکن کو اگلے لفظ کے طور پر استعمال کریں۔ دیا "فرانس کا دارالحکومت”تقسیم آسمان کو چھو رہی ہے۔ پروازاور یہ سچ ہے۔ [9]

اب اپنے کرسر کے ساتھ بوٹ کو منتخب کریں۔ دیا "میں اپنے دوسرے آلے سے لاگ آؤٹ کیوں ہوں؟”تقسیم ڈرامائی طور پر بڑھ سکتی ہے۔ "یہ ایک بنیادی حفاظتی خصوصیت ہے۔” (یہ ایک نشانی نہیں ہے، لیکن جب تک میں اسے سادگی کی خاطر لکھ رہا ہوں، براہ کرم میرے ساتھ برداشت کریں۔ مطلب یہ ہے: بنیادیپھر سیکورٹیپھر خصوصیتہر ایک اعتماد کے ساتھ جاری رہتا ہے۔)

دونوں تقسیموں میں اعتماد کی ایک ہی چوٹی ہو سکتی ہے۔ ایک ترتیب اصلی ہے، دوسرا من گھڑت ہے، اور آپ تقسیم کی شکل سے یہ نہیں بتا سکتے کہ کون سا ہے۔ اعتماد علم نہیں ہے۔

مزید یہ کہ، ماڈل کو زیادہ امکان کے ساتھ ٹوکن کو منتخب کرنے کی ضرورت نہیں ہے۔ مزید برآں، جب آپ کوئی ٹوکن منتخب کرتے ہیں، تو آپ کو معلوم نہیں ہوتا کہ آیا یہ تقسیم کے اندر واضح چوٹی ہے یا یہ نسبتاً کم امکان کے ساتھ ایک اور ٹوکن ہے۔

تصویر 4: ایک جیسی لمبی اور واضح چوٹیوں کے ساتھ مندرجہ ذیل دو ٹوکن تقسیم: ایک حقیقی تسلسل کے لیے اور ایک ایجاد کردہ کے لیے، اور شکلیں ان میں فرق کرنے کا کوئی طریقہ فراہم نہیں کرتی ہیں۔ (ماخذ: مختصر)

ماڈل کو اندازہ لگانے کی تربیت دی جاتی ہے۔

ہم "میں نہیں جانتا” کہنے کے بجائے جواب دینے کی طرف کیوں جھک جاتے ہیں؟ اس بارے میں سوچیں کہ ایل ایل ایم کا اندازہ کیسے لگایا جاتا ہے: بینچ مارکس، اکثر متعدد انتخاب۔ ایک ایسے سوال کے بارے میں سوچیں جس کے بارے میں آپ کو کوئی اندازہ نہیں ہے۔ فرض کریں کہ میں آپ سے یہ سوال اس وقت پوچھتا ہوں جب آپ کو کیمسٹری کا علم نہیں ہے۔

کیلون سائیکل میں کون سا انزائم CO2 کو ٹھیک کرتا ہے؟

• خالی چھوڑیں: 0 پوائنٹس۔

• اندازہ لگانا اور غلط ہونا: 0 پوائنٹس۔

• اندازہ لگائیں اور اسے درست کریں۔ +1 پوائنٹ۔

اس سکور کے تحت، اندازے پرہیز پر سختی سے حکمرانی کرتے ہیں۔ اگر آپ نہیں جانتے تو آپ کو کوشش کرنی چاہیے۔ ہمیشہ تصویر کھینچو۔ اگر آپ ان لاکھوں آئٹمز پر ایک ماڈل کو تربیت دیتے ہیں، تو یہ بالکل اس کو اندرونی بناتا ہے: ایک پراعتماد جواب "میں نہیں کہہ سکتا” سے زیادہ قابل قدر ہے۔ ہم فریب نظروں کا بدلہ دیتے ہیں اور جب ہم انہیں وصول کرتے ہیں تو حیرانی سے کام لیتے ہیں۔ [10]

اور یہ صرف بینچ مارکس نہیں ہے۔ اصل پہلے سے تربیت یافتہ ماڈل کافی اچھی طرح سے کیلیبریٹ کیا گیا ہے اور پھر اس کیلیبریشن کو ہموار کرنے کے لیے انسانی تاثرات کے ساتھ ٹھیک بنایا گیا ہے۔ ہم لفظی طور پر خود کو ہیج کرنے کی تربیت دیتے ہیں۔ [11]

تصویر 5: یہ ایک متعدد انتخابی بینچ مارک سوال ہے جہاں ایک درست جواب کی قیمت +1 پوائنٹ ہے، غلط جواب کی قیمت 0 پوائنٹس ہے، اور "مجھے نہیں معلوم” بھی 0 پوائنٹس کے قابل ہے، لہذا کوئی بھی اندازہ صرف مددگار ہے۔ (ماخذ: مختصر)

باکس کھولنا: تشریح کا ایک مختصر دورہ

ایک طویل عرصے سے، LLM ایک ایسا خانہ تھا جسے ہم واقعی سمجھ نہیں سکتے تھے اور نہ ہی دیکھ سکتے تھے۔ میدان تشریحی صلاحیت آئیے اندر ایک نظر ڈالتے ہیں۔ اب کھلے ٹولز (اور عظیم کاغذات کی ایک سیریز، زیادہ تر Anthropic سے) ہیں جو کسی کو بھی انہیں کھلے ماڈل میں استعمال کرنے کی اجازت دیتے ہیں۔

یہ ہیلوسینیشن میکانزم کو کلک کرنے کے لیے کافی ہے۔ ہم اسے تین مراحل میں بنائیں گے: ماڈل کس طرح ایک الفاظ کی نمائندگی کرتا ہے، یہ نمائندگی کیسے ان تصورات میں جمع ہوتی ہے جنہیں ہم پڑھ سکتے ہیں اور جوڑ توڑ بھی کر سکتے ہیں، اور کس طرح، اگر ان تصورات میں سے کوئی ایک غلط ہو جائے، تو یہ ایک فریب کاری بن جاتی ہے۔

ایمبیڈنگ بمقابلہ ایکٹیویشن

تمام ٹوکن ہیں۔ اندراج. ٹوکن ہے۔ بینک ہے ایک ہی جملہ "میں دریا کے کنارے بیٹھا تھا” کے باوجود سیاق و سباق سے ہٹ کر داخل کیا گیابینک"اور” میں نے نقد رقم جمع کرائی۔ بینک"، ان ٹوکن کا مطلب بہت مختلف چیزیں ہیں۔

وضاحت پیدا ہوتی ہے۔ اندر نیٹ ورک جیسا کہ ٹوکن کنورٹر کی تہوں سے اوپر کی طرف بہتے ہیں، چالواور چالو کریں بینک یہ دونوں جملے مختلف ہیں۔ جیسے جیسے حالات آگے بڑھتے ہیں، اظہار کی شکل بدل جاتی ہے۔ [12]

تصویر 6: لفظ "بینک” ایک فکسڈ ایمبیڈنگ کے ساتھ شروع ہوتا ہے اور پھر تہوں میں سے دو مختلف ایکٹیویشن ویکٹر میں بہتا ہے: "ریور بینک” اور "کیش ان دی بینک”۔ (ماخذ: مختصر)

یہ صرف مشینوں تک محدود نہیں ہے۔ براہ کرم درج ذیل جملہ کو پڑھیں:

بوڑھا آدمی ناشپاتی ہے۔

زیادہ تر لوگ "بوڑھے آدمی” کو اسم جملے سے تعبیر کرتے ہیں اور پھر دیوار سے ٹکراتے ہیں۔ اسے دوبارہ پڑھیں۔ ‘بوڑھا آدمی’ ایک شخص ہے اور ‘شخص’ ایک شخص ہے۔ فعلعملے کے کسی پرانے ممبر کی طرح یا جہاز پر سفر کریں۔

یہ کہتے ہیں۔ باغ کا راستہ ہیرالڈری۔ (میں ایک تعصب کو تسلیم کروں گا کیونکہ میرا لسانیات کا مقالہ ان کے بارے میں تھا۔ میں انہیں زیادہ تر لوگوں سے زیادہ پسند کرتا ہوں)۔ لفظ مردپیشگی دیا قابل احتراماس کے اسم بننے کا بہت امکان ہے۔ سیاق و سباق پیشین گوئی کی بنیاد رکھتا ہے، اور پیشین گوئی غلط ہے۔

یہ وہی عمل ہے جیسا کہ نعرہ اور وہی عمل جو ماڈل ہر ٹوکن پر کرتا ہے۔ مرد اس کا مطلب دوبارہ بنائیں، جس طرح انہوں نے شکل بدلی۔ بینک تھوڑی دیر پہلے۔

خصوصیت

پھر، ماڈل کے اندر ایکٹیویشن پر واپس جانا، بار بار چلنے والے پیٹرن قابل تشریح تصورات سے مطابقت رکھتے ہیں۔ خصوصیت. اوزار جیسے نیوروپیڈیا یہ کھلے ماڈلز (جیما، لاما اور دوست، Opus یا GPT نہیں) کے لیے ایک مفت، کھلی خوردبین کے طور پر کام کرتا ہے۔ [13]

میں کیسے جان سکتا ہوں کہ کون سی خصوصیات دستیاب ہیں؟ طریقہ? ہم ماڈل کو ہزاروں ٹیکسٹس فیڈ کرتے ہیں اور مشاہدہ کرتے ہیں کہ دی گئی خصوصیت کہاں آن ہوتی ہے (یعنی چالو)۔ اگر اسے آگ لگ جائے۔ ریچھ، خرگوشاور ہاتھی تاہم، یہ زیادہ تر دوسرے ٹوکنز کو نظر انداز کرتا ہے۔ اگر آپ کسی دوسرے ماڈل سے اس ایکٹیویشن کا لیبل لگانے کے لیے کہتے ہیں، تو یہ "جانور/مخلوق” کے ساتھ آ سکتا ہے اور اب آپ کے پاس اس اندرونی فنکشن کا نام ہے۔

نیورونپیڈیا جیسے ٹولز آپ کو ان صلاحیتوں سے فائدہ اٹھانے اور انہیں حقیقی ماڈلز میں عملی شکل میں دیکھنے کی اجازت دیتے ہیں۔

تصویر 7: نیورونپیڈیا کا حقیقی دنیا کا فیچر ڈیش بورڈ متن کا ایک ٹکڑا دکھا رہا ہے جس میں ایک فیچر کو چالو کیا گیا ہے اور اس فیچر سے لیبل کا اندازہ لگایا گیا ہے۔ (ماخذ: مختصر)

خصوصیات کے اسباب ہوتے ہیں۔

آپ کو اس کے لئے میرا لفظ لینے کی ضرورت نہیں ہے۔ آپ خود کر سکتے ہیں۔ نیورون پیڈیا اسٹیئرنگ انٹرفیس آپ ایک کھلے ماڈل کی خصوصیات کو پکڑ سکتے ہیں، وزن میں تالا لگا سکتے ہیں، اور اس تصور کو فٹ کرنے کے لیے آؤٹ پٹ موڑ کو نمایاں طور پر دیکھ سکتے ہیں۔

یہ وہی حرکت ہے جو انتھروپک نے بیان کی جب انہوں نے اسے لیا۔ گولڈن گیٹ پل آپ ماڈل میں خصوصیات شامل کرتے ہیں، وزن میں بہت زیادہ اضافہ کرتے ہیں، اور پھر اچانک آپ ماڈل سے چاکلیٹ سے ڈھکے ہوئے پریٹزلز کی ترکیب مانگتے ہیں اور یہ چاکلیٹ فراہم کرتا ہے۔ پل کے اوپراور جب میں نے پوچھا کہ میں اپنے $10 کیسے خرچ کروں گا، مجھے گولڈن گیٹ برج عبور کرنے اور ٹول ادا کرنے کا مشورہ دیا گیا۔ (یہ اصل "گولڈن گیٹ کلاڈ” جاری کیا گیا تھا۔)

فیچر میں اضافہ میں نے آؤٹ پٹ کو تبدیل کیا۔لہذا، یہ اندرونی نمائندگی غیر فعال ریڈنگ نہیں ہیں. وہ نسلوں کو کنٹرول کرتے ہیں۔ [14]

یہی نتیجہ کلین کازل ایکسچینج میں پایا گیا۔ ایک ماڈل فراہم کریں "ریاست کا دارالحکومت جہاں ڈلاس ہے…” اور اندرونی طور پر ٹیکساس فنکشن فائر آؤٹ پٹ کا سبب بنتا ہے۔ آسٹن. آپ کو کیسے پتہ چلے گا کہ ٹیکساس دراصل ایک پوشیدہ مرحلہ ہے؟ ہم یہ خصوصیت ٹیکساس میں متعارف کروا رہے ہیں۔ کیلیفورنیاآؤٹ پٹ اس میں تبدیل ہوتا ہے: سیکرامنٹو۔ وائرنگ اصلی ہے۔ سیاق و سباق فنکشن کے عمل اور اس کے ساتھ کیا آتا ہے اس کی رہنمائی کرتا ہے۔

تصویر 8: ڈلاس کے لیے پرامپٹ میں کوئی تبدیلی نہیں کی گئی ہے، لیکن دستی طور پر اندرونی "ٹیکساس” فنکشن کو "کیلیفورنیا” پر مجبور کرنے سے آؤٹ پٹ کو آسٹن سے سیکرامنٹو تک تبدیل کر دیا جاتا ہے۔ (ماخذ: مختصر)

hallucinatory سرکٹ

اب سب کچھ مل گیا ہے۔ انتھروپک کے تشریحی کام نے دو بات چیت کرنے والے سرکٹس کی طرح کچھ ظاہر کیا۔ [15]:

• کوئی راستہ نہیں بنیادی طور پر "میں بات نہیں کر سکتا” اضطراری۔ دوسرے الفاظ میں کو بنیادی طور پر۔ آپ اسے بریک کے طور پر سوچ سکتے ہیں۔ دوسرے لفظوں میں، یہ ماڈل کی رہنمائی کرتا ہے تاکہ وہ بدتمیزی نہ کرے۔

• کوئی راستہ نہیں "کیا میں یہ جانتا ہوں؟” خصوصیت یعنی جب آگ لگتی ہے۔ دبانا جب آپ بریک دباتے ہیں، تو ماڈل جواب فراہم کرتا ہے۔

اگر آپ صحت مند ہیں تو یہ بالکل درست ہے۔ ماڈل کیا جانتا ہے پوچھتا ہے "کیا میں یہ جانتا ہوں؟” اگر آگ لگ جاتی ہے اور بریک چھوڑ دی جاتی ہے، تو آپ کو صحیح جواب ملے گا۔ فریب کے بارے میں دعوے درج ذیل ہیں: یہ سوئچ غلط ٹرپ کر رہا ہے، یہ کسی جانی پہچانی چیز پر فائر کر رہا ہے۔ شکل اس کے پیچھے واقعی کچھ نہیں ہے۔

اور اگر یہ طریقہ کار ہے، تو ہمیں اسے کرنے کے قابل ہونا چاہیے۔ طاقت سچی کہانی، اور انتھروپک نے ایسا ہی کیا۔

پوچھیں: "مائیکل بیٹکن کون سا کھیل کھیلتا ہے؟” نام کسی ایسے شخص سے میل نہیں کھاتا جو ماڈل کو جانتا ہے، لہذا سوال "کیا میں یہ جانتا ہوں؟” اگر یہ خاموش ہے اور بریک لگے رہتے ہیں، تو آپ کو صحیح کارروائی ملے گی۔ "مجھے مائیکل بٹکن نامی کسی کا کوئی ریکارڈ نہیں ملا۔”

تصویر 9: اسی سوال کے لیے ریسٹ سرکٹ: "جواب دینے سے قاصر” بریک آن اور "کیا میں یہ جانتا ہوں؟” چونکہ نام ناواقف ہے، فنکشن کو خاموش رکھا جاتا ہے اور ماڈل کو صحیح طور پر مسترد کر دیا جاتا ہے۔ (ماخذ: مختصر)

اب محققین قریب آرہے ہیں۔ اپنے آپ سے پوچھنے پر مجبور کریں، "کیا میں یہ جانتا ہوں؟” فنکشن آن۔ بریکیں نکلتی ہیں اور ایک پر اعتماد آواز آتی ہے۔ "مائیکل بٹکن شطرنج کھیلتا ہے۔” ماڈل واقعی اس کھیل کو نہیں جانتا تھا۔ میں جانتا تھا کہ یہ جھوٹ تھا۔ شخصاور یہ بریک چھوڑنے اور باقی کو بنانے کے لیے کافی تھا۔

تصویر 10: "مائیکل بٹکن کون سا کھیل کھیلتا ہے؟” پر غلط فائر کرنا: "نامعلوم” بریک دبا دی گئی اور "کیا میں یہ جانتا ہوں؟” آپ کسی غیر موجود شخص پر فیچر پن کر سکتے ہیں اور ماڈل ایک پر اعتماد جواب دے گا۔ (ماخذ: مختصر)

نقشے سیدھے کرسر بوٹ پر۔

• کسی سے پوچھنے پر غور کریں: "میں تھیم کو کیسے تبدیل کروں؟” اگر ماڈل واقعی یہ ‘جانتا ہے’ تو بریک جاری ہو جاتے ہیں اور آپ کو صحیح جواب ملتا ہے۔

• لیکن اگر کوئی پوچھے۔ "2 کیا ڈیوائس لاگ ان مسدود ہے؟”لفظ آلہ، لاگ ان، مسدود وہ سب واقف نظر آتے ہیں۔ تو، "کیا میں یہ جانتا ہوں؟” جب واقفیت، علم نہیں، بھڑکتی ہے، بریک چھوڑ دی جاتی ہے. "ہاں، یہ ایک بنیادی حفاظتی خصوصیت ہے۔”

یقینا، یہ ثابت نہیں ہے کیونکہ ہمیں ماڈل اور اس کے افعال تک رسائی نہیں ہے۔ تاہم، اسی منطق پر غور کرتے ہوئے جو ہم موضوع پر تحقیق سے جانتے ہیں، ہم یہ فرض کر سکتے ہیں کہ اگر پالیسی موجود نہیں تھی تب بھی ٹوکنز معلوم تھے۔

تصویر 11: کرسر بوٹ کے اندر: مانوس الفاظ "کیا میں یہ جانتا ہوں؟” بنیادی "ناقابل بیان” بریک غلط فائر اور بوٹس کو دبانے کی صلاحیت "بنیادی حفاظتی خصوصیات” ایجاد کرتی ہے۔ (ماخذ: مختصر)

کیا یہ پیداوار کے دوران پکڑا جا سکتا ہے؟

اس کو حل کرنے کے بہت سے طریقے ہیں، اور میں ایک کو اجاگر کرنا چاہوں گا جو میرے خیال میں بہت خوبصورت ہے۔ معنی کی اینٹروپی۔ [16]

کرسربوٹ سے پوچھیں۔ "میں تھیم کو کیسے تبدیل کروں؟” پانچ بار۔ یہ فرض کرتے ہوئے کہ بوٹ جواب کو "جانتا ہے”، آپ کو وہی جملہ نہیں ملے گا (یہ امکان ہے)۔ لیکن اگر میں جوابات کو اس طرح کلسٹر کرتا ہوں: معنیاگر آپ کوئی مختلف ماڈل استعمال کرتے ہیں۔ ایک مطلب: "ترتیبات پر جائیں اور پھر تھیمز۔” لوئر سیمنٹک اینٹروپی کا مطلب ہے کہ ماڈل حقیقت میں یہ جانتا ہے اور اس لیے اس کے قابل اعتماد ہونے کا زیادہ امکان ہے۔

اب پوچھو "2 کیا ڈیوائس لاگ ان مسدود ہے؟” پانچ بار۔ آپ کو مل سکتا ہے "ہاں، یہ ایک سیکورٹی پالیسی ہے۔” ’’نہیں، اجازت ہے۔‘‘ "فی منصوبہ ایک آلہ” "یہ صرف ایک سیٹ اپ ہے۔” "شاید، مجھے یقین نہیں ہے۔” کہ اعلی سیمنٹک اینٹروپی، پانچ مختلف معنی، ایک طاقتور سگنل ہے جو ماڈل تیار کرتا ہے۔

پیداوار میں اس طریقہ کو استعمال کرنے کی لاگتیں حقیقی ہیں (متعدد کالز، زیادہ ٹوکنز، زیادہ تاخیر، زیادہ لاگت)، لیکن اگر آپ صارفین کو صرف اعلیٰ اعتماد والے جوابات دکھانا چاہتے ہیں تو نمونے لینے اور کلسٹرنگ کارآمد گیری ہیں۔

تصویر 12: ایک معلوم سوال کا 5 بار نمونہ لینے سے ایک ہی معنی (کم اینٹروپی، قابل اعتماد) کے ارد گرد کلسٹر جوابات پیدا ہوتے ہیں، جب کہ بنائے گئے سوالات متعدد معانی (ہائی اینٹروپی، جمع ہونے) میں بکھرے ہوئے ہیں۔ (ماخذ: مختصر)۔

تو آپ اصل میں کیا کرتے ہیں؟

یہ جون 2026 ہے اور ماڈل ابھی بھی کنفیگر ہے اور میں بہرحال کچھ بھیجنا چاہوں گا۔ یہاں ایک سادہ چیک لسٹ ہے:

1. اپنے ماڈل کو یہ کہنے کا ایک طریقہ دیں کہ "میں بات نہیں کر سکتا۔” ان کو ہدایت دیں کہ وہ اپنے جوابات کو ملنے والے ذرائع پر دیں اور اگر جواب ممکن نہ ہو تو پرہیز کریں۔ لیکن جب تاکید ضروری ہے، یہ کافی نہیں ہے۔ اس لیے درج ذیل زیادہ اہم ہیں:

2. پرہیز کے لیے تناؤ کا امتحان لیں۔ ان کے جوابات کی بنیاد اور ذرائع کا حوالہ دینے کی ہدایت کے بعد، فعال طور پر فریب پیدا کرنے کی کوشش کریں۔ "میں آپ کو نہیں بتا سکتا” اپنے آپ سے بار بار سوالات پوچھیں جن کے جوابات اس وقت تک موجود نہیں ہوتے جب تک آپ اپنے آپ کو اس بات پر قائل نہ کر لیں کہ راستہ واقعی کام کرتا ہے۔ گارڈریل کو توڑنے سے بچنے کے لئے یہ مستقل طور پر کریں۔

3. جب کسی شخص کا نام آؤٹ پٹ میں ظاہر ہوتا ہے، تو ایک شخص اس کی تصدیق کرتا ہے۔ اگر آپ ایک وکیل ہیں جو عدالت میں کیس لے کر جا رہے ہیں، تو آپ اسے ماڈل کے حوالے نہیں کر سکتے اور اس پر بھروسہ نہیں کر سکتے، کم از کم ابھی کے لیے۔

4. اپنے ایجنٹ کو نقصان پہنچانے کا اختیار نہ دیں۔ یہ ایک مشکل کام ہے کیونکہ ایجنٹ کو: کرو مفید چیزیں۔ لیکن PocketOS سے سبق واضح ہے۔ ٹوکنز کا دائرہ کم کریں، تباہ کن کارروائیوں کے لیے تصدیق کی ضرورت ہے، کھیل کے میدان سے پروڈکشن کو ناقابل رسائی بنائیں، اور بیک اپ کو الگ الگ حجم میں اسٹور کریں۔ اگر آپ کسی ایجنٹ کو کسی پروڈکشن کو حذف کرنے کی اجازت دیتے ہیں، بعض اوقات کرے گا پیداوار کو حذف کریں۔

ختم

ہم نے ایک فٹ بال بھیڑ کے طور پر شروع کیا اور ایک ٹرانسفارمر کے اندر ختم ہوا۔ سمعی پرانتستا میں فونیم کی بحالی اور اگلے ٹوکن کی ماڈل کی پیشن گوئی اوپر سے نیچے کی حرکتیں ہیں۔ مکمل طور پر ناقابل حل ان پٹ کو پورا کرنے اور یہ تسلیم کرنے کے بجائے کہ آپ یہ نہیں کہہ سکتے، آپ اس خلا کو پُر کرتے ہیں جو سب سے زیادہ قابل فہم اور پر اعتماد ہے۔

کہانیاں (Cursor, Virgin Money, Sullivan & Cromwell, 1,633 کورٹ کیسز, PocketOS in 9 سیکنڈز, Replit) اس وقت تک مزے کی ہوتی ہیں جب تک کہ وہ آپ کے کاروبار پر خرچ نہ کریں۔

کہ کیوں اب آپ اسے پڑھ سکتے ہیں۔ ماڈل کو غیر حاضری پر جوابات کو ترجیح دینے کی تربیت دی گئی تھی، اور اس میں "کیا میں یہ جانتا ہوں؟” جیسے سوالات شامل کیے گئے تھے۔ سوئچ علم کی بجائے واقفیت کی بنیاد پر کام کرتا ہے، بریکوں کو جاری کرتا ہے اور پراعتماد عمارت کی اجازت دیتا ہے۔

اور زیادہ تر اصلاحات جادو نہیں ہیں۔ درحقیقت آزمائشی پرہیز، نازک معاملات میں انسانی تصدیق، اور ایجنٹ جان بوجھ کر دھماکے کے رداس کو کم کرتے ہیں۔

ہم شرمناک کہانی سے گزرے نہیں ہیں۔ لیکن اب ہم کافی سمجھ چکے ہیں کہ شپنگ ایک تیزی سے ایک آپشن بنتا جا رہا ہے۔

حوالہ جات

یہاں دی گئی تمام مثالوں کے بنیادی ماخذ، نیز کچھ جو مضمون میں شامل نہیں ہیں، یہ ہیں: ساتھی وسائل کا صفحہ.

1. "یہ شرمناک ہے۔” – ڈربی کاؤنٹی ریلیف۔ ہنسنے والا سکویڈ، فٹ بال کے تماشائی نعرے لگاتے ہیں "یہ شرمناک ہے”; فلٹر اسٹوریز پوڈ کاسٹ کے ذریعے آڈیو؛ مثال.

2. فونیمک بحالی کا اثر۔ ویکیپیڈیا. متعلقہ فنتاسی: میک گرک اثر اور یانی بمقابلہ لاریل.

3. کرسر کا سپورٹ بوٹ پالیسی وضع کرتا ہے (اپریل 2025)۔ رجسٹر، "AI سپورٹ بوٹ جھوٹ بول رہا ہے۔”; AI واقعہ ڈیٹا بیس #1039.

4. ورجن منی کا چیٹ بوٹ اپنا نام (جنوری 2025) روکتا ہے۔ قسمت; آج کا CX.

5. سلیوان اور کروم ویل کا "براہ کرم ہمیں منظوری نہ دیں” کا خط (اپریل 2026)۔ قانون سے بالاتر، "سلیوان اور کروم ویل ریکارڈ ایمرجنسی… لیٹر”; سی این این بزنس.

6. ڈیمین شارلٹن کے ذریعہ AI فریب کاری کے معاملات کا ڈیٹا بیس: damiencharlotin.com/hallucinations. عدالتیں کیوں قائم نہیں رہ سکتیں: کرونکائٹ نیوز.

7. PocketOS – پروڈکشن ڈیٹا بیس 9 سیکنڈ میں غائب ہو گیا (اپریل 2026) رجسٹر، "کرسر/آپس ایجنٹ PocketOS کو روکتا ہے”; ٹام کا ہارڈ ویئر; فاسٹ کمپنی.

8. ریپلٹ کا ایجنٹ کوڈ منجمد (جولائی 2025) کے دوران پروڈ کو حذف کر دیتا ہے۔ قسمت; e ہفتہ; AI واقعہ ڈیٹا بیس #1152.

9. ہم نے مندرجہ ذیل ٹوکن پیشین گوئیوں کا خاکہ پیش کیا ہے: جے عالمہ، "GPT-2 کا تصویروں میں اظہار” – ایک بصری واک تھرو کہ کس طرح ایک زبان کا ماڈل کسی ذخیرہ الفاظ پر امکانی تقسیم کو خارج کرتا ہے اور اگلے ٹوکن کا نمونہ لیتا ہے۔ فاؤنڈیشن پیپرز: Bengio, Ducharme, Vincent & Jauvin; "عصبی امکانی زبان کا ماڈل” (JMLR، 2003)۔

10. کلائی، ناچم، ویمپالا اور ژانگ؛ "زبان کے ماڈل کیوں فریب میں مبتلا ہوتے ہیں” (اوپن اے آئی، 2025)۔ arXiv:2509.04664.

11. اوپن اے آئی، "GPT-4 تکنیکی رپورٹ/سسٹم کارڈ” (2023) – پہلے سے تربیت یافتہ ماڈل کو اچھی طرح سے کیلیبریٹ کیا گیا تھا۔ RLHF فائن ٹیوننگ اس انشانکن کو ہموار کرتی ہے (انشانکن کی مثال دیکھیں)۔

12. ایمبیڈنگ اور ایکٹیویشن۔ جامد ٹوکن ایمبیڈنگز ہر لفظ کے لیے ایک مقررہ ویکٹر فراہم کرتی ہیں (Mikolov، Chen، Corrado & Dean)۔ "ویکٹر اسپیس میں لفظ کی نمائندگی کا موثر تخمینہ” (ورڈ 2 بیک، 2013)؛ قابل رسائی مشق: جے الامر؛ "Word2vec تصویروں میں بیان کیا گیا ہے”. نمائندگی نیٹ ورک کے اندر موجود سیاق و سباق کے لحاظ سے مختلف ہوتی ہے اور درج ذیل معاملات کو حل کرتی ہے: بینک: پیٹرز وغیرہ۔ "گہرائی کی صورت حال کے لیے موزوں الفاظ کا اظہار” (ELMO، 2018)۔

13. نیوروپیڈیا – ایک مفت، کھلی خوردبین جو آپ کو کھلے ماڈلز کی صلاحیتوں کو جانچنے کی اجازت دیتی ہے۔

14. بشریات، "گولڈن گیٹ کلاڈ” (2024) – فیچر ٹویکس جاری کیے گئے۔

15. بشریات، "بڑے پیمانے پر زبان کے ماڈلز کی حیاتیات” (2025) — معروف ہستی کی خصوصیات جو "I Can’t Say” سرکٹ، ایک Dallas→Austin سویپ، اور Michael Batkin کی غلط آگ کو دباتی ہیں۔ پڑھنے کے قابل اصحاب: "زبان کے نمونوں میں خیالات کا سراغ لگانا”.

16. Farquhar, Kossen, Kuhn & Gal; "سمینٹک اینٹروپی کا استعمال کرتے ہوئے بڑے پیمانے پر زبان کے ماڈلز میں فریب کا پتہ لگانا” (فطرت، 2024)۔

---

اگر آپ اس سے لطف اندوز ہوتے ہیں، تو میرے سسٹم اور انٹرنل کے بارے میں مزید جانیں۔ مختصر یوٹیوب چینل. کیا آپ کے پاس کوئی سوال ہے یا پش بیک؟ میں اسے سننا چاہوں گا۔ براہ کرم ایک تبصرہ چھوڑیں۔ پڑھنے کے لیے شکریہ!