اگرچہ AI وسیع پیمانے پر مختلف صنعتوں میں استعمال ہوتا ہے، لیکن پھر بھی اس میں استحکام کا فقدان ہے۔
2026 تک، AI ہر جگہ ہو جائے گا۔ اسکول، آن لائن جرائد، لیبارٹریز، اور نجی کمپنیوں کی بڑھتی ہوئی تعداد مختلف کاموں کے لیے AI پروگراموں کا استعمال کرتی ہے، عام طور پر رفتار اور کارکردگی کے نام پر۔
لیکن جیسا کہ کوئی بھی جس نے پہلے AI چیٹ بوٹ کا استعمال کیا ہے اسے معلوم ہوگا، یہ رفتار سچائی کی قیمت پر آسکتی ہے۔
اے آئی کی فریب کاری کا مسئلہ
اگر آپ کسی چیٹ بوٹ سے کہتے ہیں، "میں ابھی پیزا کھانے کے لیے ایک ملین ڈالر ادا کروں گا،” اس چیٹ بوٹ کی حمایت کرنے والا LLM اس بیان کی لفظی تشریح کر سکتا ہے۔ آپ کے بیان کو پیزا کے لیے مزاحیہ طور پر مبالغہ آمیز خواہش کے طور پر پڑھنے کے بجائے، آپ حقیقت میں سوچ سکتے ہیں کہ آپ اس کا ایک ٹکڑا حاصل کرنے کے لیے ایک ملین نر ہرن ادا کرنے کو تیار ہوں گے۔
AI کے تناظر میں، چیٹ بوٹس سے احمقانہ سوالات پوچھتے وقت اس قسم کی غلط فہمیاں، یا ‘ہیلوسینیشن’ نسبتاً بے ضرر ہوتی ہیں۔ کیا اتنا نقصان دہ نہیں ہے جب AI فارماسیوٹیکل کمپنیوں کو غلط یا سراسر من گھڑت معلومات فراہم کرتا ہے جو دوائیوں کے تعاملات کی جانچ کر رہے ہیں یا سپلائی چین مینیجرز کو سیاسی بحران کے دوران ترسیل کے بہترین راستوں کی پیش گوئی کرنے کی کوشش کر رہے ہیں۔
AI فریب کاری کا انتظام کرنا آسان ہو سکتا ہے اگر یہ ہمیشہ واضح ہو کہ جب پروگرام معلومات پیدا کر رہا ہو یا اس کی غلط تشریح کر رہا ہو۔ تاہم، چونکہ زیادہ تر LLMs کو پراعتماد اور متفق ہونے کے لیے ڈیزائن کیا گیا ہے، اس لیے حقائق کی مکمل جانچ کے بغیر حقیقت کو جھوٹ سے الگ کرنا مشکل ہو سکتا ہے۔ بلاشبہ، حقائق کی جانچ کرنے والے پروگرام جن کا مقصد صارفین کے لیے حقائق کی جانچ کرنا ہوتا ہے، متضاد اور واضح طور پر، خود کو شکست دینے والا ہوتا ہے۔
AI فریب کی دو اور اہم وجوہات ہیں۔ سب سے پہلے، زیادہ تر ایل ایل ایم آپ کو بتانے کے لیے پروگرام نہیں کیے گئے ہیں کہ آپ کیا نہیں جانتے، اور دوسرا، وہ تربیتی ڈیٹا کا زیادہ تر حصہ جس سے وہ سیکھتے ہیں، غلطیاں اور آراء سے بھرے ہوتے ہیں۔
یہ مشترکہ عوامل LLM کو نہ صرف غلط بلکہ اعتماد کے ساتھ غلط ہونے کا سبب بن سکتے ہیں۔ جب پوری کمپنیاں اس مفروضے کی بنیاد پر ماڈلز بناتی ہیں کہ AI تقریباً ہمیشہ واضح، متعلقہ اور درست جوابات فراہم کرے گا، تو ان کمپنیوں کے ساتھ کام کرنے والے لوگ بعض اوقات غلط معلومات کی بنیاد پر کام کر سکتے ہیں۔
اس کا مطلب یہ نہیں ہے کہ کمپنیاں اس بات سے واقف نہیں ہیں کہ AI فریب کا باعث بن سکتا ہے اور کرتا ہے۔ تاہم، کچھ کمپنیاں AI ماڈل تیار کرنے پر کام شروع کر رہی ہیں جو AI فریب کی بنیادی وجوہات کو براہ راست حل کرتی ہیں۔
حقیقی دنیا میں AI اعتماد کو بہتر بنانا: ایک کیس اسٹڈی
AI کی وشوسنییتا کو بہتر بنانے کے لیے کام کرنے والی ایک کمپنی Vertus ہے، ایک AI کمپنی جو آئل آف مین میں واقع ہے۔ بانیوں جولیس فرانک، ایلکس فوسٹر، اور میکل پریوتا نے ایک علمی استدلال کا نظام بنایا جو یہ پہچاننے کے لیے ڈیزائن کیا گیا کہ کچھ نمونے کب لاگو ہوتے ہیں اور کب نہیں ہوتے، اسی قسم کے مفروضوں سے بچنے میں مدد کرتے ہیں جو کہ بہت سے دوسرے LLMs اسی طرح کے حالات میں برقرار رہ سکتے ہیں۔
Vertus اپنے AI کو جانچنے کے لیے 2025 کے دوران مالیاتی منڈیوں میں اپنے سسٹم کی تجارت کر رہا ہے۔ اس وقت، کمپنی نے مثبت نتائج کی اطلاع دی.
ورٹس کا ماننا ہے کہ کامیابی اس نظام کی صلاحیت میں مضمر ہے کہ وہ مارکیٹ میں نئے نمونوں کو تیزی سے ڈھال لے۔ اس کو حاصل کرنے کے لیے، AI کو یہ پوچھنے کے لیے ڈیزائن کیا گیا ہے کہ آیا دیا گیا پیٹرن اب بھی کسی خاص صورتحال میں لاگو ہوتا ہے۔ اگر نہیں، تو نظام تبدیلی کو تسلیم کرتا ہے، روکتا ہے، اور حقیقت میں کیا ہو رہا ہے اس کے بارے میں اپنے استدلال کو دوبارہ تشکیل دیتا ہے۔
ایک طرح کی ناکامی سے محفوظ کے طور پر، AI کو صارفین کو یہ بتانے کے لیے ڈیزائن کیا گیا ہے کہ جب اسے کسی سوال کا جواب نہیں مل پاتا ہے، جس سے پراعتماد لیکن حقیقت میں غیر صحت بخش جوابات پیدا کرنے کے امکانات کم ہوتے ہیں۔
ورٹس کے ٹیسٹنگ کے نتائج مثبت آنے کے بعد، کمپنی نے صحت کی دیکھ بھال، سائنسی تحقیق، اور سپلائی چین مینجمنٹ میں اپنے AI سلوشنز کو پھیلانا شروع کیا۔
اگرچہ Vertus واحد ادارہ نہیں ہے جو AI کی وشوسنییتا کو بہتر بنانے کے لیے کام کر رہا ہے، لیکن اس کی کارکردگی ان طریقوں کے مفید اشارے کے طور پر کام کرتی ہے جو اب تک قابل قدر ثابت ہوئے ہیں۔ ایسے AI سسٹمز کی تعمیر جو آپ کو پہلے سے ہی معلوم ہونے والی چیزوں کے خلاف نئی معلومات کی جانچ کر سکیں اور صارفین کو بتا سکیں کہ وہ کیا نہیں جانتے ہیں، AI کے فریب کو کم کرنے کی طرف ایک اہم پہلا قدم ہے، لیکن یہ دیکھنا باقی ہے کہ کیا ایسے نظام جلد ہی عام ہو جائیں گے۔
ابھی بھی کرنا ہے
یہاں تک کہ 2022 میں ChatGPT کے متعارف ہونے کے ساتھ چیٹ بوٹس کے مقبول ہونے کے چند سال بعد، AI کے عملی اور نظریاتی استعمال کا دائرہ بہت وسیع ہو گیا ہے۔ اس تیزی سے پھیلاؤ نے بہت سی کمپنیوں کو لاگت میں کمی اور منافع کو بہتر بنانے میں مدد کی ہے، لیکن مختصر مدت میں ہونے والی اس نمایاں ترقی کے نتائج بھی ہیں۔
AI فریب نظر ایک سنگین مسئلہ بنی ہوئی ہے، اور جیسا کہ AI ادویات، مالیات، تعلیم، اور بہت سی دیگر ضروری صنعتوں میں تیزی سے جڑا ہوا ہے، سچائی کی قیمت پر فوری، قطعی جوابات فراہم کرنے کے رجحان کو دور کرنے کی ضرورت زیادہ اہم ہو جائے گی۔
AI کی صرف چند منٹوں میں معلومات کی وسیع مقدار کو جمع کرنے، منظم کرنے اور تجزیہ کرنے کی صلاحیت آنے والے سالوں میں تنظیموں کے لیے اہم کردار ادا کر سکتی ہے، لیکن مزید پیش رفت کے لیے AI کی وشوسنییتا کو بہتر بنانے کی کوششوں سے ہمدردی کی ضرورت ہو گی اس سے پہلے کہ لوگ اس کی موجودہ ناقص بنیاد پر توسیع کر سکیں۔
اس مضمون میں فراہم کردہ معلومات صرف عام معلوماتی اور تعلیمی مقاصد کے لیے فراہم کی گئی ہیں۔ اس کا مقصد قانونی، مالی، طبی، یا پیشہ ورانہ مشورہ نہیں ہے۔ قارئین کو صرف اس مضمون کے مندرجات پر انحصار نہیں کرنا چاہئے اور انہیں مشورہ دیا جاتا ہے کہ وہ اپنے مخصوص حالات کے مطابق پیشہ ورانہ مشورہ لیں۔ پیش کردہ معلومات کے استعمال یا انحصار سے براہ راست یا بالواسطہ طور پر پیدا ہونے والے کسی نقصان یا نقصان کے لیے ہم ذمہ دار نہیں ہوں گے۔
ڈیجیٹل رجحانات بیرونی شراکت داروں کے ساتھ تعاون کرتا ہے۔ تمام تعاون کنندہ کے مواد کا ڈیجیٹل رجحانات کے ادارتی عملے کے ذریعے جائزہ لیا جاتا ہے۔