LLM جتنے طاقتور ہو سکتے ہیں، تمام LLMs میں ایک عام کمزوری ہے: فریب کاری۔ ان وجوہات کی بنا پر جو ہم نہیں سمجھتے، AI ماڈلز میں ایسے حالات پیدا کرنے کی عادت ہوتی ہے جب ہم ان سے کم از کم توقع کرتے ہیں۔ آپ کا جواب درست ہو گا اگر آپ اچھے ذرائع اور متعلقہ معلومات استعمال کریں گے۔ لیکن اچانک AI جھوٹے دعوے کر رہا ہے یا ستم ظریفی کے فورم کے تبصروں کو حقیقت کے طور پر غلط تشریح کر رہا ہے۔ (اس طرح گوگل کا AI جائزہ آپ کے پیزا میں گلو شامل کرنے کی سفارش کرتا ہے۔) کچھ LLM دوسروں کے مقابلے میں کم فریب کر سکتے ہیں، لیکن کوئی بھی اس سے محفوظ نہیں ہے۔ یہی وجہ ہے کہ جب بھی آپ چیٹ بوٹ استعمال کریں گے، آپ کو اسکرین پر کسی نہ کسی قسم کی وارننگ نظر آئے گی جس سے آپ کو معلوم ہو جائے گا کہ AI غلطی کر سکتا ہے۔
ایپل کا AI پلیٹ فارم ایپل انٹیلی جنس بھی اس سے مستثنیٰ نہیں ہے۔ جب کمپنی نے پہلی بار AI لانچ کیا تو اس میں نوٹیفکیشن کے خلاصے بطور "فائدہ” شامل تھے۔ لیکن جب فیچر نے نیوز الرٹس کا غلط طور پر خلاصہ کرنا شروع کیا تو ایپل انٹیلی جنس کو فوری طور پر واپس جانا پڑا، جیسا کہ اس نے بی بی سی کی ایک سرخی کا خلاصہ یہ پڑھنے کے لیے کیا کہ یونائیٹڈ ہیلتھ کیئر شوٹنگ کے ملزم Luigi Mangione نے جیل میں خودکشی کر لی۔ کمپنی نے بعد میں اس خصوصیت کو بحال کیا، لیکن چند اضافی گارڈریلز کے ساتھ، جیسے کہ خبروں کے خلاصے کو ترچھے الفاظ میں ڈسپلے کرنا۔
ایپل انٹیلی جنس ایک نیا لفظ بنا سکتا ہے۔
میں جمعرات کو r/iOS سبریڈیٹ پر اس پوسٹ سے ٹھوکر کھا گیا۔ یہ پوسٹ اے آئی ہیلوسینیشن کی بحث میں ایک دلچسپ اضافہ کرتی ہے۔ پوسٹ میں لکھا ہے: "کسی اور کو ان کے AI خلاصوں میں جعلی الفاظ نظر آتے ہیں؟” یہ منسلک اسکرین شاٹس کے ساتھ Acme Weather ایپ سے اطلاعات کا خلاصہ دکھاتا ہے۔ پہلا جملہ یہ ہے: "ایک گھنٹے تک ہلکی بارش۔” اوہ، بارش ہو رہی ہے۔ یہ صرف کم از کم ایک گھنٹے کے لیے ہے۔ انتظار کرو غیر موجود؟”
اگرچہ یہ ممکنہ طور پر ایک حقیقی لفظ کی طرح لگتا ہے، inbixtent دراصل ایک مکمل طور پر بنا ہوا لفظ ہے۔ پوسٹر نے بالکل وہی شئیر نہیں کیا جو نوٹیفکیشن میں کہا گیا ہے، اس لیے ہم نہیں جانتے کہ Apple Intelligence یہاں کن الفاظ پر کام کر رہی ہے۔ ہم کیا جانتے ہیں کہ فوسٹر نے تین بار "دی غیر تبدیل شدہ” کو دیکھا۔ اور وہ اکیلے نہیں ہیں۔ OP کی جانب سے استعمال ہونے والی ویدر ایپ کا مذاق اڑاتے ہوئے جابس کو دیکھتے ہوئے، پوسٹ پر کچھ تبصرے اس بات کی تصدیق کرتے ہیں کہ دوسروں نے ایپل انٹیلی جنس کو نوٹیفکیشن کے خلاصوں میں جعلی الفاظ بناتے ہوئے دیکھا ہے۔ ایک تبصرہ کرنے والے نے کہا کہ اس نے ایک سمری میں "فلمیٹنگ” اور میل سمری میں "ٹرنک” دیکھا ہے۔ ایک اور شخص نے کہا کہ اس نے اسے دو مواقع پر سختی سے نہیں بلکہ سختی سے دیکھا ہے۔
اب تک آپ کا کیا خیال ہے؟
مجھے انٹرنیٹ پر اس رجحان کو ظاہر کرنے والی کوئی دوسری مثال نہیں ملی، اور میں ذاتی طور پر اپنے آئی فون پر نوٹیفکیشن کے خلاصے استعمال نہیں کرتا، اس لیے میں نے خود یہ مسئلہ نہیں دیکھا۔ یہ واضح نہیں ہے کہ یہ مسئلہ کتنا وسیع ہے یا آیا یہ مخصوص iOS ورژنز، مخصوص آلات یا کچھ ایپس تک محدود ہے۔ تاہم، تبصرہ کرنے والوں میں سے ایک کا مندرجہ ذیل نظریہ ہے: ان کا ماننا ہے کہ ایپل انٹیلی جنس کے ذریعے استعمال ہونے والے آن ڈیوائس اے آئی ماڈل قابل قبول مرکب الفاظ بناتے ہیں جب وہ خود اصل جملے کو مختصر نہیں کر سکتے۔ ان کے مطابق، AI "yolos” کو ایک "vibes-word” جیسے imbixtent کہتے ہیں۔ ان کا کہنا ہے کہ ایسا اکثر ویدر ایپ میں سمری کے ذریعے ہوتا ہے۔
کیا ایپل انٹیلی جنس آپ کے خلاصے میں الفاظ کو ترتیب دیتی ہے؟
ایک بار پھر، ہم نہیں جانتے کہ آیا یہ ایپل صارفین کی اکثریت کو متاثر کرتا ہے یا صرف ایک چھوٹی تعداد۔ حقیقت یہ ہے کہ مجھے صرف ایک ہی پوسٹ مل سکتی ہے جس میں دو تبصرہ کنندگان ایک جیسے تجربے کا اشتراک کرتے ہیں مجھے یقین کرنے پر مجبور کرتا ہے کہ یہ بعد کی ہے، لیکن مجھے اسی طرح کے تجربے والے کسی سے سننے میں دلچسپی ہوگی۔ اگر آپ Apple Intelligence’s Notification Digests استعمال کرتے ہیں، تو براہ کرم ہمیں بتائیں کہ اگر آپ کو کوئی خراب الفاظ نظر آتے ہیں۔ احتیاط سے مشاہدہ کرنے کے لیے آپ کو فیچر آن کرنے کی ضرورت پڑ سکتی ہے۔