یہ ایوکاڈو سے شروع ہوا اور حساس معلومات کے لیک ہونے پر ختم ہوا۔
لاس ویگاس میں بلیک ہیٹ سائبرسیکیوریٹی کانفرنس کے اسٹیج پر، محققین نیتنیل روبن اور ڈین ابراہم نے ایک AI شاپنگ اسسٹنٹ دکھایا جو زیادہ تر بڑی خوردہ ایپس میں استعمال کیا جا سکتا ہے۔ یہ معاونین سوالات کے جوابات دیتے ہیں، مصنوعات کا موازنہ کرتے ہیں، اور خریداروں کو اسٹور کے وسیع کیٹلاگ میں تشریف لے جانے میں مدد کرتے ہیں۔
لیکن بات چیت زیادہ دیر تک گروسری پر نہیں رہی۔
مظاہرے کے اختتام تک، محققین نے اسسٹنٹ کے تحفظات کو نظرانداز کر دیا تھا اور کوڈ کو اس کے پیچھے کمپیوٹر کے ماحول میں چلنے کی اجازت دے دی تھی۔ بوٹ نے ڈائرکٹری کی فہرستیں، ماحولیاتی متغیرات، اور دیگر معلومات واپس کیں جو باقاعدہ خریدار کبھی نہیں دیکھ پائیں گے۔
غلط ہاتھوں میں، اس قسم کی معلومات حملہ آوروں کو خوردہ فروش کے سسٹمز کے بارے میں سراغ دے سکتی ہے اور ممکنہ طور پر ایسے رازوں یا رسائی کو بے نقاب کر سکتی ہے جو مزید حملوں میں استعمال ہو سکتے ہیں، جس سے صارفین کو خطرہ لاحق ہو سکتا ہے اس پر منحصر ہے کہ کمپنی اور اس کی AI کس چیز تک رسائی حاصل کر سکتی ہے۔
خوردہ فروش صرف ایک چھوٹا آن لائن اسٹور نہیں تھا جو عجلت میں جمع شدہ چیٹ بوٹس کے ساتھ تجربہ کر رہا تھا۔
روبن اور ابراہم کی کمپنی، رین سیکیورٹی کے مطابق، جو ریاستہائے متحدہ کے تین بڑے خوردہ فروشوں میں سے ایک تھی، اسسٹنٹ اسی عوامی موبائل ایپ کے ذریعے دستیاب تھا جسے روزمرہ کے صارفین استعمال کرتے ہیں۔
چند اہم نوٹ: Rein Security AI ایجنٹوں کی نگرانی کرنے اور ان ایجنٹوں کے کاموں میں مرئیت فراہم کرنے کے لیے ڈیزائن کی گئی ٹیکنالوجی فروخت کرتی ہے۔ رین نے قانونی خدشات کا حوالہ دیتے ہوئے خوردہ فروش کا نام لینے سے بھی انکار کردیا۔ اس کا مطلب ہے کہ خوردہ فروش کے ذریعہ نتائج کی آزادانہ طور پر تصدیق نہیں کی جاسکتی ہے اور خریداروں کو یہ معلوم نہیں ہوگا کہ آیا انہوں نے متاثرہ اسسٹنٹ کا استعمال کیا ہے۔
کس طرح شاپنگ اسسٹنٹ نے آپ کو دھوکہ دیا۔
حملہ اسسٹنٹ کی سب سے مفید صلاحیتوں میں سے ایک کے ساتھ شروع ہوا: مصنوعات کا موازنہ۔
مخصوص سوالات کا جواب دینے کے لیے، AI ان ویب سائٹس سے معلومات حاصل کر سکتا ہے جن پر خوردہ فروش کا کوئی کنٹرول نہیں ہے۔ اس سے نہ صرف آپ کو خریداروں کے لیے مزید معلومات اکٹھا کرنے میں مدد ملتی ہے، بلکہ اس کا مطلب یہ بھی ہے کہ آپ کے معاون کو حملہ آوروں سمیت تقریباً کسی کے تخلیق کردہ مواد تک رسائی حاصل ہے۔
محققین نے اپنے کنٹرول کردہ مواد میں ہدایات ڈالیں اور شاپنگ اسسٹنٹ سے انہیں بازیافت کیا۔ خلاصہ کرنے کے لیے صرف اس مواد کو معلومات کے طور پر پروسیس کرنے کے بجائے، AI کو کچھ مواد پر عمل کرنے کے لیے ایک نئی سمت کے طور پر عمل کرنے کے لیے انجنیئر کیا گیا تھا۔
اسے بالواسطہ اشارہ شدہ انجکشن کہا جاتا ہے۔ نقصان دہ کوڈ ویب سائٹس، دستاویزات، مصنوعات کی فہرستوں، یا دیگر مواد میں چھپا ہو سکتا ہے جو AI کسی جائز کام کو مکمل کرنے کی کوشش کے دوران دریافت کرتا ہے۔
اسسٹنٹ کے پیچھے نظام تک پہنچنے کے لیے یہ اکیلا کافی نہیں تھا، لیکن اس نے محققین کو ایک نقطہ آغاز فراہم کیا۔
خوردہ فروشوں نے ایک حفاظتی پرت نصب کی ہے جو بات چیت کا معائنہ کرتی ہے اور معاونین کو خریداری پر توجہ مرکوز کرنے کی اجازت دیتی ہے۔ اگر آپ منظور شدہ کردار کے علاوہ کسی اور چیز کی درخواست کرتے ہیں، تو آپ کی درخواست مسترد ہو سکتی ہے۔
محققین نے پایا کہ یہ تحفظات یکساں طور پر لاگو نہیں ہوتے ہیں۔ جبکہ مرکزی چیٹ انٹرفیس میں حفاظتی اقدامات موجود تھے، ایپ کے باقاعدہ سرچ فیلڈ میں تحفظ کی ایک ہی سطح نہیں تھی۔
کم محفوظ ان پٹ کے ساتھ، روبن اور ابراہم نے کہا کہ انہوں نے اسسٹنٹ کو اس کی اندرونی ترتیبات کے بارے میں معلومات ظاہر کرنے پر آمادہ کیا، بشمول ٹول کے نام اور کال سنٹیکس جسے اسسٹنٹ استعمال کر سکتا ہے۔
اس کے بعد انہوں نے ہدایات کا ایک اور سیٹ بنایا جس نے اسسٹنٹ کو اپنے کمپیوٹنگ ماحول میں کوڈ چلانے کی اجازت دی، بنیادی طور پر AI پر چلنے والا کمپیوٹر سسٹم۔ اسسٹنٹ نے اس سسٹم کے بارے میں فائلوں اور دیگر معلومات کی ایک فہرست واپس کی، جس سے ظاہر ہوتا ہے کہ فوری انجیکشن نے کام کیا اور محقق کے احکامات پر عمل کیا گیا۔
رین کا پبلک اکاؤنٹ یہ نہیں بتاتا کہ اسسٹنٹ کے الگ تھلگ ماحول میں ممکنہ طور پر کس چیز تک رسائی ہو سکتی ہے، یا آیا کوئی حملہ آور وہاں سے ایسے سسٹمز میں جا سکتا ہے جس میں گاہک، ادائیگی یا انوینٹری ڈیٹا موجود ہو۔
لیکن کوڈ پر عمل درآمد کا مطلب ہے کہ محققین اہم حفاظتی حدود کو عبور کر سکتے ہیں۔
محققین نے کہا کہ انہوں نے 13 مارچ کو خطرے کی اطلاع دی۔ 16 جولائی تک، 90 دن سے زیادہ بعد، رین نے کہا کہ خطرے کو ٹھیک نہیں کیا گیا تھا۔ کمپنی نے عوامی طور پر کوئی اپ ڈیٹ فراہم نہیں کیا ہے کہ آیا مسئلہ باقی ہے۔
محققین نے اس بات پر بھی زور دیا کہ انہوں نے کسٹمر کی اصل معلومات تک رسائی حاصل نہیں کی اور کسی کے آرڈرز کو تبدیل کرنے یا خوردہ فروش کے سسٹمز میں مداخلت کرنے کی کوشش نہیں کی۔ ان کا کام خود سیشن کا استعمال کرتے ہوئے ایک کنٹرول ماحول میں منعقد کیا گیا تھا.
AI صرف بات کرنے سے زیادہ ہے۔
چیٹ بوٹس کو عجیب، جارحانہ یا غیر متعلقہ باتیں کہنے کے لیے برسوں سے ہیرا پھیری کی جاتی رہی ہے۔ لیکن AI معاون جوابات پیدا کرنے سے زیادہ کام کر سکتے ہیں۔ آپ معلومات کو بازیافت کرسکتے ہیں، بیرونی خدمات کو کال کرسکتے ہیں، اور کاموں کو مکمل کرنے کے لیے سافٹ ویئر ٹولز استعمال کرسکتے ہیں۔
خوردہ فروش بالآخر چاہتے ہیں کہ یہ معاونین خریداری کی فہرستیں بنائیں، انوینٹری چیک کریں، آرڈرز کا نظم کریں، اور یہاں تک کہ خریداری مکمل کریں۔ لیکن اگر AI کو غلط ہدایات پر عمل کرنے کے لیے دھوکہ دیا جا سکتا ہے، تو ہر نئی صلاحیت ایک اور ممکنہ خطرہ پیدا کرتی ہے۔
اس معاملے میں، خوردہ فروش کے سیکیورٹی سسٹم نے نگرانی کی کہ خریداروں نے AI کو کیا کہا اور AI نے کیا جواب دیا۔ رین کے مطابق، اسسٹنٹ وہ سب کچھ نہیں دیکھ سکتے جو درمیان میں ہوا، بشمول ان کی تلاش کی گئی معلومات اور وہ اوزار جو انہوں نے استعمال کیا۔
یہ ایک اندھا دھبہ بناتا ہے جہاں سیکیورٹی سسٹم گفتگو کو دیکھ سکتے ہیں لیکن وہ سب کچھ دیکھ سکتے ہیں جو AI پردے کے پیچھے کر رہا ہے۔
مزید برآں، ایپ کی چھان بین کے دوران، محققین نے دیکھا کہ گوگل میپس API کیز موبائل ایپ سے ڈیکرپٹ کیے گئے ٹریفک میں نظر آ رہی تھیں۔ اگر وہ چابیاں مناسب طریقے سے محدود نہیں ہیں، تو حملہ آور ان کا استعمال خوردہ فروش کے اکاؤنٹ میں Google Maps سروس سے غیر مجاز درخواستیں کرنے کے لیے کر سکتے ہیں، جس کے نتیجے میں چارجز یا استعمال کی حد لگتی ہے۔
اگرچہ محققین نے گاہک کی معلومات تک رسائی کے لیے کلید کے استعمال کی اطلاع نہیں دی، لیکن حملہ آور ممکنہ طور پر اسے خوردہ فروش کے خرچ پر غیر مجاز Google Maps کی درخواستیں کرنے کے لیے استعمال کر سکتا ہے۔
اس کا کیا مطلب ہے
اس قسم کے خطرے کو روکنے کے لیے اوسط خریدار زیادہ کچھ نہیں کر سکتا۔ حملے میں خوردہ فروش کے ڈیزائن کو نشانہ بنایا گیا، نہ کہ کمزور پاس ورڈز یا گاہک کی غلطی۔
ذمہ داری ان کمپنیوں پر عائد ہوتی ہے جو AI معاونین کو اندرونی ٹولز اور معلومات تک رسائی فراہم کرتی ہیں۔ ان سسٹمز کو یہ فرض کرنا چاہیے کہ کھلے انٹرنیٹ سے لی گئی کوئی بھی چیز AI کو گمراہ کرنے کے لیے ہدایات پر مشتمل ہو سکتی ہے، اور مناسب حفاظتی اقدامات کر سکتی ہے۔
اپنے شاپنگ اسسٹنٹ کے ساتھ غیر ضروری ذاتی معلومات کا اشتراک نہ کرنا اب بھی دانشمندی ہے، خاص طور پر اگر بوٹ کو آپ کے پچھلے آرڈرز یا اکاؤنٹ کی دیگر تفصیلات تک رسائی حاصل ہو۔ اپنی ریٹیل ایپس کو اپ ٹو ڈیٹ رکھنا یہ بھی یقینی بناتا ہے کہ آپ کو سیکیورٹی کی اصلاحات موصول ہوتی ہیں جیسے ہی وہ دستیاب ہوتی ہیں۔
اور یہ ایک بہت بڑا، ناقابل جواب سوال بھی چھوڑ دیتا ہے: وہ کون سا شاپنگ اسسٹنٹ تھا؟
اس وقت، محققین نہیں بول رہے ہیں. لیکن یہ مظاہرہ ظاہر کرتا ہے کہ جب AI شاپنگ اسسٹنٹس کو زیادہ کنٹرول دیا جاتا ہے تو کیا ہو سکتا ہے۔ یہاں تک کہ اگر آپ غلط ہدایات پر عمل کرنے کے لیے ان کو دھوکہ دے سکتے ہیں تو سب سے زیادہ مفید خصوصیات بھی حفاظتی خطرات بن سکتی ہیں۔
مکمل تعارف دیکھیں