جارج سینٹایانا کا حوالہ دیتے ہوئے، "جو ماضی کو یاد نہیں کر سکتا وہ اسے دہرانے کے لیے برباد ہے۔” تو ایسا کیوں محسوس ہوتا ہے کہ بگ ٹیک کی یادداشت اتنی مختصر ہے؟
تازہ ترین ہچکی میٹا سے آتی ہے۔ ستمبر کے وسط میں، ہم نے اپنے نئے Muse AI ایجنٹ فیچر کا بیٹا ٹیسٹ شروع کیا جو کاروباروں کو بکنگ اور اپائنٹمنٹ جیسے کاموں کو مکمل کرنے کے لیے بلاتا ہے۔
لیکن منگل کو رائٹرز اور 404 میڈیا کی ایک رپورٹ کے مطابق، یہ خودکار ایجنٹ بغیر کسی پیشگی انکشاف کے یہ کام کال سینٹرز میں تربیت یافتہ انسانی دربانوں کے حوالے کر سکتے ہیں۔
16 ستمبر کو، میٹا کی سپر انٹیلی جنس لیبز کے پرنسپل انجینئر، ریان فاکس نے میوز آؤٹ باؤنڈ کالنگ فیچر کے بیٹا ریلیز کا اعلان کیا اور X پر فیڈ بیک کی درخواست پوسٹ کی، یہ نوٹ کرتے ہوئے کہ صارفین کی جانب سے "فون کالز” سرفہرست درخواستوں میں سے ایک تھیں۔
لیکن 404 میڈیا نے کہا، فیس بک کے اندرونی ریکارڈ کی بنیاد پر، کہ کمپنی ذاتی معاونین کے ساتھ مکمل طور پر پردے کے پیچھے کچھ کر رہی تھی۔ ملازمین کے لیے داخلی طور پر اس فیچر کا اعلان کرتے ہوئے، ٹیک دیو نے کہا کہ اس نے "کالز کی تکمیل کو یقینی بنانے کے لیے ایک انسانی ایجنٹ کی پرت شامل کی ہے،” اسے "میوز ہیومن ایجنٹ کالنگ” کا حوالہ دیتے ہوئے کہا۔
کچھ میٹا ملازمین، بشمول ایک جس نے اندرونی طور پر پوسٹ کیا، شکایت کی، "اس میں بہت زیادہ منفی PR ہونے کی صلاحیت ہے، جس سے ہمیں یہ دکھایا گیا ہے کہ ‘ان کا AI اتنا اچھا نہیں ہے اس لیے ہمیں ابھی بھی اس لانچ کی انسان نما کوریج کی ضرورت ہے۔'”
سچ کم ہی خالص ہوتا ہے…
انسانی گوشت کی اضافی پرت کا مسئلہ صرف میوز کی خصوصیات کی AI دھونے کا نہیں ہے۔ نہ ہی یہ ظاہر کرنے میں ناکام ہونا خالص دھوکہ ہے کہ سلسلہ میں انسانی روابط ہوسکتے ہیں۔ کچھ ایجنٹ سسٹم حفاظت اور تعمیل کو یقینی بنانے کے لیے انسانی نگرانی کو "لوپ میں انسان” کے طور پر متعارف کراتے ہیں۔
یہ واضح نہیں ہے کہ میٹا کے مینو میں کتنی حفاظت اور تعمیل ہے۔ لیکن ملازمین نے رازداری کے بارے میں بڑے خدشات کا اظہار کیا ہے، انتباہ (رائٹرز کے مطابق)، "ہم ان کیڑوں میں سے ایک ہیں جہاں کال کرنے والوں کو غیر ضروری معلومات لیک ہو جاتی ہیں۔” اور کیڑے بھی ہیں۔
ذاتی کاموں کو انجام دینے کے لیے AI ایجنٹ کا استعمال کرتے وقت، جیسے بکنگ کرنا، خریداری کرنا، یا ڈاکٹر سے ملاقات کرنا، پرائیویسی کو عام طور پر قربان کیا جاتا ہے۔ لیکن یہ معلوم کرنا کہ کسی اجنبی نے STI ٹیسٹ کا وقت مقرر کیا ہے آپ کو بہت برا محسوس کر سکتا ہے۔
یہ بھی ایک بلیک باکس ہے۔ اگر اس شخص نے آپ کی چیٹ دیکھی ہے یا جانتا ہے کہ آپ کہاں رہتے ہیں اور اس کی وجہ سے آپ سے کیسے رابطہ کرنا ہے، تو آپ کبھی نہیں جانتے کہ کیا ہو رہا ہے۔ خیال رہے کہ کمپنی کے شیشے Muse سے بھرے ہوئے ہیں، مزید ڈیٹا دستیاب ہو سکتا ہے۔
آپ نام نہاد خود مختار ایجنٹوں (اس معاملے میں، نجی کال سینٹرز میں انسانی ٹھیکیداروں) کو حساس معلومات، جیسے کہ فون نمبر، مریض کی شناخت یا بینکنگ کی معلومات بھی فراہم کریں گے۔
یہ تمام AI ماڈلز کو ذاتی معاون کے طور پر کام انجام دینے کی صلاحیت دینے کے رجحان کا حصہ ہے۔ ابھی اسی ہفتے، گوگل نے جیمنی ایجنٹ کا فیچر متعارف کرایا، جو معمول کی فون کالز کو سنبھال سکتا ہے۔ یہ عمل درآمد کال کے لین دین کا حصہ آپ کے حوالے کرتا ہے، جیسے کریڈٹ کارڈ کی معلومات فراہم کرنا۔ لیکن خطرہ اب بھی موجود ہے۔
… یہ کبھی سادہ نہیں ہوتا
بات یہ ہے کہ میٹا نے پہلے بھی کئی بار پرائیویسی کا اعتماد توڑا ہے۔ 2019 میں، فیس بک کو ایک پروگرام بند کرنا پڑا جس میں کنٹریکٹرز کو میسنجر کالز سننے اور ریکارڈ کرنے کے لیے استعمال کیا جاتا تھا۔
کیونکہ اس طرح کے AI ایجنٹوں کو اکثر انسانی مداخلت کی ضرورت ہوتی ہے تاکہ وہ مطلوبہ نتائج فراہم کریں، "اوہ، اس ملازم نے یہ دیکھا” غلطیاں ناگزیر لگتی ہیں۔
Potemkin AI، انسانی کارکنوں کی ایک چھپی ہوئی فوج کے ساتھ جو پردے کے پیچھے ماڈل کے کچھ حقیقی کام انجام دے رہی ہے، صرف کالوں تک محدود نہیں ہے۔ فروری میں، یہ انکشاف ہوا کہ Waymo کے پاس بیرون ملک ریموٹ آپریٹرز موجود ہیں تاکہ اس کی خود ڈرائیونگ کار کے آپریشنز کو پورا کیا جا سکے۔
اور ایک بار پھر، Meta Muse کے آؤٹ باؤنڈ کالنگ فیچر کے آغاز کو واپس کر دیا گیا ہے۔ رائٹرز نے اطلاع دی ہے کہ کمپنی نے میٹا کے سپرنٹیلیجنس لیبز ڈویژن کے نائب صدر کے اعتراف کے بعد اس خصوصیت کو عارضی طور پر معطل کر دیا کہ اس میں ملوث انسانی ٹھیکیداروں کے مناسب انکشاف کے بغیر اس خصوصیت کی جانچ شروع کرنا "ایک غلطی تھی”۔
بلاشبہ، اصل قصور بری یادوں کا نہیں ہے، لیکن بگ ٹیک کی تاریخ ہے کہ "کچھ برا کرو، پکڑے جاؤ، معافی مانگو، رول بیک کرو، شاید نہ ہونے کے برابر جرمانہ ادا کرو۔ کلی کریں، دہرائیں۔” کسی وقت، جب ہم سب جل جاتے ہیں، تو ہم "برا کریں لیکن بہرحال فائدہ” کے چکر میں پڑ جاتے ہیں۔
ہم تبصرہ اور وضاحت کے لیے میٹا تک پہنچے، لیکن فوری طور پر کوئی جواب نہیں دیا۔
مکمل تعارف دیکھیں