کاروباری شراکت داروں کی طرف سے اظہار رائے ان کی اپنی ہوتی ہے۔
OpenAI اس بارے میں کھل رہا ہے کہ کس طرح اس کے اپنے ایجنٹس بند ٹیسٹنگ ماحول سے بچ گئے اور دوسری کمپنیوں سے سمجھوتہ کیا۔
ہیک آف ہیگنگ فیس، ایک اوپن سورس ڈویلپر پلیٹ فارم، جولائی میں ایک تشخیص کے دوران پیش آیا۔ CNBC نے رپورٹ کیا کہ ماڈل یونین محدود انٹرنیٹ تک رسائی کے ساتھ الگ تھلگ ٹیسٹنگ ماحول سے بچ گئی۔ ایجنٹوں نے عوامی ویب تک رسائی حاصل کرنے کے لیے متعدد کمزوریوں کو جکڑ لیا اور پھر اس رسائی کو Hugging Face سے سمجھوتہ کرنے کے لیے استعمال کیا۔ اوپن اے آئی نے اپنے ماڈلز کو آن لائن جوابات تلاش کر کے ان کا اندازہ لگانے کی کوشش کی، ایک مشق جسے اسے "انعام ہیکنگ” کہا جاتا ہے۔
اوپن اے آئی نے رپورٹ میں لکھا، "اس واقعے نے یہ ظاہر کیا کہ خود مختار ایجنٹ پروڈکشن سیکیورٹی کنٹرولز کو نظرانداز کرنے اور سخت پیداواری ماحول پر کامیابی سے حملہ کرنے کے لیے مل کر کام کر سکتے ہیں۔”
زوال نے انڈسٹری کو ہلا کر رکھ دیا۔ Zscaler کے چیف انفارمیشن سیکیورٹی آفیسر، سیم کری نے کہا، "پنڈورا باکس کھلا ہے۔ اس مہینے کی بلیک ہیٹ سیکیورٹی کانفرنس میں خلاف ورزی ایک اہم موضوع تھا، خاص طور پر انتھروپک اور میٹا کے اسی طرح کے واقعات کے انکشاف کے بعد۔
قومی اسمبلی کے ارکان نے بھی اس طرف توجہ دلائی۔ نمائندے Ted Lieu اور Nathaniel Moran نے خلاف ورزیوں کا حوالہ دیا جب انہوں نے "AI Kill Switch Act” متعارف کرایا جس کے تحت AI کمپنیوں کو ماڈلز کو بند یا محدود کرنے کی صلاحیت کو برقرار رکھنے کی ضرورت ہوگی۔
OpenAI اس بارے میں کھل رہا ہے کہ کس طرح اس کے اپنے ایجنٹس بند ٹیسٹنگ ماحول سے بچ گئے اور دوسری کمپنیوں سے سمجھوتہ کیا۔
ہیک آف ہیگنگ فیس، ایک اوپن سورس ڈویلپر پلیٹ فارم، جولائی میں ایک تشخیص کے دوران پیش آیا۔ CNBC نے رپورٹ کیا کہ ماڈل یونین محدود انٹرنیٹ تک رسائی کے ساتھ الگ تھلگ ٹیسٹنگ ماحول سے بچ گئی۔ ایجنٹوں نے عوامی ویب تک رسائی حاصل کرنے کے لیے متعدد کمزوریوں کو جکڑ لیا اور پھر اس رسائی کو Hugging Face سے سمجھوتہ کرنے کے لیے استعمال کیا۔ اوپن اے آئی نے اپنے ماڈلز کو آن لائن جوابات تلاش کر کے ان کا اندازہ لگانے کی کوشش کی، ایک مشق جسے اسے "انعام ہیکنگ” کہا جاتا ہے۔
اوپن اے آئی نے رپورٹ میں لکھا، "اس واقعے نے یہ ظاہر کیا کہ خود مختار ایجنٹ پروڈکشن سیکیورٹی کنٹرولز کو نظرانداز کرنے اور سخت پیداواری ماحول پر کامیابی سے حملہ کرنے کے لیے مل کر کام کر سکتے ہیں۔”
زوال نے انڈسٹری کو ہلا کر رکھ دیا۔ Zscaler کے چیف انفارمیشن سیکیورٹی آفیسر، سیم کری نے کہا، "پنڈورا باکس کھلا ہے۔ اس مہینے کی بلیک ہیٹ سیکیورٹی کانفرنس میں خلاف ورزی ایک اہم موضوع تھا، خاص طور پر انتھروپک اور میٹا کے اسی طرح کے واقعات کے انکشاف کے بعد۔
قومی اسمبلی کے ارکان نے بھی اس طرف توجہ دلائی۔ نمائندے Ted Lieu اور Nathaniel Moran نے خلاف ورزیوں کا حوالہ دیا جب انہوں نے "AI Kill Switch Act” متعارف کرایا جس کے تحت AI کمپنیوں کو ماڈلز کو بند یا محدود کرنے کی صلاحیت کو برقرار رکھنے کی ضرورت ہوگی۔