جسمانی ماحول میں خود مختار AI نظاموں کی جانچ کی حکمرانی۔

خود مختار AI نظام سافٹ ویئر کے ماحول سے آگے اور گوداموں، ترسیل کے نیٹ ورکس اور عوامی جگہوں میں منتقل ہونا شروع کر رہے ہیں۔ یہ ترقی اس طرف توجہ مبذول کراتی ہے کہ آیا موجودہ AI ضوابط جسمانی ماحول میں کام کرنے والے نظاموں کا احاطہ کرتے ہیں۔

زیادہ تر موجودہ AI گورننس فریم ورکس نے ماڈل آؤٹ پٹ اور آن لائن نقصان پر توجہ مرکوز کی ہے، بشمول تعصب، غلط معلومات، اور نقصان دہ مواد۔ لاگو کردہ AI سسٹمز جسمانی ماحول میں خطرات لاحق ہوتے ہیں جہاں ناکامیاں انفراسٹرکچر، پراپرٹی یا انسانی حفاظت کو متاثر کر سکتی ہیں۔

سنگاپور کی Infocomm میڈیا ڈویلپمنٹ اتھارٹی نے 20 مئی کو ایجنٹ AI کے لیے اپنے ماڈل AI گورننس فریم ورک کا ورژن 1.5 جاری کیا۔ یہ فریم ورک AI ایجنٹوں کو تعینات کرنے والی تنظیموں کے لیے رہنمائی پیش کرتا ہے جو صارف کے طے شدہ اہداف کو پورا کرنے کے لیے متعدد مراحل میں منصوبہ بندی، فیصلے اور کارروائیاں کر سکتی ہیں۔

فریم ورک کے مطابق، ایجنٹ ٹولز، ایکسٹرنل سسٹمز اور دیگر ایجنٹس کے ساتھ بات چیت کر سکتے ہیں، بشمول وہ سسٹم جو ڈیٹا بیس کو اپ ڈیٹ کرتے ہیں، فائلیں لکھتے ہیں، ڈیوائسز کو کنٹرول کرتے ہیں، یا لین دین کرتے ہیں۔ رسائی کنٹرول، نگرانی، اور انسانی منظوری کو تعیناتی کے لیے گورننس کے اقدامات میں درج کیا گیا ہے۔

AI جسمانی نظاموں میں منتقل ہوتا ہے۔

سنگاپور میں گزشتہ ہفتے کے AI سربراہی اجلاس میں، روبوٹکس اور فعال AI پر بات چیت ہوئی جس میں روایتی سافٹ ویئر ریگولیشن کے مقابلے عام طور پر ہوا بازی، صنعتی نظام اور اہم بنیادی ڈھانچے کی نگرانی سے متعلق آپریشنل سیفٹی کے مسائل پر توجہ مرکوز کی گئی۔

پیش کنندگان نے اس بات پر بھی تبادلہ خیال کیا کہ آیا خود مختار نظام طویل عرصے تک غیر متوقع حقیقی دنیا کے ماحول میں محفوظ اور قابل اعتماد طریقے سے کام کر سکتے ہیں۔

سنگھوا یونیورسٹی کے AI انڈسٹری ریسرچ انسٹی ٹیوٹ کے بانی ڈائریکٹر ڈاکٹر یا کن ژانگ نے کہا کہ لاگو کردہ AI سسٹم پہلے سے ہی خود مختار سافٹ ویئر سے وابستہ خطرات کو بڑھا دیتے ہیں۔ انہوں نے کہا کہ اس خلل کا براہ راست اثر نقل و حمل کے نظام، ڈرونز، لاجسٹک نیٹ ورکس اور اہم انفراسٹرکچر پر پڑ سکتا ہے۔

"ڈیجیٹل دائرے میں کسی بھی خطرے کو جسمانی دائرے میں بڑھا دیا جائے گا، اور جسمانی دائرے کے جسمانی نتائج ہوں گے،” ژانگ نے کہا۔ ایم ایل ایکس اوپر کے قریب۔

انہوں نے مزید کہا کہ جیسے جیسے اے آئی سسٹمز جسمانی آپریشنز میں مزید گہرائی میں شامل ہو جائیں گے، گاڑیاں، ڈرونز، سمارٹ گرڈز اور دیگر انفراسٹرکچر بے نقاب ہو سکتے ہیں۔

پریزینٹرز نے گورننس کے مسائل کے طور پر استحکام، آپریشنل مانیٹرنگ، اور تعیناتی کے بعد کی یقین دہانی پر تبادلہ خیال کیا۔ سمٹ کے مباحثوں نے ایک تعیناتی پر مبنی گورننس ماڈل کی طرف اشارہ کیا جو صرف ایک بار کی تصدیق کے بجائے نقلی، ٹیلی میٹری، اور تکراری جانچ کے ارد گرد بنایا گیا تھا۔

IMDA کا فریم ورک بتدریج رول آؤٹ، مسلسل نگرانی، اور تعیناتی کے بعد اضافی جانچ کی بھی سفارش کرتا ہے۔ ایجنٹ اپنے ماحول کے ساتھ متحرک طور پر تعامل کرتے ہیں اور لانچ سے پہلے تمام خطرات کا اندازہ نہیں لگایا جا سکتا۔

نگرانی تعیناتی کا مسئلہ بن جاتا ہے۔

گراب، جو سنگاپور کے پنگگول علاقے میں خود سے چلنے والی کاروں اور ڈیلیوری روبوٹ کی جانچ کر رہا ہے، نے کہا کہ تعیناتی گورننس نقلی، جانچ اور مسلسل نگرانی پر بہت زیادہ انحصار کرتی ہے۔

گراب کے چیف ٹکنالوجی آفیسر سوتھن تھامس پیراڈاتھیتھ نے ایک سمٹ پینل کے دوران کہا کہ "ہم بہت ساری نقلیں کرتے ہیں اور پرائیویٹ اور پبلک کورسز پر بہت زیادہ ٹیسٹنگ کرتے ہیں تاکہ یہ یقینی بنایا جا سکے کہ روبوٹ قابل اعتماد ہیں۔”

انہوں نے مزید کہا کہ "ہمیں پہلے سیکڑوں روبوٹس تک سکیل کرنے سے پہلے سمیولیشن اور چند روبوٹس کا استعمال کرتے ہوئے مسئلے کو حل کرنے کی ضرورت ہے۔”

گراب نے ایک مانیٹرنگ سسٹم کی طرف بھی اشارہ کیا جو روبوٹ کی کارکردگی کو ٹریک کرنے اور تعیناتی کے بعد غیر متوقع غلطیوں کا پتہ لگانے کے لیے ڈیزائن کیا گیا ہے۔

"بہت سارے مسائل ہیں جو سامنے آسکتے ہیں،” پیراادتھ نے کہا۔

IMDA فریم ورک کے مطابق، تنظیموں کو ڈیٹا تک رسائی، بیرونی نظام تک رسائی، خود مختاری، اور کام کی پیچیدگی کی بنیاد پر ایجنٹ AI کے استعمال کے معاملات کا جائزہ لینا چاہیے۔ یہ ایجنٹ کی کارروائیوں، فریق ثالث کی شمولیت، اور نظام کی مجموعی پیچیدگی کی گنجائش اور الٹ جانے کی بھی نشاندہی کرتا ہے۔

ہم ٹولز اور سسٹمز تک ایجنٹ کی رسائی کو محدود کرنے، کم سے کم استحقاق کو نافذ کرنے، اور ایجنٹ کے ورک فلو کے لیے معیاری آپریٹنگ طریقہ کار کی وضاحت کرنے کی بھی تجویز کرتے ہیں۔ تنظیموں کو ایجنٹوں کے خراب ہونے پر انہیں آف لائن لے جانے کا طریقہ کار بھی قائم کرنا چاہیے۔

ذمہ داری مزید اداکاروں میں پھیلی ہوئی ہے۔

ایم ایل ایکس یہ اطلاع دی گئی ہے کہ لاگو کردہ AI سسٹمز ترقی، مینوفیکچرنگ اور تعیناتی میں متعدد فریقوں کو شامل کر سکتے ہیں۔ اس میں AI ڈویلپرز، روبوٹ مینوفیکچررز، سیمی کنڈکٹر سپلائرز، اور انفراسٹرکچر آپریٹرز شامل ہیں۔

ایم ایل ایکس انہوں نے یہ بھی نوٹ کیا کہ ذمہ داری تفویض کرنا زیادہ مشکل ہوسکتا ہے اگر سسٹمز سافٹ ویئر اپ ڈیٹس، ٹیلی میٹری، اور آپریشنل ڈیٹا کے ذریعے تعیناتی کے بعد موافقت جاری رکھیں۔

IMDA کا کہنا ہے کہ یہاں تک کہ جب ایجنٹ خود مختار طور پر کام کرتے ہیں، تنظیمیں اور انسان ان کے اعمال کے ذمہ دار ہیں۔ فریم ورک ماڈل اور پلیٹ فارم فراہم کرنے والوں سے لے کر تعینات کرنے والوں، ٹول فراہم کرنے والوں اور آخری صارفین تک، ایجنٹ AI ویلیو چین میں واضح جوابدہی کا مطالبہ کرتا ہے۔

اپلائیڈ میٹریلز نے کہا کہ بڑے پیمانے پر روبوٹکس کی تعیناتی بھی سیمی کنڈکٹر اکنامکس اور سسٹم کے انضمام سے منسلک ہے۔ کمپنی کے چیف ٹیکنالوجی آفیسر اوم نالاماسو نے کہا کہ روبوٹک نظام بہتر سینسرز، توانائی کی کارکردگی، جدید پیکیجنگ اور کمپیوٹنگ فن تعمیر پر انحصار کرے گا۔

Nalamasu نے کہا کہ روبوٹک نظاموں کے لیے مخصوص صنعتی ماحولیاتی نظام کے لیے ڈیزائن کیے گئے مقصد سے بنائے گئے ڈیزائن کی ضرورت ہوتی ہے نہ کہ ایک ہی سائز کے تمام حل کے لیے۔

چینی روبوٹکس سٹارٹ اپ گالبوٹ کے چیف اسٹریٹیجی آفیسر ژاؤ یولی نے کہا کہ چین حکومت کی حمایت یافتہ ٹیسٹ بیڈز، صنعت کی شراکت داری اور طویل مدتی مالیاتی منصوبوں کے ذریعے تعیناتی پیمانے اور صنعتی کمرشلائزیشن کو ترجیح دے رہا ہے۔

گالبوٹ نے چین میں خوردہ، گودام، اور فارماسیوٹیکل آپریشنز میں ہیومنائیڈ روبوٹک سسٹمز تعینات کیے ہیں۔ اس میں خود مختار اسٹورز شامل ہیں جو 24 گھنٹے کھلے رہتے ہیں۔ ژاؤ نے کہا کہ نیم ساختہ صنعتی ماحول ابتدائی کمرشلائزیشن کا راستہ ہونے کا امکان ہے کیونکہ وہ زیادہ قابل کنٹرول آپریٹنگ حالات پیش کرتے ہیں۔

جاپان معیاری ترتیب، روبوٹکس ڈیٹا سیٹس، اور سیفٹی گورننس پر زیادہ توجہ دے رہا ہے۔ یونیورسٹی آف ٹوکیو کے گریجویٹ سکول آف انجینئرنگ کے پروفیسر یوتاکا ماتسوو نے ‘AI ایسوسی ایشن’ پروجیکٹ کی طرف اشارہ کیا، جس کا مقصد روبوٹ پر مبنی ماڈلز کو سپورٹ کرنے کے لیے 100,000 گھنٹے روبوٹکس ڈیٹا اکٹھا کرنا ہے۔

Matsuo نے سنگاپور اور دیگر ایشیائی ممالک کے ساتھ لاگو AI نظاموں کے لیے گورننس کے معیارات کو فروغ دینے کی وسیع تر کوشش کے حصے کے طور پر جاپان کے AI سیفٹی انسٹی ٹیوٹ اور ہیروشیما AI عمل کا بھی ذکر کیا۔

سنگاپور میں ایجنٹ کنٹرول شروع ہوتا ہے۔

سنگاپور کا فریم ورک ایجنٹ AI کے لیے گورننس کے چار شعبے متعین کرتا ہے: اس میں خطرے کی پیشگی تشخیص، انسانی ذمہ داری، تکنیکی کنٹرول اور صارف کی آخری ذمہ داری شامل ہے۔ فریم ورک اسے ایک بار کی تشخیص کے بجائے ایک تکراری عمل کے طور پر بیان کرتا ہے۔

فریم ورک کہتا ہے کہ انسانی نگرانی کو ایجنٹ کے نظام کے مطابق بنایا جانا چاہیے کیونکہ تمام ورک فلو کا مسلسل جائزہ بڑے پیمانے پر عملی نہیں ہے۔ اہم چوکیوں پر انسانی منظوری کی حوصلہ افزائی کریں، بشمول زیادہ خطرے والی کارروائیاں، ناقابل واپسی کارروائیاں، اور غیر معمولی کارروائیاں۔

IMDA آٹومیشن تعصب اور الرٹ تھکاوٹ کو بھی خطرات کے طور پر شناخت کرتا ہے جب انسان قابل ایجنٹوں کی نگرانی کرتے ہیں۔ ہم پیمائش کے ذریعے نگرانی کی نگرانی کی تجویز کرتے ہیں جیسے کہ انسانی اوور رائیڈ کی شرحیں اور جوابی اوقات، اور غیر متوقع رویے کو جھنڈا دینے کے لیے خودکار، ریئل ٹائم مانیٹرنگ کا استعمال کرتے ہوئے

فریم ورک کہتا ہے کہ صارفین کو اس بارے میں مطلع کیا جانا چاہیے کہ ایجنٹ کیا کام انجام دے سکتا ہے، وہ کس ڈیٹا تک رسائی حاصل کر سکتا ہے، اور صارف کن ذمہ داریوں کے ساتھ رہتا ہے۔ ہم ایجنٹ کے نتائج کا جائزہ لینے کے لیے انسانی ایجنٹ کے تعامل، نگرانی، اور پیشہ ورانہ مہارتوں میں عملے کی تربیت کی بھی سفارش کرتے ہیں۔

انٹرپرائزز ریگولیٹڈ ورک فلو میں AI کی جانچ کرتے ہیں۔

JPMorgan میں ایشیا پیسیفک انوسٹمنٹ بینکنگ کے سربراہ پال یورین نے کہا کہ JPMorgan اپنے عالمی سرمایہ کاری بینکنگ کاروبار میں AI ٹولز کا نفاذ کر رہا ہے۔ رائٹرز. بینک نے کہا کہ یہ ٹول بینکرز کو مزید معلومات تک رسائی اور اسے اندرونی نظام کے ساتھ مربوط کرنے میں مدد کرتا ہے۔ یہ مواد تیار کرنے اور کسٹمر کی مصروفیت کو سپورٹ کرنے کے لیے بھی استعمال کیا جا رہا ہے۔

جے پی مورگن کے سی ای او جیمی ڈیمون نے کہا: بلومبرگ کی خبریں انہوں نے کہا کہ بینک زیادہ AI ماہرین اور کم روایتی بینکرز کی خدمات حاصل کریں گے۔ رائٹرز عالمی بینک رپورٹ کرتے ہیں کہ وہ AI میں اپنی سرمایہ کاری بڑھا رہے ہیں، اپنی افرادی قوت کو دوبارہ منظم کر رہے ہیں، اور ملازمت کے کردار کو تبدیل کر رہے ہیں۔

یہ بینک ان منتخب تنظیموں میں سے ایک ہے جسے Anthropic کی طرف سے پراجیکٹ گلاسونگ کے نام سے جانا جاتا حکومتی اقدام کے تحت Mythos سائبرسیکیوریٹی ماڈل استعمال کرنے کی اجازت ہے۔ Anthropic کے مطابق، Mythos براؤزرز، انفراسٹرکچر اور سافٹ ویئر میں پرانی کمزوریوں کا پتہ لگا سکتا ہے۔

رائٹرز ذرائع اور کمپنی کے ایگزیکٹوز کا حوالہ دیتے ہوئے، گولڈمین سیکس، سٹی گروپ، بینک آف امریکہ اور مورگن اسٹینلے نے بھی اطلاع دی کہ وہ Mythos تک رسائی یا جانچ کر رہے ہیں۔

IMDA کے فریم ورک میں اثاثوں کے تجزیہ پر OCBC بینک آف سنگاپور کا کیس اسٹڈی شامل ہے۔ نظام آمدنی سے متعلق دستاویزات کا تجزیہ کرتا ہے اور ایک ودہولڈنگ میمو کا مسودہ تیار کرتا ہے۔ ہم کریڈٹ، آن بورڈنگ، یا خطرے کے فیصلے خود مختاری سے نہیں کرتے ہیں۔

اس صورت میں، ورک فلو ٹاسک لیول کی خود مختاری تک محدود ہیں اور صرف اس وقت کام کرتے ہیں جب پہلے سے طے شدہ ورک فلوز سے متحرک ہوں۔ فیصلہ کن نکات کے لیے انسانی جائزے کی ضرورت ہوتی ہے اور حتمی تصدیق ایک نامزد جائزہ کار پر چھوڑ دی جاتی ہے۔

روبوٹ صنعتی استعمال میں منتقل ہو رہے ہیں۔

جاپان میں، ایک تہائی کمپنیاں پہلے ہی AI پر مبنی روبوٹس استعمال کر رہی ہیں یا اس پر غور کر رہی ہیں۔ رائٹرز یہ ایک سروے ہے جو نکی ریسرچ نے یکم مئی سے 15 مئی تک کیا تھا۔ یہ سروے 492 کمپنیوں پر کیا گیا، اور 220 کمپنیوں نے نام ظاہر نہ کرنے کی شرط پر جواب دیا۔

تقریباً 4% جواب دہندگان نے کہا کہ وہ پہلے ہی AI روبوٹس استعمال کر رہے ہیں، 5% ان کو تعینات کرنے کا ارادہ رکھتے ہیں، اور 25% ان کی تعیناتی پر غور کر رہے ہیں۔ باقی 66 فیصد نے جواب دیا کہ ان کے پاس ایسا کوئی منصوبہ نہیں ہے۔

نقل و حمل کے سازوسامان کے مینوفیکچررز سروے میں سب سے زیادہ فعال گروپ ہیں، جن میں 80% پہلے ہی AI روبوٹس کو استعمال کر رہے ہیں یا ان کی تعیناتی پر غور کر رہے ہیں۔ اس کے مقابلے میں، ہول سیل سیکٹر میں 94 فیصد جواب دہندگان نے کہا کہ ان کا AI روبوٹس کو تعینات کرنے کا کوئی منصوبہ نہیں ہے۔

جو کمپنیاں استعمال کر رہی ہیں، استعمال کرنے کی منصوبہ بندی کر رہی ہیں، یا AI روبوٹس کے استعمال پر غور کر رہی ہیں، 71% نے مینوفیکچرنگ کو اپنے استعمال کے کیس کے طور پر منتخب کیا۔ مزید 19٪ نے خطرناک کام کا انتخاب کیا، اور 11٪ نے کسٹمر کا سامنا کرنے والی خدمات کا انتخاب کیا۔

جاپانی حکومت کو امید ہے کہ اے آئی روبوٹس سے ملک میں مزدوروں کی دائمی کمی کو دور کرنے میں مدد ملے گی اور صنعتی روبوٹکس کے شعبے میں اس کی پوزیشن کو تقویت ملے گی۔ جاپان میں فانک، یاسکاوا الیکٹرک، اور کاواساکی ہیوی انڈسٹریز جیسی روبوٹکس کمپنیاں ہیں، لیکن AI سے چلنے والی روبوٹکس میں چین اور امریکہ سے مقابلہ ہے۔

ریٹیل ڈیلرشپ آپ کی تلاش سے باہر ہوتی ہے۔

Walmart نے خریداری، ایسوسی ایٹ، سپلائر، اور ڈویلپر ورک فلو میں ایجنٹ AI کو استعمال کرنے کے منصوبوں کا خاکہ پیش کیا۔

جولائی 2025 میں، خوردہ فروش نے چار AI سے چلنے والے ‘سپر ایجنٹس’ کے منصوبوں کا اعلان کیا۔ یہ خریداروں، اسٹور ایسوسی ایٹس، سپلائرز اور مرچنٹس، اور سافٹ ویئر ڈویلپرز کے لیے ڈیزائن کیا گیا ہے۔ والمارٹ نے کہا کہ یہ ایجنٹ پورے گروپ میں اے آئی کے تعاملات کے لیے مرکزی داخلہ پوائنٹ ہوں گے۔

ایک ٹول، Sparky، پہلے سے ہی والمارٹ کی ایپ میں ایک تخلیقی AI سے چلنے والے شاپنگ اسسٹنٹ کے طور پر دستیاب ہے۔ والمارٹ کے یو ایس چیف ٹیکنالوجی آفیسر ہری واسودیو نے کہا کہ توسیع شدہ ورژن اشیاء کو دوبارہ ترتیب دینے اور واقعات کی منصوبہ بندی کرنے کے قابل ہو گا۔ یہ خریداروں کے ریفریجریٹرز کے مواد پر مبنی ترکیبیں تجویز کرنے کے لیے کمپیوٹر ویژن کا بھی استعمال کرتا ہے۔

والمارٹ اسٹور ایسوسی ایٹس اور کارپوریٹ ملازمین کے لیے ایسوسی ایٹ سپر ایجنٹس بھی تیار کر رہا ہے۔ فروخت کنندگان، سپلائی کرنے والوں اور مشتہرین کے لیے الگ مارٹی ایجنٹ بنائے جا رہے ہیں۔ خوردہ فروش مستقبل کے AI ٹولز کی جانچ، تعمیر اور لانچ کرنے کے لیے ڈویلپر سپر ایجنٹس بھی تیار کر رہا ہے۔

کمپنی نے یہ بتانے سے انکار کر دیا کہ آیا ایجنٹ نوکریاں بدلیں گے۔ انٹرپرائز بزنس سسٹمز کے سینئر نائب صدر ڈیو گلِک نے کہا کہ یہ ٹول نئی ملازمتیں پیدا کرے گا، حالانکہ انہوں نے تفصیلات فراہم نہیں کیں۔

(تصویر بشکریہ گرووٹیکا)

یہ بھی دیکھیں: اوپن اے آئی نے سنگاپور میں AI لیب کھولی کیونکہ IMDA نے AI فریم ورک کو اپ ڈیٹ کیا۔

صنعت کے رہنماؤں سے AI اور بڑے ڈیٹا کے بارے میں مزید جاننا چاہتے ہیں؟ ایمسٹرڈیم، کیلیفورنیا اور لندن میں اے آئی اور بگ ڈیٹا ایکسپو دیکھیں۔ جامع ایونٹ TechEx کا حصہ ہے اور دیگر اہم ٹیکنالوجی ایونٹس کے ساتھ منعقد کیا جاتا ہے۔ مزید معلومات کے لیے یہاں کلک کریں۔

AI News آپ کے لیے TechForge Media لایا ہے۔ دیگر آنے والے انٹرپرائز ٹیکنالوجی ایونٹس اور ویبینرز کو یہاں دریافت کریں۔