ایجنٹی AI گورننس کو پیچیدہ ہونے کی ضرورت نہیں ہے۔ اس میں سے زیادہ تر چار سوالات پر آتے ہیں:

رہنماؤں کو ایجنٹی AI گورننس فریم ورک کے بڑھتے ہوئے اسٹیک کا سامنا ہے۔ اسے لفظوں میں ڈالنے کے لیے، وہ سب AI ایجنٹوں سے وہی چار سوالات پوچھتے ہیں۔

جب آپ قیادت کی ٹیموں سے پوچھتے ہیں کہ وہ کس ایجنٹی AI گورننس فریم ورک کی پیروی کرتے ہیں، تو جوابات کو عام طور پر علاقے کے لحاظ سے تقسیم کیا جاتا ہے۔ کچھ سنگاپور کی طرف، کچھ یورپی یونین (EU) کی طرف، اور کچھ یو ایس نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی (NIST) کی طرف۔ زیادہ تر یہ سمجھتے ہیں کہ یہ فریم ورک مقابلہ کر رہے ہیں، اور بہت سے لوگ یہ نتیجہ اخذ کرتے ہیں کہ گورننس قوانین کے قائم ہونے کا انتظار کر سکتی ہے۔

فریم ورک مقابلہ نہیں کرتے اور گورننس انتظار نہیں کر سکتی۔ مخفف کے نیچے، AI ایجنٹوں کے لیے تمام سنجیدہ فریم ورک ایک ہی چار سوالات پوچھتے ہیں: ایجنٹ کیا کر سکتا ہے، کون جواب دیتا ہے، اسے کیسے روکا جا سکتا ہے، اور کاروبار یہ کیسے ثابت کر سکتا ہے؟ جو کمپنیاں اس کا جواب دے سکتی ہیں انھوں نے فریم ورک کے لیے درکار زیادہ تر کام کیے ہیں۔

سٹینفورڈ ہیومن سینٹرڈ AI انسٹی ٹیوٹ کا 2026 AI انڈیکس اس کی وجہ بتاتا ہے۔ AI ایجنٹوں نے 2025 میں کمپیوٹنگ کے استعمال کے ایک بڑے بینچ مارک میں 66.3% کام مکمل کیے، جو کہ 2024 میں تقریباً 5% سے زیادہ تھے، اور رپورٹ کیا گیا کہ AI واقعات 362 تک پہنچ گئے، جو پچھلے سال 233 تھے۔

ریاست ہائے متحدہ امریکہ، یورپ، آسٹریلیا اور جاپان بھر میں خوردہ اور صارف کمپنیوں کو مشورہ دیتے ہوئے، ہم اس بحث کا ایک الگ اسکرین منظر پیش کرتے ہیں۔ اگرچہ اصطلاحات بازار سے دوسرے بازار میں مختلف ہوتی ہیں، لیکن بورڈ اور ریگولیٹرز جو سوالات ایجنٹوں کے بارے میں پوچھتے ہیں وہ حیرت انگیز طور پر ایک جیسے ہوتے ہیں۔

مناظر میری سوچ سے چھوٹا ہے۔ گزشتہ جنوری میں ڈیووس میں ورلڈ اکنامک فورم میں، سنگاپور کی انفوکوم میڈیا ڈیولپمنٹ اتھارٹی (IMDA) نے پہلے گورننس فریم ورک کا آغاز کیا جو خاص طور پر ایجنٹ AI کے لیے بنایا گیا تھا۔ NIST کا رضاکارانہ AI رسک مینجمنٹ فریم ورک اپنے کام کو چار کاموں میں منظم کرتا ہے، اور یونیورسٹی آف کیلیفورنیا، برکلے کے محققین نے فروری میں اس ڈھانچے پر بنایا ہوا ایک ایجنٹ AI پروفائل شائع کیا۔

دو دوسرے ٹکڑے تصویر کو مکمل کرتے ہیں۔ انٹرنیشنل آرگنائزیشن فار سٹینڈرڈائزیشن کا ISO/IEC 42001 AI مینجمنٹ سسٹمز کے لیے پہلا عالمی معیار ہے، اور یہ کچھ مارکیٹوں میں ڈیفالٹ سیٹ کرتا ہے۔ خودکار فیصلہ سازی سے متعلق کیلیفورنیا کے قوانین ان کمپنیوں پر یکم جنوری 2027 سے لاگو ہوں گے، جب کہ EU کے AI قانون کے تحت ہائی رسک سسٹمز کی انسانی نگرانی کی ضرورت ہے، اور ان میں سے زیادہ تر ذمہ داریاں اب دسمبر 2027 سے لاگو ہوں گی۔

1. ایک ایجنٹ کیا کر سکتا ہے۔

سنگاپور کا فریم ورک یہاں سے شروع ہوتا ہے۔ یہ تنظیموں سے کہتا ہے کہ وہ پہلے صحیح استعمال کا معاملہ منتخب کریں اور پھر ہر ایجنٹ کی خود مختاری اور آلات اور ڈیٹا تک رسائی کو محدود کریں۔ گزشتہ مئی میں، ورلڈ اکنامک فورم نے تجویز پیش کی کہ تمام ایجنٹوں کے پاس ایک سرٹیفیکیشن پروفائل ہے جس میں ریکارڈ کیا گیا ہے کہ وہ کن حالات میں اور کس نگرانی میں کیا کر سکتے ہیں۔

عملی طور پر اس کا مطلب ہے: ایجنسی شروع ہونے سے پہلے تحریری پاور آف اٹارنی۔ اس میں یہ واضح ہونا چاہیے کہ ایجنٹ تنہا کون سے فیصلے کر سکتا ہے، وہ کیا خرچ کر سکتا ہے یا وعدہ کر سکتا ہے، اور کیس کب فرد کے حوالے کیا جانا چاہیے۔ کسٹمر سروس کے نمائندے ایک مقررہ رقم تک خیر سگالی کریڈٹ جاری کر سکتے ہیں، لیکن حفاظتی مسائل یا قانونی دعووں سے متعلق گفتگو کو آگے بڑھا سکتے ہیں۔

پاور آف اٹارنی کو یہ بھی بتانا چاہیے کہ ایجنٹ کو کس چیز کے خلاف ماپا جاتا ہے۔ ماہرین اقتصادیات بینگٹ ہولمسٹروم اور پال ملگروم نے 1991 میں دکھایا کہ جب کچھ کاموں کی پیمائش کرنا آسان ہے اور دوسرے نہیں، تو قابل پیمائش کاموں کے لیے مضبوط انعامات باقی کاموں پر کوشش کی حوصلہ شکنی کرتے ہیں۔ وہ ایجنٹ جو صرف رفتار پر اسکور کرتے ہیں وہ رفتار کو بہتر بناتے ہیں، اور کسٹمر کے تعلقات خاموشی سے ایک ناقابل پیمائش ذمہ داری بن جاتے ہیں۔

2. کون جواب دیتا ہے؟

تمام فریم ورک اس بات پر زور دیتے ہیں کہ ذمہ داری لوگوں پر عائد ہوتی ہے۔ سنگاپور کو ایسے چیک پوائنٹس کی ضرورت ہوتی ہے جن کے لیے انسانی منظوری کی ضرورت ہوتی ہے، اور NIST احتسابی ڈھانچے کو "گورننس” فنکشن کے اندر رکھتا ہے۔

کیلیفورنیا کے قوانین سب سے درست معیار فراہم کرتے ہیں۔ انسانی شرکت سے مراد وہ جائزہ لینے والے ہیں جو ٹیکنالوجی کے آؤٹ پٹ کی تشریح اور استعمال کرنا جانتے ہیں، دیگر متعلقہ معلومات کے ساتھ اس کا تجزیہ کرتے ہیں، اور فیصلے کرنے یا تبدیل کرنے کا اختیار رکھتے ہیں۔ کوئی بھی کاروبار، چاہے وہ لاگو ہو یا نہ ہو، اسے ایجنٹ کے مالک کے لیے نوکری کی تفصیل کے طور پر استعمال کر سکتا ہے۔

ایک صارف کمپنی جس کا میں نے مشورہ دیا تھا کہ اس کی سروس ڈیلرشپ کے لیے ایک فراخدلی کریڈٹ بجٹ تھا اور اس کا کوئی واحد مالک نہیں تھا۔ ہر ٹیم نے فرض کیا کہ دوسری ٹیم دیکھ رہی ہے، لہذا کئی ہفتوں کے دوران کریڈٹس میں قدرے اضافہ ہوا۔ ترمیم کے لیے ایک میٹنگ درکار ہے۔ یعنی تفویض کردہ مالکان، حدود، اور ہفتہ وار رپورٹس۔

3. اسے کیسے روکا جائے۔

یورپی یونین کا آرٹیکل 14 اس سوال کو واضح طور پر بیان کرتا ہے۔ وہ لوگ جو ہائی رسک سسٹم کی نگرانی کرتے ہیں ان کی نگرانی کرنے، ان کے آؤٹ پٹ کو اوور رائیڈ کرنے، اور محفوظ طریقے سے مداخلت کرنے یا انہیں روکنے کے قابل ہونا چاہیے۔ مثال کے طور پر، ‘اسٹاپ’ بٹن۔

سنگاپور کے فریم ورک کو تمام ایجنٹوں کے لائف سائیکل میں تکنیکی کنٹرول کی ضرورت ہوتی ہے، بشمول بیس لائن ٹیسٹنگ اور منظور شدہ خدمات تک رسائی کو محدود کرنا۔ NIST نے اس سال ایک پہل کا آغاز کیا جس کا کچھ حصہ AI ایجنٹوں کی شناخت اور تصدیق پر مرکوز تھا۔

یہ اس لیے اہم ہے کہ ملازم لاگ ان استعمال کرنے والے ایجنٹ اس بات کا کوئی واضح ریکارڈ نہیں چھوڑتے کہ کس نے کیا کیا۔ اصلی ورژن آسان ہے۔ ہر ایجنٹ کو منفرد اسناد فراہم کریں، تمام کارروائیوں کو لاگ ان کریں، اور عمل سے پہلے آف سوئچ کی جانچ کریں نہ کہ کسی واقعے کے دوران۔ ہر ایجنٹ نے کیا فیصلہ کیا ہے، بڑھایا ہے اور منسوخ کیا ہے اس کا فوری ہفتہ وار جائزہ آپ کو یہ دیکھنے میں مدد کر سکتا ہے کہ آیا آپ کی حدود بہت سخت ہیں، بہت ڈھیلی ہیں یا محض غیر واضح ہیں۔

4. کمپنیاں اسے کیسے ثابت کرتی ہیں۔

یہ آخری سوال وہی ہے جو گاہک، آڈیٹر اور بورڈ بالآخر پوچھتے ہیں۔ ISO/IEC 42001 اس کا جواب AI گورننس کو موجودہ کوالٹی اور انفارمیشن سیکیورٹی سسٹمز کے ساتھ ساتھ روزمرہ کے عمل میں شامل انتظامی نظام کے طور پر دیکھ کر دیتا ہے۔ سنگاپور کی چوتھی جہت ان لوگوں کے لیے شفافیت اور تعلیم کا اضافہ کرتی ہے جو ایجنٹ استعمال کرتے ہیں۔

بورڈ پہلے ہی اس کے لیے کہہ رہا ہے۔ نیشنل ایسوسی ایشن آف کارپوریٹ ڈائریکٹرز کے 2025 میں سروے کیے گئے 62% سے زیادہ ڈائریکٹرز نے کہا کہ اب انہوں نے اپنے ایجنڈے میں مکمل AI بات چیت کے لیے وقت مختص کیا ہے۔ تمام ایجنٹوں، مالکان، حدود، اور آخری جائزوں کی فہرست والی ایک صفحہ کی تاریخ اس بحث کو دیکھنے کے لیے کچھ مخصوص فراہم کرتی ہے۔

پہلے تین مراحل آسان ہیں۔ اس سہ ماہی میں اپنے ایجنٹ کے اندراج کو تیار کریں، ان ایجنٹوں سے شروع کریں جو پہلے سے ہی گاہکوں یا رقم کو سنبھال رہے ہیں۔ اپنی ریڑھ کی ہڈی کے طور پر ایک فریم ورک کا انتخاب کریں، جیسے کہ مقبول اصطلاحات کے لیے NIST یا سرٹیفیکیشن کی توقع رکھنے والے صارفین کے لیے ISO/IEC 42001، اور سنگاپور سے ایجنٹ کے لیے مخصوص کنٹرول حاصل کریں۔

پھر ہر اس مارکیٹ کی قانونی بنیاد چیک کریں جس میں آپ کا کاروبار چلتا ہے۔ ایجنٹ کی صلاحیتوں میں بہتری آتی رہے گی اور فریم ورک بڑھتا رہے گا۔ چار سوالات تبدیل نہیں ہوں گے، اور وہ رہنما جو کام کی جگہ پر ہر ایجنٹ کے لیے ان سوالوں کا جواب دے سکتے ہیں وہ یہ محسوس کریں گے کہ تعمیل اس کے اپنے منصوبے کے بجائے اچھے انتظام کی ضمنی پیداوار بن جاتی ہے۔

رہنماؤں کو ایجنٹی AI گورننس فریم ورک کے بڑھتے ہوئے اسٹیک کا سامنا ہے۔ اسے لفظوں میں ڈالنے کے لیے، وہ سب AI ایجنٹوں سے وہی چار سوالات پوچھتے ہیں۔

جب آپ قیادت کی ٹیموں سے پوچھتے ہیں کہ وہ کس ایجنٹی AI گورننس فریم ورک کی پیروی کرتے ہیں، تو جوابات کو عام طور پر علاقے کے لحاظ سے تقسیم کیا جاتا ہے۔ کچھ سنگاپور کی طرف، کچھ یورپی یونین (EU) کی طرف، اور کچھ یو ایس نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی (NIST) کی طرف۔ زیادہ تر یہ سمجھتے ہیں کہ یہ فریم ورک مقابلہ کر رہے ہیں، اور بہت سے لوگ یہ نتیجہ اخذ کرتے ہیں کہ گورننس قوانین کے قائم ہونے کا انتظار کر سکتی ہے۔

فریم ورک مقابلہ نہیں کرتے اور گورننس انتظار نہیں کر سکتی۔ مخفف کے نیچے، AI ایجنٹوں کے لیے تمام سنجیدہ فریم ورک ایک ہی چار سوالات پوچھتے ہیں: ایجنٹ کیا کر سکتا ہے، کون جواب دیتا ہے، اسے کیسے روکا جا سکتا ہے، اور کاروبار یہ کیسے ثابت کر سکتا ہے؟ جو کمپنیاں اس کا جواب دے سکتی ہیں انھوں نے فریم ورک کے لیے درکار زیادہ تر کام کیے ہیں۔