خطرے کی اعلی سطح کو کم کرنے کے لیے کئی اقدامات کیے جا سکتے ہیں، جن میں سے کچھ نمایاں ہیں جن میں ایجنٹ کی شناخت، جامع لاگ، پالیسی کی تصدیق، انسانی نگرانی، فوری منسوخی، سپلائر سے دستاویزات کی دستیابی، اور ریگولیٹرز کو جمع کرانے کے لیے ثبوت کی تیاری شامل ہیں۔
ایجنٹ کے نظام کی طرف سے کی جانے والی سرگرمیوں کا ریکارڈ بنانے میں مدد کرنے کے لیے فیصلہ ساز کئی اختیارات پر غور کر سکتا ہے۔ مثال کے طور پر، Asqav، ایک Python سافٹ ویئر ڈویلپمنٹ کٹ (SDK)، خفیہ طور پر ہر ایجنٹ کے اعمال پر دستخط کر سکتا ہے اور تمام ریکارڈز کو ایک ناقابل تغیر ہیش چین میں جوڑ سکتا ہے۔ یہ ٹیکنالوجی کی ایک قسم ہے جس کا تعلق بلاک چین ٹیکنالوجی سے زیادہ ہے۔ اگر کوئی شخص یا کوئی چیز ریکارڈ کو تبدیل یا ہٹاتا ہے تو، سلسلہ کی تصدیق ناکام ہو جائے گی۔
گورننس ٹیموں کے لیے، استعمال کریں: ریکارڈز کا ایک ایسا نظام جو زبانی، سنٹرلائزڈ، اور انکرپٹ کیا جا سکتا ہے۔ ایجنٹ AI کس چیز کے بارے میں ہے وہ ڈیٹا فراہم کرنے کا پیمانہ ہے جو انفرادی سافٹ ویئر پلیٹ فارمز کے ذریعہ تیار کردہ تقسیم شدہ ٹیکسٹ لاگ سے کہیں زیادہ ہے۔ ریکارڈز کیسے بنائے اور محفوظ کیے جاتے ہیں اس کی تکنیکی تفصیلات سے قطع نظر، IT لیڈرز کو یہ جاننے کی ضرورت ہے کہ ایجنٹ کی مثالیں پورے انٹرپرائز میں کب، کہاں اور کیسے کام کرتی ہیں۔
بہت سی تنظیمیں خودکار AI پر مبنی سرگرمی کی ریکارڈنگ کے پہلے مرحلے میں ناکام ہو جاتی ہیں۔ ہر آپریٹنگ ایجنٹ کی رجسٹری کی منفرد شناخت ہونی چاہیے اور اس کی صلاحیتوں اور دی گئی اجازتوں کا ریکارڈ برقرار رکھا جانا چاہیے۔ یہ ‘ایجنٹ اثاثہ جات کی فہرست’ EU AI ایکٹ کے آرٹیکل 9 کے تقاضوں سے صاف طور پر منسلک ہے، جس میں کہا گیا ہے:
- آرٹیکل 9: زیادہ خطرے والے علاقوں کے لیے: AI رسک مینجمنٹ ایک جاری، ثبوت پر مبنی عمل ہونا چاہیے۔ یہ تعیناتی کے تمام مراحل (ترقی، تیاری، پیداوار) میں سرایت شدہ ہے اور مسلسل جائزہ لینے کے تابع ہے۔
مزید برآں، فیصلہ سازوں کو ایکٹ کے آرٹیکل 13 سے آگاہ ہونا چاہیے۔
- ہائی رسک AI سسٹمز کو اس طرح سے ڈیزائن کیا جانا چاہیے کہ تعینات کرنے والے سسٹم کے نتائج کو سمجھ سکیں۔ اس طرح، تھرڈ پارٹی AI سسٹمز کو صارفین کے لیے قابل تشریح ہونا چاہیے۔ (صرف کوڈ کے مبہم حصے ہی نہیں) محفوظ اور قانونی استعمال کو یقینی بنانے کے لیے کافی دستاویزات فراہم کی جانی چاہئیں۔
اس ضرورت کا مطلب ہے کہ ماڈل کا انتخاب اور تعیناتی کے طریقے دونوں تکنیکی ہیں۔ ضابطہ تحفظات