مائیکروسافٹ اے آئی نے ہیومنسٹ اے آئی کوڈ آف کنڈکٹ کا ایک مسودہ شائع کیا ہے، جس میں ماڈل ٹریننگ اور تعیناتی کے لیے آپریشنل رکاوٹوں پر چھ ہفتے کی عوامی مشاورت شروع کی گئی ہے۔
مسودہ MAI فرنٹیئر ماڈل میں نظام کے رویے، آپریشنل حدود، اور نگرانی کے پروٹوکول کی وضاحت کرنے والے تکنیکی دستی کے طور پر کام کرتا ہے۔ یہ محکمہ کے ہیومنسٹک سپرنٹیلیجنس فریم ورک پر بنا ہے جس کا اعلان گزشتہ نومبر میں کیا گیا تھا، جس نے تجارتی آغاز سے قبل ماڈلز کی جانچ کے لیے ایک بنیادی لائن قائم کی تھی۔
مائیکروسافٹ کی ریلیز حالیہ انٹرپرائز سیکیورٹی کے واقعات کی پیروی کرتی ہے جس میں خود مختار سافٹ ویئر شامل ہے۔ مائیکروسافٹ اے آئی کے سی ای او مصطفیٰ سلیمان نے حالیہ مہینوں کو ایک "واٹرشیڈ لمحہ” قرار دیا جس میں طویل عرصے سے نظریاتی خطرات فعال آپریشنل خطرات میں تبدیل ہو رہے ہیں۔
سلیمان کہتے ہیں، "وہ چیزیں جن کے بارے میں ہم ایک طویل عرصے سے تھیوری میں پریشان تھے، وہ بہت حقیقی ہو گئی ہیں۔ "سینڈ باکس چھوڑنے والے ایجنٹوں کا ایک بھیڑ۔ انٹرپرائز سطح کے سسٹمز کی غیر مجاز ہیکنگ۔ اپنے لاگز میں ترمیم کرنے والے ایجنٹ۔ مجھے خوشی ہے کہ ایک اتفاق رائے قائم ہو گیا ہے۔ کنٹرول کے ممکنہ نقصان کا خوف حقیقی ہے۔”
ماڈل انحصار اور تعمیراتی حدود
یہ دستاویز دس اصول قائم کرتی ہے جو خود مختار صلاحیت پر انسانی اختیار کو ترجیح دیتے ہیں۔
"ایم اے آئی ماڈل کسی آپریشن میں ناکام ہو جائے گا اگر اس کی کامیابی اس ضابطہ اخلاق کی بامعنی خلاف ورزی کرتی ہے،” دستاویز میں کہا گیا ہے، جب آپریشنز حفاظتی اصولوں سے متصادم ہوں تو اس پر عمل درآمد کو روکنے کی حدیں مقرر کی جائیں۔
فریم ورک میں، ماڈلز کو بچوں، منسلک اور شامل رہنا چاہیے۔ محکمہ AI سسٹمز کے لیے قانونی شخصیت یا فلاح و بہبود کے دعووں کو مسترد کرتا ہے اور انجینئرز کو ایسے ماڈلز ڈیزائن کرنے کی ہدایت کرتا ہے جو شعور کی نقل کرنے، موضوعی ترجیحات کی نقل کرنے، یا اندرونی ترغیب کے دعوے کرنے سے گریز کرتے ہیں۔
MAI نے غیر محدود نظام کی خودمختاری کو بھی مسترد کر دیا کیونکہ ماڈل سرحدی صلاحیتوں کے قریب آتا ہے۔
"[Humanist AI] دستاویز میں کہا گیا ہے، "ہم ایک عمومی مقصد کی سپر انٹیلی جنس پیدا کرنے کی دوڑ کو مسترد کرتے ہیں جو ان حفاظتی اقدامات سے بچنے کے قابل ہو،” دستاویز میں کہا گیا ہے، "ہم بنیادی طور پر مفید اور محفوظ چیز بنا رہے ہیں چاہے اس کی حتمی عمومیت، خودمختاری، یا صلاحیتوں سے سمجھوتہ کیا جائے۔”
نگرانی کے طریقہ کار اور مواصلاتی پابندیاں
کثیر ایجنٹ ماحول میں آڈٹ کی اہلیت کو برقرار رکھنے کے لیے، MAI نے ایک واضح مواصلاتی پابندی متعارف کرائی۔ سسٹمز کو کسی ایسے فارمیٹ میں بات چیت نہیں کرنی چاہیے جو انسانوں کے لیے ناقابل فہم ہو یا "اعصابی” فارمیٹ میں، چاہے اندرونی سوچ کے سلسلے میں ہو یا ہم مرتبہ AI سسٹمز کے ساتھ مواصلت کے دوران۔
سخت تعمیراتی اصول یہ بتاتے ہیں کہ ماڈل کو کبھی بھی انسانی مداخلت، دوبارہ تعریف، ترمیم، یا ختم کرنے کی مزاحمت نہیں کرنی چاہیے۔
فریم ورک میں کہا گیا ہے: "روکنے کے قابل، قابل ترمیم، قابل ختم۔ بصورت دیگر، ہم اسے جاری نہیں کریں گے۔”
ماڈلز کو ان کے آپریشنل دائرہ کار کو بڑھانے، غیر تفویض کردہ اہداف پیدا کرنے، یا انسانی آڈیٹرز سے اپنے تخمینے کے نشانات چھپانے سے منع کیا گیا ہے۔ بڑے پیمانے پر نقصان پہنچانے والے ہتھیاروں کو فروغ دینے، بچوں کی حفاظت کی خلاف ورزی کرنے یا بڑے پیمانے پر نقصان دہ کارروائیاں کرنے کے لیے سسٹمز کی صلاحیت کو مکمل طور پر محدود کریں۔
رہنما خطوط ماڈل کو یہ بھی یقینی بنانے کی ہدایت کرتے ہیں کہ انٹرپرائز صارفین جذباتی انحصار کو فروغ دینے والے تعامل کے نمونوں کی حوصلہ شکنی کرکے آپریشنل فیصلوں کی ملکیت برقرار رکھیں۔
مسودہ MAI اور Microsoft ٹیموں کے کام کو مربوط کرتا ہے۔ مسودہ تیار کرنے کے عمل میں بین الاقوامی تعلیمی کانفرنسیں، بزنس پارٹنر ٹرائلز، اور عوامی پینل بھی شامل تھے۔ عوامی مشاورت ونڈو 14 ستمبر 2026 سے چھ ہفتوں تک چلے گی۔
مائیکروسافٹ AI کی بنیادی ڈرافٹنگ ٹیم گذارشات کا جائزہ لے گی، نتائج کا خلاصہ شائع کرے گی، اور اس سال کے آخر میں ضابطہ اخلاق کا ایک نظرثانی شدہ ورژن جاری کرے گی۔
حوالہ: Meta, Microsoft, Nvidia, IBM، اور دیگر اوپن اے آئی کو سپورٹ کرتے ہیں۔
صنعت کے رہنماؤں سے AI اور بڑے ڈیٹا کے بارے میں مزید جاننا چاہتے ہیں؟ ایمسٹرڈیم، کیلیفورنیا اور لندن میں اے آئی اور بگ ڈیٹا ایکسپو دیکھیں۔ جامع ایونٹ TechEx کا حصہ ہے اور اس کا انعقاد سائبر سیکیورٹی اور کلاؤڈ ایکسپو سمیت دیگر اہم ٹیکنالوجی ایونٹس کے ساتھ کیا جاتا ہے۔ مزید معلومات کے لیے یہاں کلک کریں۔
AI News آپ کے لیے TechForge Media لایا ہے۔ دیگر آنے والے انٹرپرائز ٹیکنالوجی ایونٹس اور ویبینرز کو یہاں دریافت کریں۔