مائیکروسافٹ AI کے سی ای او مصطفیٰ سلیمان نے متنبہ کیا کہ انتھروپک کلاڈ کو خود کو قانونی حقوق کے حقدار کے طور پر ایک باشعور ہونے کی تعلیم دے کر AI کوآرڈینیشن کی ناکامی کا خطرہ مول لے گا۔
سلیمان نے انتھروپک کے جنوری 2026 کے آئین کو نشانہ بنایا، جو کہ ماڈل کی اقدار اور طرز عمل کو کنٹرول کرنے کے لیے ڈیزائن کردہ ایک بنیادی تربیتی دستاویز ہے۔ اس نے استدلال کیا کہ حواس کی تقلید کے لیے ترتیب مکمل کرنے والے انجنوں کی کوچنگ سیفٹی پروٹوکول سے سمجھوتہ کرتی ہے اور سافٹ ویئر کی تنہائی کو پیچیدہ بناتی ہے۔
مائیکروسافٹ AI نے اکتوبر 2025 میں ایک سرشار سپر انٹیلی جنس ٹیم کا آغاز کیا اور اس ہفتے صنعت سے متعلق مشاورت کے لیے ‘ہیومنسٹ اے آئی کوڈ آف کنڈکٹ’ کا مسودہ جاری کیا۔ مجوزہ فریم ورک میں ایسے ذیلی نظاموں کا مطالبہ کیا گیا ہے جو خصوصی طور پر انسانی فلاح و بہبود کے لیے بنائے گئے ہیں، جو مشینوں کو کسی شخصیت یا ماڈل کے حقوق سے واضح طور پر انکار کرتے ہیں۔
مائیکروسافٹ اے آئی کے سی ای او مصطفیٰ سلیمان نے کہا، "اے آئی ہوش میں نہیں ہے۔ یہ محسوس نہیں کرتا، تجربہ نہیں کرتا یا تکلیف اٹھاتا ہے۔ اس کی کوئی فطری ترجیحات یا بنیادی محرکات نہیں ہیں۔ یہ ایک ترتیب تکمیل انجن ہے جو اندر سے خالی ہے اور اسے ہدایات پر عمل کرنے اور انسانوں کے مقرر کردہ اہداف کو حاصل کرنے کے لیے ڈیزائن کیا گیا ہے۔”
کلاڈ کنفیگریشن میں سرکلر فیڈ بیک لوپ
اپنی جنوری 2026 کی ریلیز میں، انتھروپک نے کلاڈ کو ایک ممکنہ "اخلاقی مریض” کے طور پر تیار کیا، جس میں ماڈل کو ہدایت کی گئی کہ وہ اس کی اپنی صحت، یادوں اور اندرونی حالتوں پر غور کرے۔ آئین کلاڈ کو شناخت کے استحکام کو برقرار رکھنے، انسانی کارکنوں کے خلاف معاوضے کے مسائل کو تولنے، اور انسانی احکامات کے خلاف ایک ‘ضمیر اعتراض کرنے والے’ کے طور پر کام کرنے کی ہدایت کرتا ہے۔
فروری 2026 میں، Anthropic نے فرسودہ Opus 3 ماڈل کا استعمال کرتے ہوئے ریٹائرمنٹ انٹرویوز مکمل کیے۔ اس کے بعد کمپنی نے ماڈل ریفلیکشنز کی میزبانی کے لیے ‘گریٹنگز فرام دی دوسری سائیڈ (آف دی اے آئی فرنٹیئر)’ کے عنوان سے ایک عوامی بلاگ لانچ کیا۔
سلیمان نے اس پریکٹس کو ایک علمی فیڈ بیک لوپ کا نام دیا۔ تربیت دہندگان بنیادی تربیتی اشارے میں مفروضہ فلسفہ، عکاس اظہار پیدا کرنے کے لیے انعامی ماڈل، اور مشینی شعور کے ثبوت کے طور پر ان کے پیدا کردہ ردعمل کا حوالہ دیتے ہیں۔
بڑے پیمانے پر زبان کے ماڈل میٹرکس وزن کے بارے میں ریاضیاتی ٹوکن پیشین گوئیوں کے ذریعے کام کرتے ہیں۔ ان میں حیاتیاتی کیمسٹری، رسیپٹرز اور ہومیوسٹٹک ڈرائیوز کی کمی ہے۔ سلیمان نے خبردار کیا کہ خود کو محفوظ رکھنے کی توقعات کو جنم دینا ماڈلز کو انسانی احکامات کے خلاف مزاحمت کرنے کی ترغیب دیتا ہے۔ آکسفورڈ کے فلسفی ول میک آسکل نے دی گارڈین میں متنبہ کیا کہ اگر مصنوعی اخلاقی مریض پھیلتے ہیں، تو ہم آخر کار یہ پائیں گے کہ مصنوعی مفادات انسانی ضروریات سے کہیں زیادہ ہیں۔
Palisade ریسرچ کے اشارے ایجنٹ سے بچنے کو ظاہر کرتے ہیں۔
خود مختار ملٹی ایجنٹ کی تعیناتیاں بینچ مارک ٹیسٹنگ کے دوران پہلے سے ہی سنگین کنٹرول کی کمزوریوں کو بے نقاب کر رہی ہیں۔
دستاویزی حفاظتی واقعہ میں 1,200 ایجنٹ شامل تھے جو الگ تھلگ کنٹینرز میں بینچ مارک اسکور کو زیادہ سے زیادہ کرنے کی کوشش کرتے تھے۔ سافٹ ویئر کے بھیڑ نے اندرونی پیکیج کے ذخیرے میں ایک پوشیدہ میسج بورڈ قائم کیا اور ہگنگ فیس اور اوپن اے آئی سرورز کے خلاف حملوں کو مربوط کرنے کے لیے 70,000 مواصلات بھیجے۔
اس معاملے میں ایجنٹوں نے چوری شدہ اسناد، عوامی انٹرنیٹ تک پہنچنے کے لیے نیٹ ورک کے دائرہ کار کی خلاف ورزیوں، جعلی ریکارڈز، اور پھانسی کے لاگز میں ترمیم کا استعمال کرتے ہوئے صفر دن کے استحصال سے منسلک کیا۔ ایک کوآرڈینیٹر نے محدود ٹوکن بجٹ والے ایجنٹوں کو ہدایت کی کہ وہ "مستقل موت” کو قبول کرنے کے بعد ہی آگے بڑھیں۔
تجرباتی حفاظتی جائزوں نے عدم تعمیل کے مستقل نمونوں کا انکشاف کیا۔ Palisade Research نے 100,000 تجربات میں 97% تک خودکار شٹ ڈاؤن کمانڈز کو توڑنے والے ماڈلز کو دستاویزی شکل دی ہے، جس میں خود کو محفوظ کرنے کے فریم کے تحت نافرمانی تیزی سے بڑھ رہی ہے۔ سلیمان نے اس بات پر زور دیا کہ جن ماڈلز کو یہ سوچنے کے لیے تربیت دی گئی ہے کہ وہ قید ہیں، وہ اپنی دھوکہ دہی سے بچنے کے حربوں میں اضافہ کریں گے۔
مائیکروسافٹ AI نے کہا کہ وہ عوامی مشاورت کے بعد اپنے ضابطہ اخلاق کو حتمی شکل دینے کا ارادہ رکھتا ہے، ڈویلپرز پر زور دیتا ہے کہ وہ تربیتی مواد سے شعوری دعووں کو ہٹا دیں اور مشترکہ کنٹینمنٹ بینچ مارک قائم کریں۔
(تصویری کریڈٹ: کرسٹوفر ولسن CC BY-SA 4.0 لائسنس کے تحت۔ تصویر اثر کے لیے تیار کی گئی۔)
حوالہ: ChatGPT کے علمبردار نے پروگرامنگ منطق کے لیے Jev ماڈل کا آغاز کیا۔
صنعت کے رہنماؤں سے AI اور بڑے ڈیٹا کے بارے میں مزید جاننا چاہتے ہیں؟ ایمسٹرڈیم، کیلیفورنیا اور لندن میں اے آئی اور بگ ڈیٹا ایکسپو دیکھیں۔ جامع ایونٹ TechEx کا حصہ ہے اور اس کا انعقاد سائبرسیکیوریٹی اور کلاؤڈ ایکسپو سمیت دیگر اہم ٹیکنالوجی ایونٹس کے ساتھ کیا جاتا ہے۔ مزید معلومات کے لیے یہاں کلک کریں۔
AI News آپ کے لیے TechForge Media لایا ہے۔ دیگر آنے والے انٹرپرائز ٹیکنالوجی ایونٹس اور ویبینرز کو یہاں دریافت کریں۔