اینٹروپک کہتے ہیں: قومی سلامتی کے خدشات کا حوالہ دیتے ہوئے اور جمعہ کی سہ پہر کو امریکی حکومت سے موصول ہونے والے برآمدی کنٹرول کے رہنما خطوط کی تعمیل کرنے کے لیے، اس نے اس ہفتے کے شروع میں جاری کیے گئے دو AI ماڈلز، Claude Fable 5 اور Mythos 5 کو غیر فعال کر دیا ہے۔
بے مثال واقعہ انتھروپک اور ٹرمپ انتظامیہ کے درمیان تازہ ترین فلیش پوائنٹ کی نمائندگی کرتا ہے۔ کمپنی سے حکم کے مطابق "امریکہ کے اندر اور باہر تمام غیر ملکی شہریوں بشمول غیر ملکی اینتھروپک ملازمین” تک رسائی کو معطل کرنے کو کہا گیا تھا، لیکن تعمیل کو یقینی بنانے کے لیے تمام صارفین تک رسائی کو ختم کر دیا گیا تھا۔
اس سال کے شروع میں، ٹرمپ کے پینٹاگون نے انتھروپک کو "سپلائی چین رسک” کے طور پر درجہ بندی کیا جب کلاڈ میکر نے امریکی فوج اپنی ٹیکنالوجی کو کس طرح استعمال کر سکتی ہے اس پر حدیں کھینچنے کی کوشش کی۔ اس عہدہ نے مؤثر طریقے سے سرکاری ایجنسیوں اور ٹھیکیداروں کو اینتھروپک کی ٹیکنالوجی استعمال کرنے سے روک دیا۔ اینتھروپک نے ٹرمپ انتظامیہ کے خلاف مقدمہ دائر کرکے جواب دیا۔
منگل کو، Anthropic نے Claude Fable 5 کی نقاب کشائی کی، کمپنی کے Mythos AI ماڈل کا ایک ایسا ورژن جس میں حفاظتی تدابیر ہیں جو اسے سائبر سیکیورٹی، حیاتیات اور کیمسٹری کے بارے میں سوالات کے جواب دینے سے روکتی ہیں۔ Mythos Preview AI ماڈل کی اپریل میں امریکی حکومت کے تعاون سے Anthropic کے عوامی آغاز سے قبل ایک محدود ریلیز ہوئی تھی۔ اس کا مقصد کاروباروں اور تنظیموں کو سائبر سیکیورٹی کی مضبوط صلاحیتوں کا استعمال کرتے ہوئے اپنے دفاع کو بہتر بنانے کا موقع فراہم کرنا تھا اور ان خدشات کو کم کرنا تھا کہ نقصان دہ اداکار طاقتور ہیکنگ ٹولز تیار کرنے کے لیے ٹیکنالوجی کا فائدہ اٹھا سکتے ہیں۔
جمعہ کو ایک بلاگ پوسٹ میں، Anthropic نے کہا کہ اسے امریکی حکومت کی طرف سے شام 5:21 پر ایک خط موصول ہوا۔ "خط میں قومی سلامتی کے مسائل کے بارے میں کوئی خاص تفصیلات فراہم نہیں کی گئیں،” اینتھروپک نے لکھا۔
کمپنی نے مزید کہا، "ہم سمجھتے ہیں کہ حکومت کا خیال ہے کہ وہ جانتی ہے کہ کس طرح ‘جیل بریک’ Fable 5 کو روکنا ہے۔” "ہم نے اس مخصوص تکنیک کے مظاہروں کا جائزہ لیا جو پہلے سے معلوم ہونے والی چھوٹی چھوٹی کمزوریوں کی شناخت کے لیے استعمال کی جا رہی تھی۔ وہ سب نسبتاً آسان دکھائی دیتے ہیں اور ہم نے پایا کہ عوامی طور پر دستیاب دیگر ماڈلز کو بھی ان کو روکے بغیر دریافت کیا جا سکتا ہے۔”
ایک بلاگ پوسٹ میں، کمپنی نے دعویٰ کیا کہ اس نے Claude Fable 5 کے غلط استعمال کے امکانات کو کم کرنے کے لیے مضبوط حفاظتی اقدامات نافذ کیے ہیں۔ اینتھروپک نے یہ بھی دلیل دی کہ امریکی حکومت نے Claude Fable 5 کے لیے جو جیل بریک دریافت کیا تھا وہ تنگ تھا اور یہ حملہ آوروں کے لیے اس سے زیادہ خطرناک نہیں ہوتا جتنا کہ وہ دوسرے AI ماڈلز کا استعمال کرتے۔
کمپنی نے ایک بلاگ پوسٹ میں کہا، "آج تک، حکومت نے ممکنہ تنگ، غیر عالمگیر جیل بریک کے صرف زبانی ثبوت فراہم کیے ہیں، جو بنیادی طور پر ماڈل سے مخصوص کوڈ بیس کو پڑھنے اور سافٹ ویئر کی خامیوں کو دور کرنے کے لیے کہتے ہیں۔” "ہم سمجھتے ہیں کہ ممکنہ جیل سے فرار ہونے والوں میں سے ایک کو حکومت کے ساتھ شیئر کیا گیا ہے۔”
وائٹ ہاؤس اور کامرس ڈیپارٹمنٹ کے ترجمان نے فوری طور پر تبصرہ کے لیے WIRED کی درخواستوں کا جواب نہیں دیا۔
اینتھروپک کے سی ای او ڈاریو آمودی نے اس ہفتے کے شروع میں ایک پالیسی مضمون میں کہا تھا کہ وہ اور ان کی کمپنی غیر محفوظ AI ماڈلز کی رہائی کو روکنے کے لیے منصفانہ، منظم اور شفاف حکومتی عمل کی حمایت کرتے ہیں۔ جمعہ کو کمپنی کے بلاگ پوسٹ میں، Anthropic نے دلیل دی کہ "یہ کارروائی ان اصولوں پر عمل نہیں کرتی۔”