سی ای او کئی بڑی مصنوعی ذہانت کی کمپنیاں قانون سازوں پر زور دے رہی ہیں کہ وہ ایسے نئے قوانین اپنائیں جو بدنیتی پر مبنی اداکاروں کے لیے حیاتیاتی ہتھیاروں کو تیار کرنے کے لیے اپنی ٹیکنالوجی کو استعمال کرنا مزید مشکل بنادیں۔
گوگل ڈیپ مائنڈ کے ڈیمس ہاسابیس، اوپن اے آئی کے سیم آلٹ مین، اینتھروپک کے ڈاریو آمودی اور مائیکروسافٹ اے آئی کے مصطفیٰ سلیمان ایک کھلے خط کے دستخط کنندگان میں شامل ہیں جس میں مصنوعی DNA اور RNA فروخت کرنے والی کمپنیوں سے مطالبہ کیا گیا ہے کہ وہ اپنے صارفین کی جانچ کریں اور جینیاتی مواد کے غلط استعمال کو روکیں۔
غیر جانبدارانہ انسٹی ٹیوٹ فار پروگریسو اسٹڈیز اور دائیں بازو کی فاؤنڈیشن فار امریکن انوویشن کے زیر اہتمام خط، تسلیم کرتا ہے کہ اے آئی کی ترقی کی رفتار کو دیکھتے ہوئے، "تاریخی طور پر نقصاندہ اداکاروں کو حیاتیاتی ہتھیاروں کے حصول سے روکنے والی علمی رکاوٹوں کے بامعنی طور پر ٹوٹ جانے کا امکان ہے۔”
سائنسدان آرتھر کورنبرگ نے 1950 کی دہائی میں ڈی این اے کو کامیابی کے ساتھ ترکیب کیا تھا۔ دنیا بھر میں درجنوں کمپنیاں اب "پرنٹنگ” کے عمل کو خودکار بنانے اور سائنسی تحقیق، منشیات کی نشوونما اور تشخیص میں استعمال ہونے والے اپنی مرضی کے جینیاتی سلسلے کو فروخت کرنے کے لیے تجارتی ترکیب کا استعمال کرتی ہیں۔ بہت سے سپلائرز اپنی مصنوعات صرف مستند محققین، بائیو ٹیکنالوجی کمپنیوں، اور تعلیمی اداروں کو فروخت کرتے ہیں، لیکن سبھی اپنے صارفین یا جنیاتی ترتیبوں کی جانچ نہیں کرتے جو وہ آرڈر کرتے ہیں۔
2017 میں، کینیڈا کے محققین نے ناپید ہارس پوکس وائرس کی تشکیل نو کے لیے $100,000 مالیت کے میل آرڈر ڈی این اے کا استعمال کرکے خطرے کی گھنٹی بجا دی۔ ناقدین کا کہنا تھا کہ یہی طریقہ چیچک پیدا کرنے کے لیے استعمال کیا جا سکتا تھا، جو کہ ایک قریبی اور مہلک وائرس ہے۔ تب سے، جین کی ترکیب زیادہ سستی ہو گئی ہے۔
AI میں پیشرفت کے ساتھ مل کر، اب خطرناک نئے زہریلے اور پیتھوجینز کو ڈیزائن کرنے کے لیے بڑے پیمانے پر زبان کے ماڈلز کا استعمال ممکن ہے۔ تاہم، شروع سے فعال وائرس بنانے کے لیے حیاتیات کی کچھ تربیت کی ضرورت ہو سکتی ہے۔ بائیو ٹیررازم حملے، اگرچہ شاذ و نادر ہی ہوتے ہیں، لیکن ان میں بڑے پیمانے پر ہلاکتوں، عوامی خوف و ہراس اور معاشی نقصانات کا امکان ہوتا ہے۔ سب سے بڑی تشویش یہ ہے کہ AI کے ڈیزائن کردہ پیتھوجینز جان بوجھ کر یا غیر ارادی طور پر عالمی وبا کو متحرک کر سکتے ہیں۔
اسٹینفورڈ یونیورسٹی کے مائکرو بایولوجسٹ اور بائیو سیکیورٹی کے ماہر ڈیوڈ ریلمین نے کہا، "AI ٹولز صارفین کو بہت تیزی سے شناخت کرنے کی اجازت دیتے ہیں کہ وہ ترتیب کہاں سے آرڈر کی جائے جن کی جانچ نہیں کی جا رہی ہے۔” "مناسب پیغام آپ کو یہ بھی بتا سکتا ہے کہ آپ کے آرڈر کی نوعیت کو کیسے تبدیل کیا جائے، کسی کے لیے بھی اسکریننگ کیے جانے سے یہ معلوم کرنا مشکل ہو جاتا ہے کہ آپ کس پروڈکٹ کو بنانے کی کوشش کر رہے ہیں۔”
دستخط کنندگان میں دیگر سائنسدان، قومی سلامتی کے ماہرین اور جین کی ترکیب ساز کمپنیوں Twist Bioscience اور Ansa Biotechnologies کے ایگزیکٹوز شامل ہیں۔ یہ کمپنیاں بین الاقوامی جین سنتھیسس کنسورشیم کی رکن ہیں، جو 2009 میں رضاکارانہ جانچ کے طریقوں کو نافذ کرنے کے لیے تشکیل دی گئی تھی۔ بہت سی کمپنیاں پہلے سے ہی "تشویش کے سلسلے” کے آرڈرز کو اسکرین کرنے کے لیے سافٹ ویئر استعمال کر رہی ہیں جو کسی جاندار کے وائرس یا بیماری پیدا کرنے کی صلاحیت میں حصہ ڈال سکتے ہیں۔
"اگر آپ کے پاس ڈی این اے کی ترکیب کے لیے ٹیکنالوجی ہے، تو آپ کو اسے ذمہ داری سے استعمال کرنے کی ضرورت ہے، اور اس کا ایک حصہ یہ سمجھنا ہے کہ آپ کیا بنا رہے ہیں اور آپ اسے کس کے لیے بنا رہے ہیں،” Twist Bioscience میں پالیسی اور بائیوسیکیورٹی کے نائب صدر جیمز ڈیگنز کہتے ہیں۔ کمپنی نے کئی سالوں سے رسمی قوانین کے نفاذ کی حمایت کی ہے۔
بائیڈن انتظامیہ کے دوران متعارف کرائے گئے وفاقی رہنما خطوط میں سائنس دانوں اور وفاقی فنڈنگ حاصل کرنے والی کمپنیوں کو سپلائی کرنے والوں سے مصنوعی جینیاتی ترتیب کا آرڈر دینے کی ضرورت ہے جو ان کی خریداریوں کو اسکرین کرتے ہیں۔ اس سال کے شروع میں سینیٹ میں پیش کردہ ایک دو طرفہ بل کے تحت ریاستہائے متحدہ میں کام کرنے والے تمام جین کی ترکیب فراہم کرنے والوں کو اپنے آرڈرز اور صارفین کو خراب اداکاروں یا خطرناک پیتھوجینز کی اسکریننگ کرنے کی ضرورت ہوگی۔
تاہم، اسکریننگ کے اوزار کامل نہیں ہیں. پچھلے سال، مائیکروسافٹ کے محققین نے ایک مطالعہ شائع کیا جس میں دکھایا گیا تھا کہ ایک AI پروٹین ڈیزائن ٹول ممکنہ طور پر خطرناک جینیاتی ترتیب پیدا کر سکتا ہے جو کمپنی کے اسکریننگ سافٹ ویئر کو پاس نہیں کرے گا۔ اس ماڈل نے پروٹین کے نئے سلسلے تجویز کیے جن کی ساخت خطرناک معلوم ہوتی ہے۔
جیف رالسٹن، Y Combinator کے سابق صدر اور Safe AI فنڈ کے پارٹنر، کا خیال ہے کہ حیاتیاتی ماڈلز والی AI لیبز کو اپنی صارف کی اسکریننگ خود کرنی چاہیے۔
خط پر دستخط کرنے والے رالسٹن کا کہنا ہے کہ "یہ بہت مشکل ہو گا، اگر ناممکن نہیں تو، کسی ماڈل سے فوری طور پر خطرناک کام کے لیے مدد مانگنا”۔
ریلمین اس بات سے اتفاق کرتا ہے کہ اسکریننگ کے طریقہ کار سے متعلق ضوابط حل کا صرف ایک حصہ ہیں۔ "یہ دیکھتے ہوئے کہ کچھ معاملات میں ٹیسٹ ناکام ہو سکتے ہیں، ہمیں دوسرے کنٹرول پوائنٹس رکھنے کی ضرورت ہے،” وہ کہتے ہیں۔ "یہ وہ جگہ ہے جہاں AI کمپنیوں کو آگے بڑھنے کی ضرورت ہے۔”