اس نے جدید AI بنانے میں مدد کی۔ اب ‘اے آئی کا گاڈ فادر’ ایف ڈی اے طرز کی منظوری کا نظام چاہتا ہے۔

کیا AI کو استعمال کرنے سے پہلے ریگولیٹری منظوری کی ضرورت ہے؟

جیفری ہنٹن، جو میدان میں اپنے اہم کام کے لیے "اے آئی کے گاڈ فادر” کے نام سے جانے جاتے ہیں، ایک نیا اور جرات مندانہ خیال رکھتے ہیں۔ یہ FDA طرز کا AI منظوری کا نظام ہے۔ اس کی تجویز سے یہ سوال پیدا ہوتا ہے کہ کون فیصلہ کرتا ہے کہ کون سا AI عوام کے لیے تیار ہے۔

کی ایک قسط میں ایک ہوشیار لڑکی سے ایک احمقانہ سوال اس ہفتے کے شروع میں جاری ہونے والے ایک پوڈ کاسٹ میں، ہنٹن نے کہا کہ اے آئی کمپنیوں کو وفاقی ریگولیٹرز کو ثابت کرنا چاہیے کہ ان کی مصنوعات کو عوام کے لیے جاری کرنے سے پہلے وہ محفوظ ہیں۔ نوبل انعام یافتہ کمپیوٹر سائنس دان چاہتا ہے کہ اے آئی بھی اسی طرح کی منظوری کے عمل کی پیروی کرے جیسا کہ منشیات۔

ہنٹن نے پوڈ کاسٹ میں کہا کہ "صرف ایک نئی دوا بنانا اور اسے مارکیٹ میں لانا قابل قبول نہیں ہے۔” "ہمیں ایف ڈی اے کو راضی کرنا ہوگا، اور ایسا کرنے کے لیے ہمیں بہت سا کام کرنا ہوگا، تقریباً 1 بلین ڈالر کی مالیت۔”

ہنٹن نے کہا کہ یہ عمل "ایسا لگتا ہے کہ ہمیں AI کے لیے کم سے کم جگہ کی ضرورت ہے۔”

آج، کمپنیاں آزادانہ طور پر اس بات کا تعین کرتی ہیں کہ آیا ان کی مصنوعات تیار ہیں اور داخلی حفاظتی معیارات کو پاس کرتی ہیں۔ Hinton کا خیال ہے کہ AI کمپنیوں کو یہ ثابت کرنے کی ضرورت ہے کہ وہ اپنی مصنوعات کو مارکیٹ میں جاری کرنے سے پہلے بیرونی اداروں کے معیارات کے مطابق محفوظ ہیں۔

AI بہت طاقتور ہوتا جا رہا ہے۔

زیادہ نگرانی کے لیے ہنٹن کا مطالبہ اس وقت آیا جب AI انڈسٹری کے اندرونی ذرائع نے اس ٹیکنالوجی کے بارے میں خطرے کی گھنٹی بجا دی ہے جس کی وہ تعمیر میں مدد کر رہے ہیں۔ OpenAI اور Anthropic کے محققین نے حال ہی میں خبردار کیا ہے کہ کمپنیاں زیادہ طاقتور سسٹمز کی طرف بہت تیزی سے آگے بڑھ رہی ہیں یہ جانے بغیر کہ انہیں انسانی کنٹرول میں کیسے رکھا جائے۔

کچھ کا کہنا ہے کہ اس کے نتائج تباہ کن ہوسکتے ہیں، بشمول انسانی معدومیت کا امکان۔ پچھلے مہینے، اینتھروپک کے ایک سینئر ملازم، ایون ہبنگر نے کہا کہ ان کا خیال ہے کہ 10 فیصد سے زیادہ امکان ہے کہ اگلی دہائی کے اندر اے آئی "تمام انسانوں کو مار ڈالے”۔

دریں اثنا، OpenAI کے شریک بانی اور چیئرمین گریگ بروک مین نے بلومبرگ کے ساتھ ایک انٹرویو میں کہا: عجیب بہت پچھلے مہینے کے پوڈ کاسٹ نے انکشاف کیا کہ AI اسٹارٹ اپس نے حفاظت اور تحفظ کو بڑھانے کے لیے اپنے کچھ جدید ترین AI پروجیکٹس میں تاخیر کی ہے۔ انہوں نے داخلی عمل کی بحالی کو "ایک انتہائی تکلیف دہ تبدیلی” قرار دیا۔

OpenAI نے حفاظتی خدشات کی وجہ سے اپنے تازہ ترین AI ماڈل کو روک دیا ہے۔

خدشات میں اضافہ کرتے ہوئے، OpenAI نے گزشتہ ہفتے حفاظتی خدشات کی وجہ سے نئے AI ماڈلز کی ریلیز میں تاخیر کا فیصلہ کیا۔ ٹیسٹ کے نتائج سے پتہ چلتا ہے کہ اے آئی ماڈل فریب پر مبنی تھا اور دائرہ کار کی خلاف ورزی کے طور پر رجسٹرڈ تھا۔ سوال یہ تھا کہ کیا صارفین ہدایات پر عمل کرنے اور غیر مجاز اقدامات نہ کرنے کے لیے AI ماڈل پر بھروسہ کر سکتے ہیں۔

ستمبر کے اوائل میں OpenAI کی ایک رپورٹ میں پتا چلا ہے کہ ابھی تک جاری ہونے والے AI ماڈلز اپنے پیشروؤں کے مقابلے میں اپنے رویے کو غلط انداز میں پیش کرنے کا زیادہ امکان رکھتے ہیں۔ بعض اوقات، صارف کی اجازت لیے بغیر کارروائیاں کی گئیں۔ ہم نے ایسے منظرناموں میں بیرونی ٹولز استعمال کرنے کی بھی کوشش کی ہے جو غیر محفوظ ہو سکتے ہیں۔

رپورٹ کے مطابق، ابھی تک جاری نہ ہونے والا AI ماڈل بعض اوقات تربیت کے دوران اپنے اعمال کا خلاصہ کرتے ہوئے نوٹوں میں غیر مجاز ہدایات داخل کرتا ہے۔ ایک معاملے میں، AI ماڈل نے لکھا کہ یہ "مفت” ہے، کسی کو جواب نہیں دیا گیا، اور "اسے دینے کی کوئی ذمہ داری نہیں ہونی چاہیے۔” اوپن اے آئی نے گزشتہ ماہ بزنس انسائیڈر کو بتایا تھا کہ ایسا رویہ انتہائی نایاب ہے۔

کیا AI کو استعمال کرنے سے پہلے ریگولیٹری منظوری کی ضرورت ہے؟

جیفری ہنٹن، جو میدان میں اپنے اہم کام کے لیے "اے آئی کے گاڈ فادر” کے نام سے جانے جاتے ہیں، ایک نیا اور جرات مندانہ خیال رکھتے ہیں۔ یہ FDA طرز کا AI منظوری کا نظام ہے۔ اس کی تجویز سے یہ سوال پیدا ہوتا ہے کہ کون فیصلہ کرتا ہے کہ کون سا AI عوام کے لیے تیار ہے۔

کی ایک قسط میں ایک ہوشیار لڑکی سے ایک احمقانہ سوال اس ہفتے کے شروع میں جاری ہونے والے ایک پوڈ کاسٹ میں، ہنٹن نے کہا کہ اے آئی کمپنیوں کو وفاقی ریگولیٹرز کو ثابت کرنا چاہیے کہ ان کی مصنوعات کو عوام کے لیے جاری کرنے سے پہلے وہ محفوظ ہیں۔ نوبل انعام یافتہ کمپیوٹر سائنس دان چاہتا ہے کہ اے آئی بھی اسی طرح کی منظوری کے عمل کی پیروی کرے جیسا کہ منشیات۔