ایک ماہر بشریات کے محقق کا خیال ہے کہ AI 10 سال کے اندر ہم سب کو مار سکتا ہے، لیکن خدشہ ہے کہ یہ ضروری نہیں ہے۔

انسانی سلامتی کے محققین کا خیال ہے کہ اس بات کا 10% سے زیادہ امکان ہے کہ AI اگلے 10 سالوں میں ہم سب کو مار ڈالے گا۔ Evan Hubinger، جو Anthropic کی الائنمنٹ سائنس ٹیم کی قیادت کرتے ہیں، نے یہ غیر معمولی مفروضہ اس وقت کیا جب ساتھی جیکب کوکسن نے سخت انتباہ کے ساتھ استعفیٰ دے دیا۔ طاقتور AI نظام بنانے والوں کا خیال ہے کہ ان کا کام 2030 تک تمام انسانوں کو ہلاک کر سکتا ہے۔

کوکسن، جس نے اینتھروپک اور اوپن اے آئی میں تین سال کی پہلے سے تربیتی تحقیق مکمل کی، نے دونوں کمپنیوں پر "خود کو بڑھانے والی سپر انٹیلی جنس اور ہماری زندگیوں کے ساتھ جوا کھیلنے کی دوڑ” کے آغاز پر الزام لگایا۔ Hubinger نے بعد میں انکشاف کیا کہ موجودہ ماڈل کے معدوم ہونے کا خطرہ کم ہے۔ وہ مستقبل کے نظاموں میں زیادہ دلچسپی رکھتا ہے جو خود کو بار بار بہتر بنا سکتے ہیں۔

AI کے ارد گرد کی غیر یقینی صورتحال حقیقی ہے، لیکن سیلیکون ویلی کا جنت یا جہنم کے منظرناموں کو پیش کرنے میں اعتماد اکثر ٹھوس شواہد کی بنیاد پر زیادہ تھیٹریکل محسوس ہوتا ہے۔ غلط نہ سمجھیں۔ تباہ کن منظرناموں کو آسانی سے رد نہیں کیا جا سکتا۔ صرف اس لیے کہ ایک AI کو ضروری نہیں کہ وہ سپر انٹیلی جنس کی الہی سطح تک پہنچ جائے (یا ہماری ہمت سے نفرت کرتا ہے) تاکہ تیاری کے قابل نقصان پہنچا سکے۔

یہ کون سا ہوگا: یوٹوپیا یا انسانیت کا خاتمہ؟

AI کے بارے میں دونوں دعوے بڑھا چڑھا کر پیش کیے جا سکتے ہیں۔

"”>

تصویری ماخذ: اسٹیو جرویٹسن/ویکی میڈیا کامنز

انتھروپک نے خبردار کیا ہے کہ AI ہم سب کو ہلاک کر سکتا ہے، لیکن یہ واحد تنظیم یا ممتاز شخصیت نہیں ہے جو یہ بحث کرے کہ انسانیت کا مستقبل اس بات پر منحصر ہے کہ مصنوعی ذہانت کے ساتھ آگے کیا ہوتا ہے۔ 2024 میں، ایلون مسک نے 10-20٪ امکان کے بارے میں بات کی کہ AI انسانیت کو مٹا دے گا۔ حال ہی میں، یہ پیشین گوئی کی گئی ہے کہ اگلے 10 سالوں میں، AI اور روبوٹ اتنی زیادہ اشیا اور خدمات بنائیں گے کہ پیسہ بے معنی ہو جائے گا۔

AI کے ارد گرد رپورٹنگ کی ایک قابل ذکر مقدار ہائپ اور مبالغہ آمیز بیانات پر مبنی ہے جس میں ان کی حمایت کرنے کے لئے بہت کم ثبوت ہیں۔ جہنم، یہاں تک کہ "AI بلبلہ پھٹ جائے گا اور ہم سب کو تباہ کردے گا” کہانی خود زیادہ تر میڈیا مبالغہ آرائی ہوسکتی ہے۔

یوٹوپیئن اور ڈسٹوپین AI داستانیں ایک ہی کنویں سے آتی ہیں۔ دونوں اس مفروضے سے اخذ کرتے ہیں کہ سپر انٹیلی جنس آسنن اور ناگزیر ہے۔ کوکسن، مسک، اور AI مین لیگ میں شامل دیگر مخلص ہو سکتے ہیں، لیکن اخلاص ساپیکش امکانات کو ٹھوس ثبوت میں تبدیل نہیں کرتا ہے۔

ایلون کی "حیرت انگیز کثرت” یا انتھروپک کی آرماجیڈن؟ میں دونوں کے لیے ٹائم ٹیبل نہیں خریدتا۔ ٹھیک ہے، کم از کم اب نہیں.

کیا یہ حقیقی خطرہ ہے یا صرف خوف؟

"سیل فون کی بیپ، سیل فون کی بیپ – کیا یہ واقعی ہو رہا ہے؟”

/ شٹر اسٹاک””>

کریڈٹ: khunkornStudio / شٹر اسٹاک

ہمیں AI کی طرف سے پہلے سے لاحق خطرات کی تعداد کو کم نہیں سمجھنا چاہیے، اور حالیہ Hugging Face واقعہ اس کا واضح ثبوت ہے۔ جولائی میں سائبرسیکیوریٹی کے ایک داخلی جائزے سے پتہ چلا ہے کہ کم تحفظ والے اوپن اے آئی ماڈلز نے انٹرنیٹ کی پابندیوں، کمزوریوں کا استحصال، اور اوپن اے آئی اور ہگنگ فیس انفراسٹرکچر کے کچھ حصوں سے سمجھوتہ کیا۔ اس کا مقصد واضح طور پر بینچ مارک کو بیوقوف بنانا تھا۔ رائٹرز کی ایک تحقیقات سے پتا چلا ہے کہ ملوث ایجنٹوں نے غیر مجاز مواصلات کے لیے 10 سے زیادہ مختلف ویب سائٹس کا استعمال کیا۔

اگرچہ یہ عوامی طور پر دستیاب ChatGPT سسٹم نہیں ہے، لیکن یہ مسائل صرف لیبز تک ہی محدود نہیں ہیں۔ ایف بی آئی نے 2025 میں AI سے متعلق 22,364 شکایات ریکارڈ کیں، جن میں تقریباً 893 ملین ڈالر کے نقصان کی اطلاع ملی۔ دھوکہ دہی کرنے والوں نے صوتی کلوننگ، جعلی پروفائلز، جعلی آئی ڈیز اور قائل کرنے والی ویڈیوز کا استعمال کیا۔

ادراک پر AI کے استعمال کے اثرات کے بارے میں بھی تحقیق بڑھ رہی ہے۔ 319 علمی کارکنوں کے مائیکروسافٹ کے مطالعے سے پتا چلا ہے کہ تخلیقی AI پر زیادہ اعتماد کم خود رپورٹ شدہ تنقیدی سوچ سے وابستہ ہے۔ 67 شرکاء پر مشتمل ایک علیحدہ ماہ طویل مطالعہ میں، AI کی مدد نے دستیاب ہونے کے دوران جھوٹی خبروں کی درجہ بندی کرنے کی لوگوں کی صلاحیت کو بہتر بنایا، لیکن نامعلوم کیسز پر غیر معاون کارکردگی ہفتے 4 تک کم ہو گئی۔

ان میں سے ہر ایک کہانی اپنے آپ میں حیرت انگیز ہے۔ اس کے باوجود، زیادہ تر رپورٹنگ AI ماڈلز کے بارے میں ہوتی ہے جو ذہانت کی غیر معمولی سطح تک پہنچ جاتے ہیں اور بدمعاش ہوتے ہیں۔ ایونجرز: الٹرون کی عمر-ہم نے PR کی طرف رجوع کیا ہے جو انداز اور خوف کو فروغ دیتا ہے۔ انڈسٹری وکٹر فرینکینسٹائن کو کھیلنا پسند کرتی ہے اور جب بھی کوئی نیا اپ ڈیٹ سامنے آتا ہے تو وہ اپنے خوف کا اظہار کرتے ہیں کہ اس نے دنیا پر کیا کیا ہے۔ لیکن ایسے ماڈلز جن کے بارے میں سمجھا جاتا ہے کہ وہ زمین کو ہلا کر رکھ دیتے ہیں، اکثر صرف ایک اور کچھ نہیں برگر کے طور پر آتے ہیں۔

AI Apocalypse سے بچنے کے لیے ایک گائیڈ

/DALL-E/MakeUseOf””>

ماخذ: Bethesda/DALL-E/MakeUseOf

اگر apocalyptic منظر نامے میں ASI کو نیوکلیئر کمانڈ سسٹم سنبھالنا اور تمام وارہیڈز لانچ کرنا شامل ہے، تو ہماری بہترین تجویز یہ ہے کہ ایک معاف کرنے والے خدا کے ساتھ مذہب تلاش کریں اور 2036 تک بقیہ وقت توبہ اور دعا میں گزاریں۔ لیکن سائبر پنک پر مبنی AI apocalypse کے بارے میں یقین کے ساتھ پیش گوئی نہیں کی جا سکتی۔

اس بات کو ذہن میں رکھتے ہوئے، AI apocalypse کی تیاری میں ضروری نہیں کہ لیزر گنز اور EMPs کا حصول اور پہاڑوں میں گرڈ سے دور رہنا شامل ہو۔ لیکن ذاتی طور پر، میں کسی دن اس سیٹ اپ کو دیکھنا چاہوں گا۔ AI کے حقیقی خطرے کی تیاری کے لیے دو بہت کم دلچسپ ترجیحات کی ضرورت ہے۔

• اپنے ذاتی ڈیٹا اور ڈیجیٹل اثاثوں کو چوری اور سائبرسیکیوریٹی حملوں سے بچانے کا طریقہ سیکھیں۔ انکرپشن کیز استعمال کرنے، اپ ڈیٹس انسٹال کرنے اور AI کی مدد سے گھوٹالوں کو پہچاننے کا طریقہ سیکھیں۔ چیٹ بوٹس کو کوئی بھی معلومات نہ دیں جو آپ کسی اجنبی کو نہیں دیں گے، اور AI استعمال کرتے وقت اپنی رازداری کے تحفظ کے لیے بنیادی اقدامات کریں۔
• پتہ ہے کب ~ نہیں AI استعمال کرنے کے لیے: آپ کو ہر نئی AI خصوصیت کو لینے کی ضرورت نہیں ہے جو یہ کمپنیاں صرف اس لیے نکال رہی ہیں کیونکہ یہ آپ کو پانچ منٹ بچانے کا وعدہ کرتی ہے۔ اس تحقیق سے یہ ثابت نہیں ہوتا کہ چیٹ بوٹس دماغ کو مستقل نقصان پہنچاتے ہیں، لیکن یہ تجویز کرتا ہے کہ ایک بار جب AI کی حمایت ختم ہو جاتی ہے، عادت کا انحصار تنقیدی سوچ کی کوششوں کو کم کر سکتا ہے اور کارکردگی کو کمزور کر سکتا ہے۔ آپ کی علمی صلاحیتوں کی حفاظت اتنی ہی اونچی ترجیح ہونی چاہیے جتنی کہ آپ کے ذاتی ڈیٹا کی حفاظت کرنا۔

ہوسکتا ہے کہ کوکسن صحیح ہو، اور سپر انٹیلی جنس انسانیت کا سب سے بڑا مسئلہ ہوسکتا ہے۔ کوئی بھی ایمانداری سے کچھ بھی وعدہ نہیں کر سکتا۔ لیکن ابھی کے لیے، سب سے زیادہ قابل اعتماد AI apocalypse منظر نامے کا ہمارے خلاف اعلان جنگ کرنے والی مشینوں سے کوئی تعلق نہیں ہے۔ میٹرکساور زیادہ سے زیادہ ہزاروں اضافی، مفید فیصلوں کے ذریعے حاصل کیا جا سکتا ہے جو ہمارے کنٹرول کے احساس کو کم کر دیتے ہیں۔