دماغی صحت کے سوالات اور مسائل کے لیے چیٹ بوٹس پر انحصار نہ کرنے کے ماہرین کے مشورے کے باوجود، لوگ مدد کے لیے ChatGPT جیسے AI پروگراموں کا رخ کر رہے ہیں۔ کمپنی کو اس بات پر تنقید کا سامنا کرنا پڑا کہ کس طرح اس کی مصنوعات نے دماغی صحت کے بعض مسائل کو حل کیا ہے، جس میں ایک واقعہ بھی شامل ہے جس میں ایک صارف نے ChatGPT کے ساتھ بات چیت کے بعد خودکشی کر لی تھی۔ ان مسائل کو حل کرنے کے لیے اپنی مہم کے ایک حصے کے طور پر، OpenAI اب ان صارفین کے لیے رضاکارانہ حفاظتی جانچ کا نظام شروع کر رہا ہے جو اس بارے میں فکر مند ہو سکتے ہیں کہ وہ کیا سوچتے ہیں۔
جیسا کہ Mashable رپورٹ کرتا ہے، OpenAI نے ابھی "Trusted Contacts” کا آغاز کیا، ایک نئی خصوصیت جو آپ کو اپنے ChatGPT اکاؤنٹ سے منسلک ہونے کے لیے قابل اعتماد لوگوں کو منتخب کرنے دیتی ہے۔ خیال بات چیت کا اشتراک یا ChatGPT کے اندر منصوبوں پر تعاون کرنا نہیں ہے۔ اس کے بجائے، اگر چیٹ بوٹ کو یقین ہے کہ آپ کی نجی چیٹس خود کو نقصان پہنچانے سے متعلق تشویشناک موڑ لے رہی ہیں، تو ChatGPT آپ کے بھروسہ مند رابطوں سے رابطہ کرے گا اور انہیں آپ کی حیثیت چیک کرنے کے لیے مطلع کرے گا۔
کریڈٹ: اوپن اے آئی
براہ کرم اس خصوصیت کو ترتیب دینے کے لیے 18 سال یا اس سے زیادہ عمر کے کسی فرد کو منتخب کریں۔ (جنوبی کوریا میں رابطوں کی عمر 19 سال یا اس سے زیادہ ہونی چاہیے۔) ChatGPT اس شخص کو آپ کا بھروسہ مند رابطہ بننے کا دعوت نامہ بھیجے گا۔ آپ کے پاس دعوت نامے کی میعاد ختم ہونے سے پہلے جواب دینے کے لیے ایک ہفتہ ہے۔ یقیناً، اگر آپ شرکت نہیں کرنا چاہتے تو آپ دعوت نامے کو مسترد کر سکتے ہیں۔
رابطہ کے متفق ہونے کے بعد، فیچر شروع ہو جائے گا۔ آگے بڑھتے ہوئے، اگر OpenAI کا خودکار نظام یہ طے کرتا ہے کہ آپ خود کو نقصان پہنچانے کے بارے میں "اس طرح سے بات کر رہے ہیں جو ایک سنگین حفاظتی تشویش کی نشاندہی کرتا ہے،” ChatGPT ایک بھروسہ مند رابطہ کو مطلع کرے گا کہ آپ ان سے رابطہ کر سکتے ہیں اور آپ کو "بات چیت کے آغاز” کے ذریعے براہ راست اس رابطے سے رابطہ کرنے کی ترغیب دے گا۔
جب کہ ایسا ہوتا ہے، OpenAI کے پاس صورتحال کا تجزیہ کرنے کے لیے "خصوصی تربیت یافتہ افراد” کی ایک ٹیم ہوتی ہے۔ (یہ سب خودکار معلوم نہیں ہوتا ہے۔) اگر یہ ٹیم یہ نتیجہ اخذ کرتی ہے کہ صورتحال سنگین ہے، تو ChatGPT قابل اعتماد رابطوں کو ای میل، ٹیکسٹ، یا ChatGPT کی ان ایپ اطلاعات کے ذریعے مطلع کرے گا اگر ان کے اکاؤنٹس ہیں۔ OpenAI کا کہنا ہے کہ اطلاع خود بہت محدود ہے، خود کو نقصان پہنچانے والے مسائل کے بارے میں صرف عام معلومات کا اشتراک کرتی ہے اور ایک نمائندے کو آپ سے رابطہ کرنے کا مشورہ دیتی ہے۔ ہم چیٹ کی سرگزشت یا خلاصے بھی نہیں بھیجتے ہیں، اس لیے آپ کی عمومی رازداری کی حفاظت کی جانی چاہیے ان تمام چیزوں کا تحفظ کیا جانا چاہیے۔
اب تک آپ کا کیا خیال ہے؟
OpenAI نے کہا کہ وہ ایک گھنٹہ کے اندر حفاظتی انتباہات کا جائزہ لینے کی کوشش کرتا ہے اور اس خصوصیت کو طبی ماہرین، محققین، اور ذہنی صحت اور خودکشی سے بچاؤ کے گروپوں کی رہنمائی کے ساتھ تیار کیا ہے۔ بلاشبہ، یہ خصوصیت مکمل طور پر رضاکارانہ ہے، لہذا صارفین کو اپنے آپ کو اور اپنے رابطوں کو رجسٹر کرنا چاہیے اگر وہ سمجھتے ہیں کہ یہ فیچر مددگار ثابت ہوگا۔ لیکن جب تک آپ ایسا کرتے ہیں، یہ آپ کے دوستوں اور خاندان والوں کو ان لوگوں کی جانچ میں مدد کر سکتا ہے جو جدوجہد کر رہے ہیں۔ فرض کریں کہ آپ ان خیالات کو ChatGPT کے ساتھ بانٹتے ہیں۔
انکشاف: لائف ہیکر کی پیرنٹ کمپنی، زیف ڈیوس نے اپریل 2025 میں OpenAI کے خلاف مقدمہ دائر کیا، جس میں الزام لگایا گیا کہ OpenAI نے اپنے AI سسٹمز کو تربیت دینے اور چلانے میں Ziff Davis کے کاپی رائٹس کی خلاف ورزی کی۔