چیٹ جی پی ٹی ہیلتھ ہر ایک کے لیے متعارف کرایا جا رہا ہے، لیکن مجھے اس پر بھروسہ نہیں ہے۔

OpenAI نے آج اعلان کیا ہے کہ ChatGPT Health اب 18 سال اور اس سے زیادہ عمر کے تمام صارفین کے لیے مفت پلان سمیت تمام منصوبوں پر دستیاب ہے۔ میرا AI پر مبنی صحت کے مشورے کے بارے میں عمومی شکوک و شبہات ایک طرفمیرے خیال میں ChatGPT ریاستوں کو مکمل طور پر دہرانے سے بچنے کی اچھی وجوہات ہیں، بشمول اصل ChatGPT اسٹیٹ سیٹنگز سے پرائیویسی میں بڑے درجات۔

چیٹ جی پی ٹی ہیلتھ آپ کو اپنے میڈیکل ریکارڈز یا ایپل ہیلتھ ڈیٹا کو چیٹ بوٹ سے مربوط کرنے دیتا ہے۔ اوپن اے آئی کا کہنا ہے کہ بوٹ گفتگو کے لیے آپ کے صحت کے ڈیٹا تک رسائی کی اجازت طلب کرے گا، اور یہ کہ اس کا مقصد آپ کے ڈاکٹر کو تبدیل کرنا نہیں ہے، بلکہ مشورہ فراہم کرنا یا طبی ڈیٹا کی تشریح میں مدد کرنا ہے۔ ان انتباہات کے باوجود (اور پریزنٹیشن چارٹ جہاں ChatGPT Health اصل ڈاکٹروں سے زیادہ "اسکور” کرتا ہے)، مجھے ہر جگہ سرخ جھنڈے نظر آتے ہیں۔

آپ کی رازداری کو گھٹا دیا گیا ہے۔

جب OpenAI سب سے پہلے اعلان کیا "صحت کے لیے وقف کردہ تجربے” کے سب سے بڑے فروخت ہونے والے نکات میں سے ایک یہ ہے کہ صحت سے متعلق گفتگو کو مستقبل کی AI تربیت کے لیے استعمال نہیں کیا جائے گا اور صحت کی بات چیت کو دیگر تمام بات چیت سے الگ رکھا جائے گا۔

لیکن اب حالات بدل چکے ہیں۔ OpenAI اب آپ کا ہے۔ منسلک صحت کی معلومات AI ٹریننگ کے لیے استعمال نہیں ہوتا، استعمال کریں منسلک معلومات کو صحت سے متعلق گفتگو سمجھا جاتا ہے۔ اس کا مطلب ہے کہ جب ChatGPT آپ کے میڈیکل ریکارڈ میں تشخیص کے بارے میں پڑھتا ہے، تو آپ اب صحت سے متعلق محفوظ گفتگو کر رہے ہیں۔ تاہم، اگر آپ اپنے میڈیکل ریکارڈ کو لنک کیے بغیر ChatGPT کو اپنی تشخیص اپنے الفاظ میں بتانا چاہتے ہیں، تو اسے صحت سے متعلق گفتگو نہیں سمجھا جاتا ہے۔

اس کا مطلب یہ بھی ہے کہ ChatGPT Health کے رازداری کے تحفظات حاصل کرنے کا واحد طریقہ OpenAI کے ساتھ اپنے ہیلتھ ڈیٹا کا اشتراک کرنا ہے۔ اعلان میں، کمپنی نے لکھا: "آپ کسی بھی چیز سے جڑے بغیر ChatGPT میں صحت سے متعلق سوالات پوچھ سکتے ہیں۔ ہیلتھ کو استعمال کرنے اور اپنی معلومات کی بنیاد پر جوابات حاصل کرنے کے لیے، آپ Apple Health کو جوڑنے کا انتخاب کر سکتے ہیں، جو کہ امریکی ہسپتال کے نظام، ون میڈیکل، یا فنکشن ہیلتھ کے ذریعے تعاون یافتہ میڈیکل ریکارڈ ہے۔” بعد کی بات چیت میں رازداری کی خصوصیات ہیں۔ سابقہ ​​نہیں کرتا۔

OpenAI کا کہنا ہے کہ ChatGPT ڈاکٹروں سے بہتر کارکردگی کا مظاہرہ کرتا ہے، لیکن میں اس پر یقین نہیں کرتا۔

OpenAI کی HealthBench کی تشخیص سے پتہ چلتا ہے کہ ChatGPT طبی مشورہ فراہم کرنے میں اچھا ہے۔ لیکن، جیسا کہ میں نے پہلے لکھا تھا۔LLMs جیسے ChatGPT قابل اعتماد طبی مشورہ فراہم نہیں کرتے ہیں اور ان پر بھروسہ نہیں کیا جانا چاہیے۔ پچھلی تحقیق سے پتہ چلتا ہے کہ یہاں تک کہ جب LLMs احتیاط سے بنائے گئے صحت کے سوالات کے "صحیح” جوابات فراہم کرتے ہیں، حقیقی زندگی کی بات چیت راستے سے ہٹ جاتی ہے۔

ایسا لگتا ہے کہ ہیلتھ بینچ انہی حدود کا شکار ہے۔ OpenAI کے مطابق، حقیقی ڈاکٹروں نے جوابات کو گریڈ کرنے کے لیے rubrics بنائے، اور ڈاکٹروں نے مختلف ChatGPT ماڈلز اور ساتھی ڈاکٹروں کے جوابات کو گریڈ کرنے کے لیے ان روبرکس کا استعمال کیا۔ آسانی سے، نتائج سے پتہ چلتا ہے کہ ادا شدہ ChatGPT ماڈل نے مفت ماڈل سے زیادہ اسکور کیا، جس نے حقیقی ڈاکٹروں کو پیچھے چھوڑ دیا۔

تاہم، اس کا مطلب یہ نہیں ہے کہ چیٹ بوٹس اصل میں قابل اعتماد ہیں۔ ایک تشخیص ہیلتھ بینچ کا فریم ورک اس بات کی نشاندہی کرتا ہے کہ جانچ ایک حقیقی گفتگو نہیں ہے اور یہ کہ ” محاورے، موضوع میں تبدیلی، اور غیر متوقع مریض کے خدشات کو چھوڑا جا سکتا ہے۔” ایک اور بڑی حد یہ ہے کہ HealthBench صرف مختصر بات چیت کی جانچ کرتا ہے، ایک ایسا نقطہ نظر جو "طول بلد ورک فلو اور کثیر الضابطہ ہینڈ آف کی تشخیص کو روکتا ہے”، جیسے حقیقی گفتگو جو طویل ہو سکتی ہے یا دوسرے عنوانات کو شامل کر سکتی ہے۔