MedGemma، Ollama، اور Open WebUI کا استعمال کرتے ہوئے اپنا میڈیکل AI اسسٹنٹ بنائیں

طبی ڈیٹا دستیاب سب سے حساس ڈیٹا میں سے ایک ہے۔ رازداری کے تقاضوں، تعمیل یا دونوں کی وجہ سے کلاؤڈ AI سروس کو بھیجنا اکثر آپشن نہیں ہوتا ہے۔

اس ٹیوٹوریل میں، آپ ہیلتھ کیئر AI اسسٹنٹ بنانے کے لیے تین اوپن سورس ٹولز استعمال کریں گے جو مکمل طور پر آپ کی اپنی مشین پر چلتا ہے۔

• میڈجیما، طبی متن اور تصاویر کو سمجھنے کے لیے گوگل کا اوپن میڈیکل AI ماڈل

• اولاما، مقامی طور پر اے آئی ماڈلز کو ڈاؤن لوڈ اور چلانے کا آسان ترین طریقہ

• WebUI کھولیں، مقامی ماڈلز کے ساتھ بات چیت کرنے کے لیے ChatGPT طرز کا ویب انٹرفیس۔

آخرکار، آپ طبی طور پر ٹیونڈ AI ماڈل کے ساتھ بات چیت کر سکیں گے، تجزیہ کے لیے سینے کے ایکس رے جیسی طبی تصاویر اپ لوڈ کر سکیں گے، اور یہ سب کچھ مقامی طور پر ڈیٹا کو کلاؤڈ پر بھیجے بغیر کر سکیں گے۔

اہم تردید اس سے پہلے کہ ہم شروع کریں: MedGemma ایک ڈویلپر ماڈل ہے، طبی آلہ نہیں۔ نتائج کا مقصد طبی تشخیص، مریض کے انتظام، یا علاج کے فیصلوں کو براہ راست مطلع کرنا نہیں ہے۔

اس ٹیوٹوریل میں آپ جو کچھ بھی بناتے ہیں وہ سیکھنے، پروٹو ٹائپنگ اور تحقیق کے لیے ہے۔ کسی بھی حقیقی طبی سوالات کے لیے ہمیشہ صحت کی دیکھ بھال کے مستند پیشہ ور سے رجوع کریں۔

ہم کیا احاطہ کریں گے:

یہ ٹیوٹوریل کس کے لیے ہے؟

یہ ٹیوٹوریل اس کے لیے مثالی ہے:

• ہیلتھ کیئر AI سیکھیں۔

• طبی RAG نظام کی تعمیر

• ریڈیولاجیکل اسسٹنٹ اور تجربہ

• طبی تعلیم کے آلات کی ترقی

• ملٹی موڈل ماڈل اسٹڈی

MedGemma کیا ہے؟

میڈجما یہ Gemma 3 فن تعمیر پر بنایا گیا ہے اور یہ گوگل کے کھلے ماڈلز کا مجموعہ ہے جو خاص طور پر طبی متن اور تصاویر کو سمجھنے کے لیے تربیت یافتہ ہے۔ اپنے آپ کو Gemma پر غور کریں، جس نے میڈیکل اسکول اور ریڈیولاجی ریذیڈنسی کے چار سال مکمل کیے ہیں۔

کیوں MedGemma؟

Llama یا Mistral جیسے عام مقصد کے ماڈلز کے برعکس، MedGemma کو خاص طور پر طبی ایپلی کیشنز کے لیے ڈیزائن کیا گیا ہے۔

• طبی تصاویر کو سمجھنا: ملٹی موڈل ماڈل کو غیر شناخت شدہ طبی امیجز پر تربیت دی گئی تھی، جس میں سینے کے ایکسرے، ڈرمیٹولوجی، آپتھلمولوجی، اور پیتھالوجی امیجز شامل ہیں۔

• طبی زبان کی مہارت: طبی اصطلاحات اور ریڈیولوجی رپورٹس کو بہتر طور پر سمجھنے کے لیے طبی لٹریچر اور طبی سوالوں کے جوابات کے ڈیٹاسیٹس پر تربیت حاصل کریں۔

• مختلف ماڈل سائز: MedGemma 4B اور 27B مختلف حالتوں میں دستیاب ہے، یہ دونوں 128K سیاق و سباق کی ونڈو کے ساتھ متن اور تصویری ان پٹ کو سپورٹ کرتے ہیں۔

• کھلا وزن: آپ ہیلتھ AI ڈیولپر فاؤنڈیشن کے استعمال کی شرائط کے تحت مقامی طور پر ماڈلز کا استعمال کرتے ہوئے ایپلی کیشنز کو ڈاؤن لوڈ، چلا، ٹھیک ٹیون اور بنا سکتے ہیں۔

MedGemma کو ہیلتھ کیئر ایپلی کیشنز، میڈیکل ایجوکیشن ٹولز، ریسرچ اسسٹنٹس، رپورٹ ایبسٹریکٹرز اور دیگر AI پر مبنی ہیلتھ کیئر ورک فلو بنانے والے ڈویلپرز کے لیے ایک بنیادی ماڈل کے طور پر بنایا گیا تھا۔

مقامی طور پر ماڈل کیوں چلائیں؟

ہوسٹڈ ہیلتھ کیئر ماڈلز کو API کے ذریعے بلایا جا سکتا ہے۔ تو مقامی کیوں جائیں؟ صحت کی دیکھ بھال میں، کیس تقریبا کسی بھی جگہ سے زیادہ مضبوط ہے.

سب سے پہلے، فن تعمیر کے مطابق رازداری کے اصول ہیں۔ ایک بار جب ماڈل آپ کے کمپیوٹر پر چلتا ہے، میڈیکل ٹیکسٹ اور تصاویر آپ کے آلے کو کبھی نہیں چھوڑتی ہیں۔ بات چیت کے لیے کوئی API لاگ، کوئی تھرڈ پارٹی ڈیٹا پروسیسرز، اور ڈیٹا پروسیسنگ کے معاہدے نہیں ہیں۔

ہر وہ شخص جو پروٹیکٹڈ ہیلتھ انفارمیشن (PHI) کے ارد گرد کام کرتا ہے، "ڈیٹا نے کبھی لیپ ٹاپ نہیں چھوڑا” وجود میں آنے والی سب سے آسان تعمیل کہانی ہے۔

اس کے بعد، فی ٹوکن لاگت 0 ہے۔ ماڈل ڈاؤن لوڈ کرنے کے بعد، تجربہ مفت ہے۔ آپ اپنے بلنگ ڈیش بورڈ کو دیکھے بغیر سینکڑوں بار پرامپٹ کو دہرا سکتے ہیں۔

آف لائن رسائی بھی دستیاب ہے۔ ہسپتالوں، لیبز اور فیلڈ کلینکس میں اکثر محدود یا ایئر ٹائٹ نیٹ ورک ہوتے ہیں۔ مقامی ماڈل ابتدائی ڈاؤن لوڈ کے بعد انٹرنیٹ کے بغیر کام کرتا ہے۔

آپ کو سیٹنگز پر بھی مکمل کنٹرول حاصل ہے۔ ایک بار جب آپ ماڈل ورژن کو منتخب اور پن کرلیں تو یہ تبدیل نہیں ہوگا۔ کوئی فرسودگی کی اطلاعات یا خودکار رویے میں تبدیلیاں نہیں ہیں۔

آخر میں، یہ سیکھنے کا ایک بہترین طریقہ ہے۔ ماڈل کو مقامی طور پر چلانے سے ماڈل کا راز کھل جاتا ہے۔ آپ سیاق و سباق کی ونڈوز، کوانٹائزیشن، اور میموری کی رکاوٹوں کے بارے میں وجدان پیدا کریں گے جو آپ API کالز سے حاصل نہیں کر سکتے۔

شرطیں

شروع کرنے سے پہلے آپ کو اس کی ضرورت ہے:

ہارڈ ویئر:

• کم از کم 8 جی بی ریم (16GB تجویز کردہ) MedGemma 4B ماڈل کے لیے۔ ڈاؤن لوڈ کا سائز تقریباً 3.3GB ہے۔

• 32GB RAM یا 24GB+ GPU اگر آپ 27B ماڈل چلانا چاہتے ہیں (تقریباً 17GB ڈاؤن لوڈ)۔

• تقریباً 15GB مفت ڈسک کی جگہ آرام دہ ہونا ضروری ہے (ماڈل + ڈوکر امیج + ورک روم)۔

• Apple Silicon Macs (M1 to M4) اس کے لیے بہترین ہیں۔ اولاما خود بخود دھاتی سرعت کا استعمال کرتا ہے۔ ونڈوز اور لینکس پر، ایک NVIDIA GPU مددگار ہے لیکن ضروری نہیں ہے۔ صرف CPU کا اندازہ کام کرتا ہے، لیکن سست ہے۔

سافٹ ویئر:

• macOS، Linux، یا Windows 10/11

• ڈاکر ڈیسک ٹاپ (تجویز کردہ Open WebUI انسٹالیشن کے لیے) یا Python 3.11 اگر آپ pip کا استعمال کرتے ہوئے Open WebUI انسٹال کرنا چاہتے ہیں۔

• ڈیوائس کا بنیادی سکون

بس۔ کوئی API کیز، اکاؤنٹس، یا GPU کلاؤڈ کریڈٹ نہیں ہیں۔

فن تعمیر کا خاکہ

مرحلہ 1: Olama انسٹال کریں۔

اولاما ایک ہلکا پھلکا رن ٹائم ہے جو سادہ CLI اور مقامی REST API کے ذریعے ڈاؤن لوڈ، کوانٹائزیشن، اور اوپن ماڈلز کی سرونگ کو سنبھالتا ہے۔

macOS کے لیے:

ollama.com/download سے ایپ ڈاؤن لوڈ کریں اور اسے اپنی ایپلیکیشن میں گھسیٹیں یا ہومبریو کے ذریعے انسٹال کریں۔

brew install ollama

لینکس کے لیے:

curl -fsSL https://ollama.com/install.sh | sh

ونڈوز کے لیے:

ollama.com/download سے مقامی ونڈوز انسٹالر ڈاؤن لوڈ اور چلائیں۔ (Ollama اب مقامی طور پر ونڈوز کو سپورٹ کرتا ہے اور اسے WSL کی ضرورت نہیں ہے۔)

انسٹال کرنے کے بعد، چیک کریں کہ آیا یہ کام کرتا ہے۔

ollama --version

آپ کو پرنٹ شدہ ورژن نمبر نظر آئے گا۔ اولاما ایک پس منظر کی خدمت بھی شروع کرتا ہے جو سنتا ہے۔ http://localhost:11434. یہ وہ API ہے جس کی Open WebUI بعد میں وضاحت کرے گا۔ آپ چیک کر سکتے ہیں کہ آیا سرور کام کر رہا ہے:

curl http://localhost:11434

واپس کرنا ہوگا Ollama is running.

مرحلہ 2: MedGemma درآمد کریں۔

MedGemma براہ راست سرکاری Ollama ماڈل لائبریری سے دستیاب ہے، لہذا آپ اسے ایک کمانڈ کے ساتھ ڈاؤن لوڈ کر سکتے ہیں:

ollama pull medgemma

یہ بنیادی 4B ملٹی موڈ ویرینٹ لاتا ہے، جو تقریباً 3.3GB ڈاؤن لوڈ کے برابر ہے۔

اگر آپ واضح طور پر سائز دکھانا چاہتے ہیں (27B ماڈل کے ساتھ تجربہ کرتے وقت یہ بعد میں مفید ہوگا):

ollama pull medgemma:4b     # 3.3 GB — multimodal, runs on most laptops
ollama pull medgemma:27b    # 17 GB — multimodal, needs serious hardware

ڈاؤن لوڈ مکمل ہونے کے بعد، یہ دیکھنے کے لیے چیک کریں کہ آیا آپ کا ماڈل انسٹال ہے۔

ollama list

آپ کو دیکھنا چاہئے medgemma یہ اس کے سائز کے ساتھ آؤٹ پٹ میں دکھایا جائے گا۔

مرحلہ 3: اپنے ٹرمینل میں میڈجیما کی جانچ کریں۔

کوئی بھی UI شامل کرنے سے پہلے، آئیے یقینی بنائیں کہ ہمارا ماڈل عملی طور پر کام کرتا ہے۔ ایک انٹرایکٹو سیشن شروع کریں۔

ollama run medgemma

آپ کو مل جائے گا >>> فوری۔ ان طبی سوالات کو آزمائیں:

>>> What are the classic radiographic signs of pneumonia on a chest X-ray?

MedGemma کو ایک منظم جواب کے ساتھ جواب دینا چاہیے جس میں نتائج کا احاطہ کیا جائے جیسا کہ کنسولیڈیشن، ایئر برونکوگرافی، اور سلائیٹ نشانیاں۔ یہ جواب ریڈیولوجی کی تربیت کو ظاہر کرتا ہے۔

طبی استدلال دیکھنے کے لیے ایک بار اور کوشش کریں۔

>>> Explain the difference between Type 1 and Type 2 diabetes to a first-year medical student.

سیشن کے اندر کچھ مفید کمانڈز:

• /bye – سیشن ختم ہوتا ہے۔

• /clear – گفتگو کا سیاق و سباق صاف کریں۔

• /show info – ماڈل کی تفصیلات دکھائیں (پیرامیٹر، کوانٹائزیشن، سیاق و سباق کی لمبائی)

آپ فائل پاتھ کو براہ راست پرامپٹ پر منتقل کر کے ٹرمینل سے براہ راست امیج ان پٹ کی جانچ بھی کر سکتے ہیں۔

>>> Describe the key findings in this image. ./chest_xray_sample.png

اگرچہ یہ کام کرتا ہے، اوپن WebUI کے ذریعے تصاویر اپ لوڈ کرنا زیادہ آسان ہے۔

مرحلہ 4: اوپن WebUI انسٹال کریں۔

Open WebUI اولاما کے اوپر ایک صاف ChatGPT طرز کا انٹرفیس فراہم کرتا ہے۔ بات چیت کی سرگزشت، ماڈل سوئچنگ، امیج اپ لوڈز، ملٹی یوزر سپورٹ، اور بہت کچھ سب خود میزبان ہیں۔

اختیار A: ڈاکر (تجویز کردہ)

ڈوکر انسٹال کرکے شروع کریں۔

یہ یقینی بنانے کے بعد کہ ڈوکر ڈیسک ٹاپ چل رہا ہے، اس کا استعمال کرتے ہوئے Open WebUI لانچ کریں:

docker run -d -p 3000:8080 
  --add-host=host.docker.internal:host-gateway 
  -v open-webui:/app/backend/data 
  --name open-webui 
  --restart always 
  ghcr.io/open-webui/open-webui:main

آئیے تجزیہ کریں کہ یہ حکم کیا کرتا ہے۔

• -d پس منظر میں کنٹینر چلائیں۔

• -p 3000:8080 اپنے کمپیوٹر پر پورٹ 3000 کو WebUI پر اندرونی پورٹ 8080 سے نقشہ بنائیں۔

• --add-host=host.docker.internal:host-gateway کنٹینرز کو میزبان مشین پر چلنے والے اولاما سرور تک پہنچنے کے قابل بناتا ہے۔

• -v open-webui:/app/backend/data ڈوکر والیوم بنائیں تاکہ کنٹینر کے دوبارہ شروع ہونے پر چیٹ اور ترتیبات برقرار رہیں۔

• --restart always ریبوٹ کے بعد UI خود بخود بیک اپ ہوجاتا ہے۔

آپشن B: pip (کوئی ڈاکر نہیں)

اگر آپ ڈوکر کو چھوڑنا چاہتے ہیں، تو آپ اس کے بجائے اوپن ویب یو آئی کو ازگر کے پیکیج کے طور پر انسٹال کر سکتے ہیں (ازگر 3.11 معاون ورژن ہے)۔

pip install open-webui
open-webui serve

انٹرفیس پھر شروع ہوگا: http://localhost:8080 پورٹ 3000 کے بجائے۔

مرحلہ 5: اوپن ویب یو آئی کو اولاما سے جوڑیں۔

اپنا براؤزر کھولیں اور اس پر جائیں: http://localhost:3000 (یا :8080 (اگر آپ پائپ استعمال کرتے ہیں)۔

پہلی بار جب آپ اسے چلاتے ہیں، تو آپ کو ایڈمنسٹریٹر اکاؤنٹ بنانے کا اشارہ کیا جائے گا۔ یہ اکاؤنٹ محفوظ ہے۔ مقامی طور پر آپ کے کمپیوٹر پر (کلاؤڈ سبسکرپشن نہیں ہے۔)

زیادہ تر سیٹ اپ میں، Open WebUI خود بخود Ollama کا پتہ لگاتا ہے۔ http://localhost:11434 اب آپ کر چکے ہیں۔

اگر آپ کو اپنا ماڈل نظر نہیں آتا ہے تو اسے دستی طور پر جوڑیں۔

1. اپنے پروفائل آئیکن پر کلک کریں اور جائیں: ایڈمن پینل پھر ترتیب پھر کے درمیان.

2. نیچے اولاما APIURL سیٹ کریں:

3. اپنا کنکشن چیک کرنے اور محفوظ کرنے کے لیے ریفریش آئیکن پر کلک کریں۔

مرکزی چیٹ اسکرین پر واپس جائیں۔ medgemma اب یہ سب سے اوپر ماڈل ڈراپ ڈاؤن میں ظاہر ہونا چاہیے۔

اگر آپ کو کسی خرابی کا سامنا کرنا پڑتا ہے، تو آپ نیچے ٹربل شوٹنگ سیکشن کو چیک کر سکتے ہیں۔

مرحلہ 6: MedGemma کے ساتھ چیٹنگ شروع کریں۔

منتخب کریں میجیما ہمارے ماڈل سلیکٹر میں گفتگو شروع کریں۔ ایک اچھا پہلا ٹیسٹ ہوگا:

Summarize this radiology report in plain language a patient could understand:

"Impression: Mild cardiomegaly. Small right pleural effusion.
No focal consolidation. Degenerative changes of the thoracic spine."

آپ کو ہر ایک نتیجہ کی واضح، مریض دوستانہ وضاحت ملنی چاہیے۔ یہ "کلینیکل ٹو لیٹ” ترجمہ MedGemma کی حقیقی طاقتوں میں سے ایک ہے۔

کچھ Open WebUI خصوصیات ہیں جن کے بارے میں جاننے کے قابل ہے۔

• سسٹم پرامپٹ: اپنے ماڈل کے نام پر کلک کریں اور سسٹم پرامپٹ کو اس طرح سیٹ کریں: "آپ طبی تعلیم کے معاون ہیں۔ ہمیشہ اپنے استدلال کی وضاحت کریں اور متعلقہ فزیالوجی کا حوالہ دیں۔” یہ گفتگو میں ہر جواب کو شکل دیتا ہے۔

• گفتگو کی سرگزشت: تمام چیٹس مقامی طور پر محفوظ ہیں اور سائڈبار سے تلاش کی جا سکتی ہیں۔

• متعدد ماڈلز: آپ شامل کر سکتے ہیں llama3.2, gemma3یا ایک مختلف اولاما ماڈل کا انتخاب کریں اور انہی طبی سوالات کے جوابات کا آپس میں موازنہ کریں۔ یہ ایک اچھا طریقہ ہے دیکھیں فرق ڈومین کی تربیت کرتا ہے۔

مرحلہ 7: طبی تصاویر اپ لوڈ کریں۔

یہ وہ جگہ ہے جہاں MedGemma واقعی اپنے آپ کو آفاقی ماڈل سے الگ کرتا ہے۔ چونکہ وژن انکوڈر میڈیکل امیجنگ پر پہلے سے تربیت یافتہ ہے، اس لیے یہ ریڈیو گراف، جلد کے زخموں، فنڈس کی تصاویر، اور ہسٹوپیتھولوجی پیچ کو معنی خیز طور پر بیان کر سکتا ہے۔

اسے آزمانے کے لیے، ان اقدامات پر عمل کریں:

1. درج ذیل صارف کے ساتھ ایک نئی چیٹ شروع کریں۔ medgemma منتخب

2. اگلا پر کلک کریں۔ + (یا تصویر) کا آئیکن میسج باکس میں، یا بس تصویر کی فائل کو گھسیٹ کر ڈراپ کریں۔

3. تصویر کے آگے ایک پرامپٹ شامل کریں اور بھیجیں کو دبائیں۔

نمونے کی تصاویر کے لیے جن کا حقیقی مریض کے ڈیٹا کو چھوئے بغیر ٹیسٹ کیا جا سکتا ہے، عوامی تربیتی ڈیٹا سیٹس جیسے NIH ChestX-ray14 ڈیٹاسیٹ، MedPix، یا Radiopaedia سے تربیتی مثالیں استعمال کرنے پر غور کریں۔

سینے کے ایکسرے ورک فلو کی مثال:

[Upload: chest_xray.png]

You are an expert radiology assistant. Describe this chest X-ray
systematically: technical quality, lungs, heart, mediastinum, bones,
and soft tissues. Then summarize the key findings.

MedGemma عام طور پر آپ کی درخواست کردہ ترتیب کے مطابق تصاویر کو دیکھتا ہے، اس بات کی عکاسی کرتا ہے کہ ریڈیولوجسٹ کو فلموں کی تشریح کے لیے کس طرح تربیت دی جاتی ہے۔

دو اہم انتباہات:

• Ollama اور Open WebUI معیاری تصویری فارمیٹس (PNG، JPEG) کے ساتھ کام کرتے ہیں۔ کلینیکل DICOM فائلوں کو پہلے PNG/JPEG میں تبدیل کیا جانا چاہیے۔ یہ ایک ون لائنر ہے جس میں درج ذیل Python لائبریریاں شامل ہیں: pydicom + Pillow.

• براہ کرم ایسی تصاویر اپ لوڈ نہ کریں جن میں مریض کی شناخت کرنے والی معلومات (نام، MRN، تصویر پر درج تاریخ) شامل ہوں جب تک کہ ڈیٹا کی صحیح شناخت نہ ہو۔ یہاں تک کہ مقامی مشینوں پر بھی، ڈیٹا کی اچھی حفظان صحت ایک قابل قدر عادت ہے۔

ہاں کوشش کرنے کے لیے پیغام

ذیل میں ایسے اشارے ہیں جو مختلف خصوصیات کو ظاہر کرتے ہیں۔ اسے نقطہ آغاز کے طور پر استعمال کریں۔

طبی تعلیم:

Create a comparison table of ACE inhibitors vs ARBs: mechanism, common examples, key side effects, and contraindications.

طبی دستاویزات:

Convert these shorthand clinic notes into a structured SOAP note:"45F, 3d cough + fever 101F, no SOB, lungs clear, likely viral URI, supportive care, return if worse"

مریضوں کے لیے رپورٹس کا ترجمہ:

Explain this MRI impression to a worried patient in a reassuring but honest tone: "Small disc protrusion at L4-L5 without significant canal stenosis or nerve root compression."

تصویری تجزیہ (اپ لوڈ کردہ ڈرمیٹولوجی تصاویر سمیت):

Describe this skin lesion using the ABCDE criteria
(Asymmetry, Border, Color, Diameter, Evolution cannot be assessed from a single image — note that explicitly).

تفریق کا اندازہ:

A 60-year-old presents with sudden painless vision loss in one eye. List the top 5 differential diagnoses and the key distinguishing feature of each.

پیٹرن چیک کریں. مندرجہ ذیل پیغام کے ساتھ MedGemma فراہم کرنے سے بہترین نتائج آئیں گے: کردار, ساخت مندرجہ ذیل، اور واضح پابندیاں. یہ تمام LLMs کے لیے درست ہے، لیکن یہ ان علاقوں میں بھی زیادہ اہم ہے جہاں درستگی اہم ہے۔

بڑے ماڈلز چلائیں۔

اگرچہ 4B ماڈل سائز کے لحاظ سے متاثر کن ہے، لیکن 27B کی قسم پیچیدہ طبی استدلال، طویل تفریق تشخیص، اور رپورٹ کی باریک تشریح میں نمایاں طور پر زیادہ طاقتور ہے۔

سمجھوتہ ہارڈ ویئر ہے۔

ماڈل	ڈاؤن لوڈ	حقیقت پسندانہ RAM/VRAM درکار ہے۔	کے لیے بہترین موزوں ہے۔
medgemma:4b	3.3 جی بی	8 جی بی + ریم	نوٹ بک، فوری تکرار، تصویر سوال و جواب
medgemma:27b	17 جی بی	32GB RAM یا 24GB VRAM	گہری استدلال، پیچیدہ مقدمات

27B ماڈل آزمانے کے لیے:

ollama pull medgemma:27b
ollama run medgemma:27b

بڑے ماڈلز کے لیے عملی تجاویز:

• اپنی یادداشت پر نظر رکھیں: چلائیں ollama ps چیک کریں کہ لوڈ شدہ ماڈل کتنی RAM/VRAM استعمال کرتا ہے اور آیا یہ GPU، CPU، یا دونوں میں تقسیم ہوتا ہے۔ GPU سے CPU میں لیک ہونے والے ماڈل ڈرامائی طور پر سست ہوں گے۔

• ایپل سلیکن سےایک 32GB M-series Mac آرام سے 27B ماڈل چلاتا ہے۔

• ماڈل کے درمیان مفت میموری: اولاما استعمال کے بعد کئی منٹ تک ماڈلز کو لوڈ رکھتا ہے۔ فوری طور پر اتاریں۔ ollama stop medgemma:27b اگر آپ کو دوبارہ رام کی ضرورت ہے۔

• رفتار کا توازن برقرار ہے۔ اگر 27B ماڈل آپ کے کمپیوٹر پر 2 یا 3 ٹوکن فی سیکنڈ پیدا کرتا ہے، تو 4B ماڈل بہتر ہو سکتا ہے، جو فی سیکنڈ 30 یا اس سے زیادہ ٹوکن تیار کرتا ہے۔

آپ اوپن WebUI ڈراپ ڈاؤن میں دونوں کو انسٹال اور ان کے درمیان سوئچ رکھ سکتے ہیں۔ تیز تکرار کے لیے 4B، اگر گہرا اندازہ لگانے کی ضرورت ہو تو 27B۔

ٹربل شوٹنگ گائیڈ

غلطی: registry.ollama.ai/library/medgemma:latest does not support tools

یہ MedGemma سے متعلق سب سے عام غلطی ہے اور اس کا مطلب ہے کہ Open WebUI آپ کی درخواست کے ساتھ ڈیفالٹ ٹول/فنکشن کی تعریفیں بھیج رہا ہے۔ MedGemma (جیسا کہ پہلے سے طے شدہ Gemma 3) Ollama کے ٹولز API کو سپورٹ نہیں کرتا ہے، اس لیے درخواستوں کو مسترد کر دیا جائے گا اس سے پہلے کہ ماڈل بھی پیغام دیکھے۔

تمام منسلکہ ٹولز کو درج ذیل ترتیب میں تلاش کریں:

1. ماڈل کی خصوصیات (مالک بننے کا امکان): ایڈمن پینل، سیٹنگز، ماڈلز، میڈجیما پر جائیں اور اسے غیر چیک کریں۔ Builtin Tools, Web Search, Code Interpreterاور Terminal خصوصیات کے تحت، یقینی بنائیں کہ بلٹ ان ٹولز چیک لسٹ میں موجود ہر چیز کو چیک نہیں کیا گیا ہے۔ برقرار رکھنا Vision, File Uploadاور File Context تصدیق شدہ۔ نئے اوپن WebUI ورژنز بلٹ ان ٹولز کو بطور ڈیفالٹ فعال کرتے ہیں، لہذا ایک تازہ انسٹال فوری طور پر اس مسئلے کا سبب بنے گا۔

2. ورکنگ ماڈل: اپنے ایڈمن پینل، سیٹنگز، انٹرفیس پر جائیں اور یقینی بنائیں کہ آپ کا مقامی یا بیرونی ٹاسک ماڈل medgmma پر سیٹ نہیں ہے۔ پس منظر کے کام، جیسے عنوانات بنانا اور فالو اپ ٹاسک، ٹول کالز کا استعمال کریں۔ llama3.2 یا اس سے ملتا جلتا۔

3. فنکشن کال موڈ: پر سیٹ کریں بنیادی (غیر مقامی) ماڈلز کے لیے ایڈوانسڈ پیرامز اور صارف کی ترتیبات، عمومی اور اعلی درجے کے پیرامیٹرز میں

4. عالمی افعال/فلٹرز: اپنے ایڈمن پینل پر جائیں پھر فیچرز اور فعال فیچر کے لیے عالمی ٹوگل کو غیر فعال کریں۔ اس کی وجہ یہ ہے کہ عالمی خصوصیات تمام ماڈلز سے منسلک ہیں۔

5. چیٹ کے لیے مخصوص ٹوگلز: میسج باکس میں، یقینی بنائیں کہ ویب سرچ اور کوڈ انٹرپریٹر ٹوگلز آف ہیں اور کوئی ٹولز + مینو کے ذریعے منسلک نہیں ہیں۔

پھر نئی بات چیت (پرانی چیٹس میں پرانی ترتیبات ہوسکتی ہیں) ٹیسٹ۔ یہ چیک کرنے کے لیے کہ آیا ماڈل خود ٹھیک ہے، چلائیں: ollama run medgemma "hello" آپ کے ٹرمینل میں۔ اگر یہ کام کرتا ہے تو مسئلہ خالصتا Open WebUI کنفیگریشن ہے۔

اوپن WebUI ڈراپ ڈاؤن میں ماڈلز کو ظاہر نہیں کرتا ہے۔

کنٹینر علامہ تک نہیں پہنچ سکتا۔ براہ کرم درج ذیل کو چیک کریں:

• علامہ دراصل چل رہے ہیں۔ curl http://localhost:11434 واپس کرنا ہوگا Ollama is running.

• ایڈمن پینل، سیٹنگز، کنکشنز میں کنکشن URL درج ذیل ہے: http://host.docker.internal:11434 (ڈاکر) – localhost یہ کنٹینر کے اندر کام نہیں کرتا کیونکہ یہ کنٹینر کا ہی حوالہ دیتا ہے۔

• لینکس کے لیے، host.docker.internal غیر حل شدہ شامل کریں۔ --network=host آپ کو docker run اس کے بجائے، کمانڈ استعمال کریں۔ http://localhost:11434.

ollama pull medgemma اس کا کہنا ہے کہ ماڈل نہیں ملا

براہ کرم Ollama کو اپ ڈیٹ کریں کیونکہ MedGemma کو تازہ ترین ورژن کی ضرورت ہے۔ انسٹالر کو دوبارہ چلائیں، یا macOS پر، مینو بار کے آئیکن پر کلک کریں، پھر اپ ڈیٹ پر کلک کریں۔ پھر دوبارہ کھینچنے کی کوشش کریں۔

جوابات انتہائی سست ہیں۔

• چیک کریں ollama ps — اگر آپ کے ماڈل کا CPU تناسب زیادہ ہے، تو یہ GPU/انٹیگریٹڈ میموری میں فٹ نہیں ہو سکتا۔ 4B ماڈل پر جائیں۔

• ان ایپس کو بند کریں جن کی میموری کم ہے (40 ٹیبز والا براؤزر ایک عام مشتبہ ہے)۔

• ماڈل کو میموری میں لوڈ ہونے میں پہلے پیغام کو چند سیکنڈ لگتے ہیں۔ بعد کے پیغامات بہت تیز ہیں۔

تصویری اپ لوڈ کام نہیں کرتا یا ماڈل تصویر کو نظر انداز کرتا ہے۔

• یقینی بنائیں کہ آپ اسے منتخب کرتے ہیں۔ medgemma (ملٹی موڈ) اور ڈراپ ڈاؤن کا صرف ٹیکسٹ ماڈل نہیں۔

• PNG یا JPEG استعمال کریں۔ DICOM فائلوں کو پہلے تبدیل کرنا ضروری ہے۔

• بہت زیادہ ریزولوشن والی تصاویر مسائل کا سبب بن سکتی ہیں۔ براہ کرم اپ لوڈ کرنے سے پہلے اسے مناسب سائز میں تبدیل کریں (مثلاً لمبے کناروں پر 1024px)۔

پورٹ 3000 پہلے ہی استعمال میں ہے۔

دیگر میزبان پورٹ میپنگ: تبدیلی -p 3000:8080 کو -p 3001:8080 اس پر UI تک رسائی حاصل کریں: http://localhost:3001.

ماڈل 27B لوڈ کرتے وقت "میموری سے باہر” کی خرابی۔

آپ کے کمپیوٹر میں کافی مفت RAM/VRAM نہیں ہے۔ پر قائم رہنا medgemma:4bیا کچھ میموری خالی کریں اور دوبارہ کوشش کریں۔ 4B ماڈل میں کوئی شرم کی بات نہیں ہے۔ یہ اپنے وزن سے زیادہ اچھی کارکردگی کا مظاہرہ کرتا ہے۔

نتیجہ

اس ٹیوٹوریل میں، ہم نے شروع سے ہی ایک مکمل پرسنل ہیلتھ کیئر AI اسسٹنٹ بنایا، جس کے لیے تین ٹولز اور چند ٹرمینل کمانڈز کی ضرورت تھی۔

آئیے خلاصہ کریں کہ آپ نے کیا حاصل کیا ہے۔

• اس نے Ollama کو انسٹال کیا اور MedGemma درآمد کیا، ایک طبی طور پر موافق ملٹی موڈل ماڈل، اپنے کمپیوٹر پر۔

• میں نے ٹرمینل میں ماڈل کو دیکھا اور پھر Open WebUI کا استعمال کرتے ہوئے پورا چیٹ انٹرفیس اس کے اوپر رکھ دیا۔

• ہم نے ماڈل کی خصوصیات کو درست طریقے سے ترتیب دیا ہے تاکہ ٹول کال فنکشن ان ماڈلز کو نہ توڑے جو اس کی حمایت نہیں کرتے ہیں۔

• ہم نے ان ماڈلز سے بات کی جو ریڈیولاجی رپورٹس، طبی اصطلاحات، اور طبی امیجز کو سمجھتے تھے، اور تجزیہ کے لیے تصاویر اپ لوڈ کرتے تھے۔

• ہم نے سیکھا کہ 27B ماڈل تک کیسے پیمانہ کیا جائے اور راستے میں سب سے عام غلطیوں کی تشخیص کیسے کی جائے۔

اب آپ کے پاس ایک مکمل ذاتی AI اسسٹنٹ ہے جو مکمل طور پر آپ کے کمپیوٹر پر چلتا ہے۔ یہاں سے، آپ مزید جدید میڈیکل AI ایپلی کیشنز کو تلاش میں توسیع کر کے، اگمینٹڈ جنریشن (RAG)، میڈیکل امیجنگ پائپ لائنز کے ساتھ مربوط کر کے، یا غیر شناخت شدہ کلینیکل ڈیٹاسیٹس سے منسلک کر سکتے ہیں۔

مبارک عمارت!

اضافی وسائل: