میرا مارننگ آر ایس ایس ڈائجسٹ اب میرے مقامی اے آئی پر چلتا ہے اور میں دوبارہ کبھی نوٹ بک ایل ایم پر واپس نہیں جاؤں گا۔

غیر معمولی مستثنیات کے ساتھ، میں اپنے دن کی شروعات اپنی دلچسپیوں اور کام سے متعلق چند RSS فیڈز کو سکیم کرکے کرتا ہوں۔ پھر، اگر ان میں سے کوئی آپ کے کام کے منصوبے سے متعلق ہے، تو مستقبل کے حوالے کے لیے انہیں دستاویز میں چسپاں کریں۔

Gemini Notebook (سابقہ ​​NotebookLM) نے کچھ دلچسپ خصوصیات متعارف کرائی ہیں جو RSS فیڈز کو پیسٹ کرنے کے بعد زیادہ موثر انداز میں سکیم کرنے میں مدد کرتی ہیں، لیکن میں عام طور پر کلاؤڈ بیسڈ AI استعمال کرنے کے بارے میں پرجوش نہیں ہوں جب کوئی متبادل ہو۔

لہذا میں نے AI کو براہ راست اپنے RSS ریڈر میں ضم کرنے کا فیصلہ کیا تاکہ مجھے دستی طور پر کسی بھی چیز کو کاپی اور پیسٹ کرنے کی ضرورت نہیں پڑے گی اور یہ سب مقامی طور پر چلے گا۔ یہ نوٹ بک ایل ایم کی پوری فعالیت کو نقل نہیں کرتا ہے، لیکن یہ میری پسندیدہ خصوصیات کو نقل کرتا ہے۔

نوٹ بک ایل ایم بہت اچھا ہے، لیکن میں مقامی مصنوعات کو ترجیح دیتا ہوں۔

کوئی پابندی نہیں، کوئی دستی مداخلت نہیں، رازداری سے کوئی سمجھوتہ نہیں۔

میری سب سے بڑی دلچسپی ہے۔ کوئی بھی نوٹ بک ایل ایم سمیت کلاؤڈ بیسڈ اے آئی سروسز کے بارے میں بات یہ ہے کہ سب کچھ گوگل سرورز کے ذریعے ہوتا ہے۔ گوگل نے واضح طور پر کہا ہے کہ وہ اپنے AI کو نوٹ بک ایل ایم پر اپ لوڈ کردہ کسی بھی چیز پر تربیت نہیں دے گا جب تک کہ آپ اس سے رضامند نہ ہوں۔ تاہم، آپ کی فائلیں اب بھی ہمارے سرورز پر پروسیس اور اسٹور کی جائیں گی۔

میرے معاملے میں اصل خطرہ کم سے کم ہے۔ میں اسے زیادہ تر غیر حساس، غیر خفیہ تحقیق کے لیے استعمال کرتا ہوں، لیکن یہ ایک عادت ہے جس سے میں بچنا چاہتا ہوں۔ اگر میں کوئی بہت حساس کام کر رہا ہوں تو شاید میں اسے فوراً نہیں کروں گا۔ دوسری طرف، میں اپنے پی سی پر محفوظ ڈیٹا کی حفاظت کے لیے جو بھی ضروری اقدامات کر سکتا ہوں وہ کر سکتا ہوں۔

RSS فیڈز کے بعض معاملات میں آٹومیشن کی کمی بھی قدرے پریشان کن تھی۔ نوٹ بک ایل ایم دستی ہے، لہذا شیڈول پر RSS فیڈز کو کھینچنے کا کوئی آپشن نہیں ہے۔

آخر میں، مفت درجے کی حدود ہیں۔ رپورٹ کے انداز کی تخلیق اور چیٹ کے سوالات کے لیے روزانہ کی ایک محدود حد ہے، فی لیپ ٹاپ زیادہ سے زیادہ 50 ذرائع کے ساتھ۔ یہ ٹھیک ہے اگر آپ کسی مخصوص موضوع کی تحقیق پر توجہ مرکوز کر رہے ہیں، لیکن یہ کام نہیں کرے گا اگر آپ صبح کے وقت پہلی چیز کے خلاصے کو دیکھتے ہیں اور چاہتے ہیں کہ دن بھر بریفنگ قدرتی طور پر تیار ہو۔ ایک RSS فیڈ میں 50 سے زیادہ مختلف ذرائع شامل ہو سکتے ہیں جنہیں کئی زمروں میں تقسیم کیا گیا ہے۔

ان حدود کو ذہن میں رکھتے ہوئے، میں نے اس بات پر زیادہ توجہ مرکوز کرنے کا ارادہ کیا کہ اسے اصل میں کس چیز کے لیے استعمال کیا جائے گا۔

یہ کیسے کام کرتا ہے؟

اسے بنانے کے لیے، میں نے تین بنیادی ضروریات کے ساتھ شروعات کی:

• سب کچھ مقامی ہونا چاہیے اور کھلے ماڈل کا استعمال کرتے ہوئے چلنا چاہیے۔

• مجھے صبح کا خلاصہ بنانے اور دن کے آگے بڑھنے کے ساتھ اسے چلانے کے قابل ہونے کی ضرورت ہے۔

• اسے جتنے بھی ذرائع کو سنبھالنے کے قابل ہونا تھا جتنا میں درخواست دینا چاہتا تھا۔

ایک موجودہ FOSS RSS ریڈر کو AI سے منسلک کرنے کے بجائے (جس نے کام کیا، لیکن وہ ضائع تھا)، میں نے جلدی سے ایک ایسی ایپلیکیشن کو وائب کوڈ کیا جو مقامی طور پر RSS فیڈز کو ہینڈل کرتی ہے۔ درحقیقت، آپ بالکل اسی طرح نئی آر ایس ایس فیڈز شامل کر سکتے ہیں جیسے آپ ایک باقاعدہ آر ایس ایس ریڈر میں کرتے ہیں۔

اندرونی طور پر، پورا پروجیکٹ اولاما کے ساتھ چلنے والے Gemma 4 12B کا استعمال کرتا ہے، جو معیار اور میموری کے استعمال کے درمیان اچھا توازن فراہم کرتا ہے۔ سب کے بعد، آپ نہیں چاہتے کہ یہ عمل اتنا مطالبہ کرے کہ آپ کا پی سی چلنے کے دوران ناقابل استعمال ہو جائے۔ آپ کو ایک ہی وقت میں دوسری چیزیں کرنے کے قابل ہونے کی ضرورت ہے۔

مجھے توقع تھی کہ اس پروجیکٹ کو صحیح طریقے سے کام کرنے کے لیے کچھ خرابیوں کا سراغ لگانے کی ضرورت ہوگی، لیکن اس نے شروع سے ہی ٹھیک کام کیا۔ میں نے RSS فیڈ کو شامل کیا، Gemma کو چلانے میں چند منٹ لگے، اور پھر مجھے سمری مل گئی۔ آؤٹ پٹ ٹون کو اپنے ذائقہ کے مطابق ایڈجسٹ کرنے کے اشارے کے ساتھ ہلچل مچانے کے بعد، مجھے خوشی ہوئی۔

مقامی اور کھلے وزن کے درمیان حقیقی تجارت ہے۔

12 بلین پیرامیٹر ماڈل کبھی بھی فرنٹیئر ماڈل نہیں ہوگا۔

کریڈٹ: نک لیوس / ہاؤ ٹو گیک

واحد منفی پہلو ماڈل ذہانت ہے۔ کوئی بھی ماڈل جو کنزیومر ہارڈویئر پر چل سکتا ہے وہ VRAM کے ٹیرا بائٹس کے ساتھ جدید ترین ماڈل کی طرح "وجہ” نہیں جان سکتا۔

ایک عملی نقطہ نظر سے، سب سے چھوٹا ماڈل جو مجھے اچھے نتائج پیدا کرنے کے لیے ملا ہے وہ 7B پیرامیٹرز تھا، جو 8GB میموری پر کوانٹائز چلتا ہے۔ میں اسے صرف CPU کی ترتیب پر چلا سکتا ہوں، جیسا کہ میں نے اپنے پرانے لیپ ٹاپ پر AI نوڈ کے ساتھ کیا تھا، لیکن یہ بہت سست ہوگا۔

اسے میرے ڈسکارڈ بوٹ اور وائس اسسٹنٹ میں ضم کر دیا جائے گا۔

حال ہی میں، ہم ایک AI ہوم اسسٹنٹ چلا رہے ہیں جو AI Discord بوٹس کے ساتھ بات چیت کر سکتا ہے۔ کچھ تبدیلیوں کے ساتھ، آپ اپنے پروجیکٹ کو RSS Digester کے ساتھ جوڑ کر کچھ اور بھی دلچسپ بنانے کے قابل ہو جائیں گے۔ آپ اس فیچر کو آن کر سکتے ہیں اور اسے آپ کے لیے لکھی ہوئی صبح کی بریفنگ پڑھ کر سنانے کے لیے کہہ سکتے ہیں، اور چونکہ ڈسکارڈ بوٹ اور وائس اسسٹنٹ کے پاس پہلے سے ہی ان فائلوں پر بات کرنے کی صلاحیت موجود ہے جن کی وہ جانچ کر رہے ہیں، آپ مخصوص سوالات بھی پوچھ سکتے ہیں۔

اگر آپ اسے مزید بہتر بناتے ہیں، تو آپ اسے "بریک تھرو” کرنے کی اجازت بھی دے سکتے ہیں اور خود بخود مجھے بتا سکتے ہیں کہ مجھے پتہ چل جائے گا۔ واضح طور پر میں اسے سننا چاہتا ہوں۔