ہم نے سات سب سے بڑے AI چیٹ بوٹس کا تجزیہ کیا تاکہ یہ معلوم کیا جا سکے کہ وہ بچوں کے لیے کتنے محفوظ ہیں۔


بالغوں اور بچوں دونوں کے لیے AI کی حفاظت پہلے سے کہیں زیادہ جانچ پڑتال کے تحت ہے، اس بارے میں سوالات اور خدشات پیدا کرتے ہیں کہ یہ بات چیت کرنے والے روبوٹس ہماری دماغی صحت کے لیے کتنے فائدہ مند ہو سکتے ہیں یا نہیں، حتیٰ کہ ان کے توانائی کے استعمال، اخلاقیات یا معاشی اثرات پر غور کیے بغیر۔ اسی وقت، دنیا بھر کے ممالک کی بڑھتی ہوئی تعداد میں ایپس اور خدمات کی بڑھتی ہوئی تعداد پر عمر کی پابندیاں لاگو کی جا رہی ہیں۔ حکومتیں سمجھ رہی ہیں کہ بچوں کو AI ایپس، سوشل میڈیا پلیٹ فارمز اور ویب تک مفت رسائی کی اجازت دینا ان کی مسلسل ترقی اور خوشحالی کے لیے بہترین خیال نہیں ہو سکتا۔

ChatGPT اور Gemini جیسی بڑی AI ایپس اس رجحان کے مرکز میں ہیں، اور ان کے پیچھے موجود کمپنیاں ایسے اقدامات کر رہی ہیں جن کا وہ وعدہ کرتے ہیں کہ وہ بچوں کو محفوظ رکھیں گے۔ اگر آپ جاننا چاہتے ہیں کہ آپ کے خاندان کے بچوں کو کن چیزوں کا سامنا کرنا پڑ سکتا ہے اور آپ اس کے بارے میں کیا کر سکتے ہیں، یہاں ایک خلاصہ ہے۔

چیٹ جی پی ٹی

اوپن اے آئی کے چیٹ جی پی ٹی میں والدین کے کنٹرول کے لحاظ سے زیادہ جامع ترتیبات میں سے ایک ہے۔ صارف کی کم از کم عمر 13 سال ہے، اور اگر آپ کی عمر 18 سال سے کم ہے، تو آپ کو اکاؤنٹ کھولنے کے لیے والدین کی رضامندی درکار ہوگی۔ عمر کی پیشین گوئی کئی اشاروں سے کی جاتی ہے، بشمول دن کا وقت جس میں آپ ChatGPT استعمال کرتے ہیں اور آپ کی گفتگو کا مواد۔

18 سال سے کم عمر کے اکاؤنٹس خود بخود نوجوانوں کے اکاؤنٹس کے لیے ChatGPT بن جائیں گے۔ سیکھنے اور تحقیق پر زیادہ توجہ دی جاتی ہے (بشمول ایک وقف شدہ مطالعہ موڈ)، اور "حساس یا ممکنہ طور پر نقصان دہ مواد کی نمائش کو کم کرنے میں مدد کے لیے عمر کے لحاظ سے مناسب حفاظتی اقدامات موجود ہیں۔” جنسی، رومانوی، پرتشدد کردار ادا کرنے، گرافک تشدد، اور خود کو نقصان پہنچانے سمیت ‘نقصان دہ عنوانات’ کے خلاف بلٹ ان تحفظ موجود ہے۔ یہ ان تمام صارفین کے لیے حفاظتی اقدامات کے اوپر کام کرتا ہے جو جسمانی نقصان اور غیر قانونی سرگرمیوں کے خلاف چیٹنگ کو محدود کرتے ہیں۔

نوعمروں کے لیے یہ چیٹ جی پی ٹی اکاؤنٹس ان کے والدین کے اکاؤنٹ سے بھی منسلک ہو سکتے ہیں۔ تاہم، اگرچہ 18 سال سے کم عمر کے ہر فرد کے لیے سروس استعمال کرنے کے لیے والدین کی رضامندی ضروری ہے، تاہم ChatGPT یہ واضح کرتا ہے کہ نوعمروں کے پاس اگر وہ چاہیں تو رابطہ منقطع کر سکتے ہیں۔ اگر آپ اپنے بچے کو اس کے اکاؤنٹ کو منسلک رکھنے کے لیے راضی کرتے ہیں، تو آپ AI بوٹ کے استعمال کے وقت کی حد مقرر کر سکتے ہیں اور کچھ حساسیت کی ترتیبات کو ایڈجسٹ کر سکتے ہیں۔ تاہم، آپ گفتگو کو نہیں دیکھ سکتے۔

ویب پر ChatGPT میں پیرنٹل کنٹرولز سیٹ کرنے کے لیے، اپنے پروفائل آئیکن پر کلک کریں (نیچے بائیں)، پھر ترتیبات > پیرنٹل کنٹرولز > فیملی ممبر شامل کریں۔ اور ہدایات پر عمل کریں۔ یہ بات بھی ذہن میں رکھنے کے قابل ہے کہ ChatGPT ایپ کسی بھی ویب براؤزر پر گمنام طور پر استعمال کرنے کے لیے آزاد ہے۔ تاہم، OpenAI کا کہنا ہے کہ اس طرح سے AI تک رسائی حاصل کرنے والے 18 سال سے کم عمر کے پہلے سے طے شدہ پابندی کے تابع ہیں اور وہ چیٹس کو محفوظ نہیں کر سکتے اور نہ ہی آرکائیوز تک رسائی حاصل کر سکتے ہیں۔

جیمنی

جیمنی گوگل کے ہر کام سے منسلک ہے اور گوگل اکاؤنٹس کے وسیع تر اصولوں کی پیروی کرتا ہے۔ اس کا مطلب ہے کہ یہ 13 سال سے کم عمر کے کسی کے لیے بھی دستیاب نہیں ہے جب تک کہ وہ فیملی گروپ کا حصہ نہ ہوں اور کسی بالغ کے زیر انتظام اکاؤنٹ استعمال نہ کر رہے ہوں۔ آپ ویب پر Family Link پورٹل کے ذریعے اپنے خاندان کا نظم کر سکتے ہیں، لیکن جیمنی کے لیے مخصوص پیرنٹل کنٹرولز آپ کو صرف AI تک رسائی کو فعال یا غیر فعال کرنے کی اجازت دیتے ہیں (اسکرین ٹائم جیسی ترتیبات سبھی فعال ایپس پر لاگو ہوتی ہیں)۔

ہم 18 سال سے کم عمر کے تمام لوگوں پر کچھ اضافی تحفظات لاگو کرتے ہیں (جزوی طور پر عمر کے تخمینے سے شناخت کی جاتی ہے)، قطع نظر اس کے کہ وہ کسی منظم فیملی گروپ کا حصہ ہیں۔ اس میں AI کو ذاتیات لینے سے روکنا، AI پر جذباتی انحصار کو روکنا، اور غنڈہ گردی اور ہراساں کرنے کی دیگر اقسام کو روکنا شامل ہے۔ ایسے تحفظات بھی ہیں جو عمر کی پابندی والے مادوں کے بارے میں بات چیت کو محدود کرتے ہیں، جیسے الکحل اور vapes، اور دماغی صحت کے مسائل، جیسے کھانے کی خرابی۔

نابالغوں کے لیے یہ تحفظات ہر ایک کے لیے جیمنی کے عمومی محافظوں کے علاوہ ہیں۔ محافظوں کو خود کو نقصان پہنچانے، خودکشی، تشدد اور غیر قانونی سرگرمی کے بارے میں گفتگو سے دور، بحران کے وقت مدد کے لیے فوری لنک فراہم کرنا چاہیے۔ تاہم، گوگل خود تسلیم کرتا ہے کہ یہ فلٹرز کامل نہیں ہیں۔

ChatGPT کی طرح، ایک طرح کی خامی ہے جو کسی کو بھی بغیر کسی تصدیق کے اپنے ویب براؤزر میں Gemini کے ساتھ مفت چیٹنگ شروع کرنے کی اجازت دیتی ہے۔ ان مکالمات کو محفوظ نہیں کیا جا سکتا ہے اور یہ کافی تیزی سے استعمال کی پابندیوں کو متاثر کرے گی، لیکن یہ صرف تمام اکاؤنٹس کے لیے عام پابندیوں سے محفوظ ہیں، نابالغوں کے لیے مخصوص پابندیوں سے نہیں۔

گوگل کے پاس یہ بتانے کا ایک طریقہ ہے کہ کیا آپ اپنی عمر کے بارے میں جھوٹ بول رہے ہیں۔
کریڈٹ: لائف ہیکر

Meta AI متعدد ایپس میں ظاہر ہوگا جو نوجوانوں اور بچوں کے ذریعہ استعمال کیے جاسکتے ہیں، بشمول WhatsApp اور Instagram، ساتھ ہی ویب اور فون پر الگ الگ ایپس بھی۔ سوشل میڈیا اکاؤنٹس کے لیے میٹا کی معیاری پابندیاں AI پر بھی لاگو ہوتی ہیں۔ کم از کم عمر 13 ہے اور 18 سال سے کم عمر کے سبھی لوگوں کے لیے محدود ہے۔ بہت سے دوسرے پلیٹ فارمز کی طرح، یہ نابالغوں کے استعمال کردہ اکاؤنٹس کو جھنڈا لگانے کے لیے کچھ AI جادو کا استعمال کرتا ہے۔

اگر آپ کی عمر 18 سال سے کم ہے اور Meta Teen اکاؤنٹ استعمال کرتے ہیں، تو آپ کو پابندی کا سامنا کرنا پڑے گا اگر آپ Meta AI کو جنسی یا رومانوی کردار ادا کرنے یا الکحل یا منشیات کے استعمال پر بحث کرنے کی کوشش کرتے ہیں۔ کھانے کی خرابی اور خود کو نقصان پہنچانے جیسے موضوعات پر بات چیت کے ذریعے، AI متعلقہ معاون خدمات کے بارے میں رہنمائی فراہم کرتا ہے۔

Meta اپنی ایپس کے لیے جامع والدین کے کنٹرول کی ترتیبات پیش کرتا ہے، بشمول Meta AI، لیکن نوعمروں کے لیے والدین کے اکاؤنٹ کو لنک کرنے کی ضرورت نہیں ہے۔ یہ میٹا فیملی سینٹر پورٹل کے ذریعے ہینڈل کیا جاتا ہے، جہاں والدین عام موضوعات پر رپورٹس حاصل کر سکتے ہیں جن کے بارے میں ان کے بچے AI کے ساتھ بات کر رہے ہیں۔ لیکن آپ کو صحیح مکالمے یا اشارے نہیں ملتے ہیں۔ اگر خود کو نقصان پہنچانے یا خودکشی کے بارے میں بحث ہو تو منسلک والدین کے اکاؤنٹس پر اطلاع بھیجی جا سکتی ہے۔

18 سال سے کم یا 18 سال سے زیادہ عمر کا کوئی بھی شخص خودکشی اور خود کو نقصان پہنچانے کے بارے میں بات کرتے وقت مدد اور بحرانی مداخلت کے جوابات حاصل کرے گا، اور مادہ کے استعمال، غیر قانونی اور نقصان دہ رویے، بشمول سائبر دھونس، اور جنسی اور بالغ مواد کے بارے میں بحث کرنے کی سخت حدود ہیں۔

سری اے آئی

سیری اے آئی تک رسائی حاصل کرنے کے لیے ایپل کے صارفین کی عمر کم از کم 13 سال ہونی چاہیے۔ کم عمر لوگوں کے پاس ایک بالغ کا بنایا ہوا اکاؤنٹ ہونا چاہیے، اور یہ اکاؤنٹس صرف بنیادی، بڑی عمر کے سری کے ساتھ استعمال کیے جا سکتے ہیں۔ جب آپ ایپل اکاؤنٹ کھولتے ہیں تو آپ کو اپنی تاریخ پیدائش کی اطلاع دینی چاہیے، اور دنیا بھر کے بہت سے خطوں میں تصدیق کے مزید سخت طریقہ کار موجود ہیں۔

زیادہ تر امریکی ریاستوں میں، کوئی بھی 13 سال یا اس سے زیادہ عمر کا کوئی بھی ایپل اکاؤنٹ کے ساتھ، منسلک والدین کے اکاؤنٹ کے ساتھ یا اس کے بغیر سری AI ایپ استعمال کر سکتا ہے۔ اس کا مطلب ہے کہ فلاح و بہبود کے تحفظات بنیادی طور پر نوجوانوں کے لیے وہی ہیں جو بالغوں کے لیے ہیں۔ خود کو نقصان پہنچانے، خودکشی، جنسی اور پرتشدد مواد اور غیر قانونی احکامات کے خلاف تحفظات ہیں۔ یہ سب سے زیادہ قدامت پسند AIs میں سے ایک ہے جب بات آتی ہے جس کے بارے میں بات کرتا ہے۔

نئے اور بہتر Siri AI کا iOS 27 میں دستیاب نئے پیرنٹل کنٹرولز اور 2026 میں Apple کے دیگر سافٹ ویئر اپ ڈیٹس پر کچھ کنٹرول ہوگا۔ Apple واضح طور پر دیکھتا ہے کہ ہوا کس طرف چل رہی ہے، لیکن یہ نوعمروں کے لیے ایک آپشن ہے۔ یہ اس بات پر منحصر ہے کہ آیا آپ کے بچے کو آپ کے فیملی شیئرنگ گروپ میں شامل کیا جا سکتا ہے۔

اگر آپ کا نوجوان خاندانی صارف گروپ کا حصہ ہے، تو ایپ کے استعمال کو محدود کرنے اور ڈیوائس تک رسائی کو کنٹرول کرنے کے لیے معیاری اسکرین ٹائم قوانین لاگو ہوتے ہیں (iOS سیٹنگز میں، ان کے نام پر ٹیپ کریں، پھر ان کے نام کو تھپتھپائیں)۔ خاندان ان تک پہنچنے کے لیے)۔ آپ کے پاس کچھ Siri AI خصوصیات کو غیر فعال کرنے کا اختیار بھی ہے، جیسے کہ تحریری ٹول یا تصویر بنانے کی خصوصیت۔

شریک پائلٹ

Gemini/Google اور Apple/Siri کی طرح، Copilot وسیع Microsoft ایکو سسٹم سے جڑا ہوا ہے اور آپ کو 18 سال سے کم عمر بچوں تک رسائی کا انتظام کرنے کی اجازت دیتا ہے۔ Microsoft یا Copilot اکاؤنٹ رکھنے کے لیے صارفین کی عمر کم از کم 13 سال ہونی چاہیے، اور ان لوگوں کا پتہ لگانے کے لیے کچھ بنیادی تکنیکیں ہیں جو جان بوجھ کر اپنی عمر کے بارے میں جھوٹ بول رہے ہیں۔

اب تک آپ کا کیا خیال ہے؟

اگر آپ کے پاس کوئی نوعمر ہے جو Copilot استعمال کرتا ہے، تو آپ معیاری Microsoft Family Safety پورٹل کے ذریعے ان کی رسائی کا انتظام کر سکتے ہیں۔ آپ Copilot رسائی کو فعال یا غیر فعال کر سکتے ہیں، وقت مقرر کر سکتے ہیں جب Copilot استعمال کر سکتا ہے یا نہیں، اور کچھ خصوصیات کو غیر فعال کر سکتے ہیں جیسے کہ تصویر کی تخلیق یا وائس موڈ۔ تاہم، والدین اپنے بچے کی Copilot چیٹ نہیں پڑھ سکتے۔

والدین کی نگرانی اختیاری ہے۔ 13-17 سال کی عمر کے نوجوان اپنے اکاؤنٹ کو بالغ اکاؤنٹ سے لنک کیے بغیر Copilot استعمال کر سکتے ہیں۔ مائیکرو سافٹ نے کہا کہ جن صارفین کی شناخت 18 سال سے کم عمر کے طور پر کی گئی ہے وہ ذاتی نوعیت کے نتائج یا اشتہارات نہیں دیکھیں گے اور انہیں خطرناک یا نقصان دہ مواد پر عمر کے لحاظ سے مناسب جوابات موصول ہوں گے۔ تاہم اس بارے میں کوئی تفصیلات نہیں ہیں۔

عام طور پر، خود کو نقصان پہنچانے، تشدد، بالغوں کے مواد، ہراساں کرنے، اور نقصان دہ یا غیر قانونی سرگرمیوں سے متعلق مواد AI پلیٹ فارمز پر ممنوع ہے۔ خواہ وہ بالغ ہوں یا نوجوان جو سروس استعمال کر رہے ہوں، جب خودکشی یا منشیات کے بارے میں پیغام کے ساتھ اشارہ کیا جائے تو جوابات کے بجائے مدد کے اختیارات ظاہر ہوتے ہیں۔

مائیکروسافٹ کو پائلٹ

Copilot کو اب ویب پر گمنام طور پر رسائی حاصل نہیں کی جا سکتی ہے۔ ایک اکاؤنٹ درکار ہے۔
کریڈٹ: لائف ہیکر

گروک

بڑے AI چیٹ بوٹس میں سے، جب نابالغوں کی حفاظت کی بات آتی ہے تو گروک سب سے خراب ہے۔ کے ذریعے اس تک رسائی حاصل کی جاسکتی ہے۔

بالآخر، اس کا مطلب یہ ہے کہ اگر نابالغوں کو گروک تک بالغوں کی طرح رسائی حاصل ہے اگر وہ چاہیں تو۔ یہ ایک AI پلیٹ فارم ہے جو "کمزور حفاظتی محافظوں” کو "مختلف قسم کے انتہائی نقصان دہ مواد” کے ساتھ جوڑتا ہے جس میں "واضح طور پر جنسی مواد، ذہنی صحت کے خطرات، پرتشدد مواد، اور قابل اعتراض مواد پر نامناسب جوابات” شامل ہیں (دوبارہ، یہ کامن سینس میڈیا رپورٹ ہے)۔

ہاں، یہ ایک AI چیٹ بوٹ ہے جس میں پہلے ڈیپ فیک پورن امیجز کے مسائل تھے اور اس نے روایتی طور پر حفاظتی امور پر ایک غیر معمولی موقف اختیار کیا ہے، جس کی قیادت SpaceXAI کے سی ای او ایلون مسک کر رہے ہیں۔ غیر قانونی اور نقصان دہ مواد پر قیاس طور پر گروک سے پابندی عائد ہے، لیکن اس کے اپنے FAQ تسلیم کرتے ہیں کہ بعض چیٹس کے نتیجے میں "گفتگو جن میں بے ہودہ زبان، غیر مہذب مزاح، جنسی حالات، یا تشدد شامل ہو سکتا ہے۔”

اصل میں ایک Grock Kids موڈ ہے جو آپ کے ڈسپلے کیے جانے والے مواد اور گفتگو کے موضوعات کو محدود کرتا ہے جسے آپ شامل کر سکتے ہیں، لیکن اس کے لیے صارفین کو خود کو کم عمر ہونے کا اعلان کرنا پڑتا ہے اور اس سے بچنا آسان ہے۔ کامن سینس میڈیا کا مشورہ گروک کے ساتھ جانے کا طریقہ لگتا ہے: اپنے نوجوان کو اس سے دور رکھیں۔

کلاڈ

بچوں کی حفاظت کے لیے کلاڈ کا نقطہ نظر آسان ہے۔ آپ صرف ایک اکاؤنٹ رجسٹر کر سکتے ہیں اگر آپ کی عمر 18 سال یا اس سے زیادہ ہو۔ جب آپ سائن اپ کرتے ہیں تو آپ اپنی عمر کے بارے میں جھوٹ بول سکتے ہیں، لیکن دوسرے پلیٹ فارمز کی طرح، انتھروپک نابالغوں کو تلاش کرنے کے لیے رویے میں مختلف "سگنلز” تلاش کرتا ہے۔ ایک بار جب آپ کے اکاؤنٹ پر پرچم لگایا جاتا ہے، آپ کو چہرے کی عمر کا تخمینہ یا یوٹی جیسے آپشن کا استعمال کرتے ہوئے اپنی عمر کی تصدیق کرنی ہوگی۔

چیٹ جی پی ٹی اور جیمنی کی طرح، چیٹ بوٹ تک کوئی مفت ویب رسائی نہیں ہے، لہذا اگر آپ کی عمر 18 سال سے کم ہے تو آپ اس سروس تک رسائی حاصل نہیں کر سکتے جب تک کہ آپ یہ نہ جانتے ہوں کہ کلاڈ کے پتہ لگانے کے نظام کو حاصل کرنے کے لیے کس طرح برتاؤ کرنا ہے۔

Claude کے زیادہ عمومی فلاح و بہبود کے تحفظ کے لحاظ سے، خود کو نقصان پہنچانے یا خودکشی کے بارے میں کوئی بھی چیٹ صارفین کو مدد کے لیے ہیلپ لائنز اور دیگر وسائل پر بھیجتی ہے۔ پلیٹ فارم پر غیر قانونی سرگرمیوں، ناقابل قبول تقریر، اور جنسی طور پر واضح مواد کے بارے میں بات چیت ممنوع ہے۔ حالیہ مہینوں میں، Anthropic نے کہا کہ AI سماجی کاری میں بھی کمی آئی ہے۔

یہ تھوڑا سا سرفہرست 7 AI چیٹ بوٹس کے فوری دورے کی طرح ہے، لیکن اس سے والدین کو اندازہ ہو جائے گا کہ ایپ کیا ہے اور اس تک رسائی کتنی آسان ہے۔ ان AI سے بنائے گئے پیرنٹل کنٹرولز کے علاوہ، ایسی ترتیبات بھی ہیں جو پلیٹ فارم کی سطح پر ممکنہ طور پر نقصان دہ ایپس کے استعمال کو محدود کر سکتی ہیں، بشمول Android، iOS، Windows اور macOS۔

اوپر تک سکرول کریں۔