جلد ہی واضح ہو جائے گا کہ کوئی چیز کسی شخص کی طرف سے ہے یا کلاڈ کی طرف سے۔ اینتھروپک نے اس ہفتے کہا کہ اس کے AI ماڈلز کے سوٹ سے تیار کردہ ٹیکسٹ اور فائلوں کو صارفین کو مطلع کرنے کے لیے واٹر مارک کیا جائے گا۔ یہ تبدیلی کمپنی کو AI کے استعمال میں شفافیت کو کنٹرول کرنے والے EU کے ضوابط کی تعمیل کرتی ہے۔
AI سے تیار کردہ مواد کی شفافیت پر EU کوڈ آف پریکٹس ان کمپنیوں سے تقاضا کرتی ہے جو AI سسٹم فراہم کرتی ہیں اور ان کو تعینات کرتی ہیں تاکہ صارفین کو مطلع کیا جا سکے کہ وہ AI کے ساتھ تعامل کرتے ہیں اور AI مواد پر واٹر مارک شامل کرتے ہیں۔ صارفین کو یہ بھی جاننے کی ضرورت ہے کہ وہ ڈیپ فیکس، جذبات کی شناخت، اور بائیو میٹرک درجہ بندی کے ٹولز کے سامنے کب آتے ہیں۔
واٹر مارکنگ، ایک تصدیقی عمل جو 13ویں صدی میں اٹلی میں شروع ہوا، AI مواد کے لیے بالکل مختلف ہے۔ AI نظام خود بخود متن میں مارکر شامل کر سکتے ہیں جو اس بات کی نشاندہی کرتے ہیں کہ مواد انسان کی بجائے AI سے پیدا ہوا ہے۔ مثال کے طور پر، الفاظ اور اعداد، الفاظ کی ترتیب، اور دیگر غیر مرئی سگنلز کے درمیان وقفہ کاری میں فرق ہو سکتا ہے جو متن میں اس وقت بھی باقی رہتا ہے جب کوئی شخص متن کو کسی دوسرے پلیٹ فارم میں کاپی اور پیسٹ کرتا ہے۔ قارئین ان مارکر کو نہیں دیکھ سکتے، لیکن کمپیوٹر سسٹم دیکھ سکتے ہیں۔
اس ہفتے ایک اعلان میں، Anthropic نے کہا کہ 2 اگست کے بعد جاری ہونے والے کلاڈ ماڈلز میں واٹر مارکنگ شامل ہو گی۔ اس میں Claude کے ذریعے API، Claude، Claude Code، Claude Cowork، اور Claude Tag کے ذریعے تخلیق کردہ مواد شامل ہے۔ واٹر مارکنگ کا اطلاق ہمارے AI سسٹم کے ذریعے فراہم کردہ کلاڈ سے تیار کردہ تمام مواد پر ہوتا ہے، نہ کہ صرف EU میں۔
اینتھروپک نے کہا کہ وہ مستقبل میں واٹر مارک کا پتہ لگانے کے بارے میں تفصیلات شیئر کرے گا۔
Anthropic کے ترجمان نے فوری طور پر تبصرہ اور تبصرہ کی درخواست کا جواب نہیں دیا۔
واٹر مارک کیا دکھاتا ہے۔
کلاڈ میں متن اور اس کی تخلیق کردہ فائلوں میں ایک واٹر مارک شامل ہے، بشمول .svg، .png یا .jpg۔ متن کے معاملے میں، واٹر مارکس ایسے اشارے ہیں جو حروف اور الفاظ میں سرایت کرتے ہیں جو قارئین کے لیے پوشیدہ ہوتے ہیں لیکن مکینیکل سسٹم کے لیے نظر آتے ہیں۔ یہاں تک کہ اگر آپ ٹیکسٹ ایڈیٹر جیسے ونڈوز پر نوٹ پیڈ یا MacOS پر TextEdit میں متن کو کاپی اور پیسٹ کرتے ہیں، تب بھی واٹر مارک باقی رہے گا۔ نشانات انسانی ترمیم کے ذریعے نہیں ہٹائے جا سکتے ہیں۔
"ماڈل کی سطح پر واٹر مارکنگ کا اطلاق کیا جائے گا، یعنی یہ موجود رہے گا قطع نظر اس کے کہ کلاؤڈ پروڈکٹ یا سطح پر متن ظاہر ہوتا ہے،” کمپنی نے کہا۔
مزید پڑھیں: ہر قسم کی اے آئی چیٹنگ ایپس اور ڈیٹیکٹرز استعمال کرنے کے بعد، میں ایک نتیجے پر پہنچا ہوں۔
Claude کی طرف سے بنائی گئی تصویری فائلوں میں دستخط شدہ پرووینس میٹا ڈیٹا شامل ہے، بشمول یہ معلومات کہ تصویر کہاں سے آئی، کس نے اسے بنایا، اور آیا اس میں ترمیم کی گئی۔ اگر کوئی اس کے ساتھ چھیڑ چھاڑ کرنے کی کوشش کرتا ہے، جیسے کہ یہ چھپانے کی کوشش کرتا ہے کہ یہ AI کی طرف سے بنایا گیا ہے، تو کرپٹوگرافک دستخط کو توڑ دیا جائے گا، جو قاری کو یہ بتاتا ہے کہ اس کے ساتھ چھیڑ چھاڑ کی گئی ہے۔
اے آئی کی شفافیت بڑھ رہی ہے۔ Substack نے Pangram کے ساتھ شراکت داری کی ہے تاکہ قارئین کو معلوم ہو سکے کہ ان کی کتنی پوسٹس AI کے ذریعے تخلیق کی گئیں۔ سنو نے حال ہی میں ان تبدیلیوں کا اعلان کیا جو سامعین کو یہ جاننے کی اجازت دے گی کہ آیا AI نے گانا بنایا ہے یا نہیں۔ اگر LinkedIn کے صارفین کو AI سلوپ پر شبہ ہے، تو وہ LinkedIn کو بتا سکتے ہیں۔ Spotify کا نیا فیچر، AI Persona، سامعین اور تخلیق کاروں کو یہ دیکھنے دیتا ہے کہ AI کے ساتھ کون سی موسیقی بنائی گئی ہے۔
یہ بالکل محفوظ نہیں ہے۔
انتھروپک نے اپنے اعلان میں احتیاط کا ایک نوٹ شامل کیا۔ واٹر مارکنگ کی موجودگی کا لازمی طور پر یہ مطلب نہیں ہے کہ مواد یا تصویر کلاڈ نے بنائی تھی، اور واٹر مارکنگ کی عدم موجودگی کا مطلب یہ نہیں ہے کہ کلاڈ اس میں شامل نہیں ہے۔
مثال کے طور پر، ہم کہتے ہیں کہ کوئی دوسرے مصنف کے مضمون کو ری سائیکل کرنا چاہتا ہے۔ وہ کلاڈ کے مضمون کو پنچ کرتے ہیں اور AI سے اسے دوبارہ لکھنے کو کہتے ہیں۔ آؤٹ پٹ کو واٹر مارک کیا جائے گا، لیکن مواد میں حقائق اور تفصیلات مصنف نے فراہم کی ہیں، نہ کہ AI۔ کمپنی نے کہا کہ لوگ اکثر کلاڈ کو پروف ریڈنگ، ترجمہ اور خلاصہ کے لیے استعمال کرتے ہیں۔
کوئی Claude کے مواد کو لے سکتا ہے، اس میں ترمیم کرسکتا ہے، اور اسے دوسرے متن کے ساتھ جوڑ سکتا ہے۔ اگرچہ حتمی مسودے کا صرف ایک حصہ کلاڈ نے لکھا تھا، لیکن اس میں واٹر مارک ہو سکتا ہے، ممکنہ طور پر قارئین کے لیے دستاویز کی قانونی حیثیت سے سمجھوتہ کر سکتا ہے۔
مزید پڑھیں: Ivy League سکول جس کی 133 سالہ روایت کو AI کے ساتھ دھوکہ دینے والے طلباء نے ہلا کر رکھ دیا۔
انتھروپک نے کہا کہ کلاڈ کے ذریعہ تخلیق یا اس پر کارروائی کی گئی مواد میں مختلف وجوہات کی بناء پر واٹر مارک نہیں ہوسکتا ہے۔ AI سے تیار کردہ مواد کی مقدار بہت کم ہو سکتی ہے، یا ہو سکتا ہے کہ مواد کو "بہت زیادہ ترمیم، پیرا فریس، ترجمہ، یا دوسری تحریر کے ساتھ ملایا گیا ہو۔”
Claude کی طرف سے بنائی گئی تصاویر میں کوئی واٹر مارک بھی نہیں ہو سکتا۔ مثال کے طور پر، اگر کوئی تصویر کا اسکرین شاٹ لیتا ہے اور اسے دوسری فائل کے طور پر دوبارہ محفوظ کرتا ہے، تو کوئی میٹا ڈیٹا نہیں ہوگا۔
اینتھروپک یورپی یونین کے قوانین کی تعمیل کرنے کی کوشش کر رہا ہے، لیکن کچھ رپورٹس بتاتی ہیں کہ اس کی AI کا پتہ لگانا بہت کم قابل اعتماد رہا ہے۔ مثال کے طور پر، ایسے صارفین کی طرف سے تخلیق کردہ مواد جن کی پہلی زبان انگریزی نہیں ہے، اکثر غلط طور پر AI کے ذریعے تیار کردہ کے طور پر لیبل لگا دیا جاتا ہے۔
مکمل تعارف دیکھیں