ماڈل سیاق و سباق پروٹوکول (MCP) LLM کو بیرونی ٹولز، ڈیٹا بیس اور APIs سے مربوط کرنے میں مدد کرتا ہے۔ لیکن حقیقی کاموں کو انجام دینے کے لیے AI ایجنٹوں کو ہاتھ پاؤں دینا ایک بالکل نئی اٹیک سطح پیدا کرتا ہے۔
ہم صرف MCP سیکورٹی بنیادی کورس freeCodeCamp.org یوٹیوب چینل پر۔
یہ کورس آپ کو ایجنٹ کے استحصال کے طریقہ کار اور ان کے خلاف دفاع کرنے کے طریقہ سے آگاہ کرتا ہے۔
روایتی ایپلیکیشن سیکیورٹی ڈیٹرمنسٹک کوڈ اور قابل قیاس انسانی یا مشین کے تعامل کو فرض کرتی ہے۔ تاہم، AI ایجنٹ غیر متعین فیصلہ سازوں کو براہ راست درخواست کی منطق میں متعارف کراتے ہیں۔ جب ایجنٹ غیر بھروسہ مند ڈیٹا پر آپریشن کرتے ہیں، تو کلاسک کیڑے جیسے کمانڈ انجیکشن، استحقاق میں اضافہ، اور ٹوکن ایکسفلٹریشن سسٹم کی رفتار سے چلتے ہیں۔
پورے کورس کے دوران، ڈین ان چیلنجوں کو سائمن ولسن کے "لیتھل ٹریفیکٹا” فریم ورک کے ارد گرد تشکیل دیتا ہے، جو تین الگ الگ صلاحیتوں کا ایک خطرناک امتزاج ہے۔
- ذاتی معلومات
ایجنٹوں نے حساس داخلی ریکارڈز، سورس کوڈ، اسناد، یا نجی ڈیٹا بیس تک رسائی پڑھ لی ہے۔ - ناقابل اعتماد مواد
ایجنٹ بیرونی ذرائع سے متن جمع کرتے ہیں، بشمول ویب صفحات، ای میلز، کسٹمر ٹکٹس، اوپن ایشوز، یا تھرڈ پارٹی ٹول اسکیمے۔ - بیرونی مواصلات
ایجنٹوں کے پاس ویب ہکس، مارک ڈاؤن رینڈرنگ، ای میل، یا API کالز کے ذریعے ڈیٹا کو بیرونی طور پر بھیجنے کی صلاحیت ہوتی ہے۔
اگر کسی ایجنٹ کے پاس بیک وقت تینوں صلاحیتیں ہوں تو وہ ساختی طور پر فوری بنیاد پر ہونے والے استحصال کا شکار ہو جاتا ہے۔ نازک پرامپٹ فلٹرز پر انحصار کرنے کے بجائے، آپ یہ سیکھیں گے کہ ان تینوں عناصر کو آرکیٹیکچرل حدود کے ذریعے کیسے توڑا جائے۔
freeCodeCamp.org YouTube چینل پر مکمل کورس مفت میں دیکھیں اور آج ہی اپنے AI ایجنٹ کے انضمام کو مضبوط بنانا شروع کریں (دیکھنے کے لیے 2 گھنٹے)۔