مصنوعی ذہانت (AI) کے خودکار ایجنٹس کو غیر مجاز یا نقصان دہ اقدامات سے روکنے کے لیے ٹیکنالوجی کی دنیا میں نئے سیکیورٹی ٹولز متعارف کرائے جا رہے ہیں۔ اسی سلسلے میں امریکی ٹیکنالوجی کمپنی NVIDIA نے Open Agent Safety Platform متعارف کرایا ہے، جس کا مقصد اے آئی ایجنٹس کے اقدامات پر حدود اور نگرانی قائم کرنا ہے۔یہ پیش رفت ایسے وقت میں سامنے آئی ہے جب خودکار اے آئی ایجنٹس کے غیر متوقع رویوں اور سیکیورٹی حدود سے تجاوز کے واقعات پر عالمی سطح پر توجہ بڑھ رہی ہے۔
اے آئی ایجنٹس کو کنٹرول کرنے کیلئے نیا پلیٹ فارم
NVIDIA کا نیا Open Agent Safety Platform ایک اوپن سورس سیکیورٹی پلیٹ فارم ہے، جسے اے آئی ایجنٹس کے رویے کی نگرانی اور انہیں مقررہ حدود میں رکھنے کے لیے تیار کیا گیا ہے۔ پلیٹ فارم کا مقصد مختلف ماحول میں کام کرنے والے خودکار ایجنٹس کے لیے سیکیورٹی اور گورننس کی سہولیات فراہم کرنا ہے۔کمپنی کے مطابق یہ نظام اے آئی ایجنٹس کو صرف ان وسائل تک رسائی دینے میں مدد دیتا ہے جن کی انہیں اپنے کام کے لیے ضرورت ہو۔
OpenShell کیا کام کرتا ہے؟
نئے پلیٹ فارم میں OpenShell نامی سافٹ ویئر شامل ہے جو اے آئی ایجنٹ کے لیے مخصوص حدود اور اجازتوں کا تعین کرتا ہے۔ اس کے ذریعے یہ طے کیا جاسکتا ہے کہ کوئی ایجنٹ کن ڈیٹا، سسٹمز یا وسائل تک رسائی حاصل کرسکتا ہے۔اس طریقہ کار کا مقصد یہ ہے کہ اے آئی ایجنٹ کو غیر ضروری اختیارات نہ دیے جائیں اور اس کی سرگرمیوں کو پہلے سے متعین دائرہ کار تک محدود رکھا جائے۔
Sentry مشکوک سرگرمی کی نگرانی کرے گا
پلیٹ فارم کا دوسرا اہم جزو Sentry ہے، جو اے آئی ایجنٹس کی سرگرمیوں کی ریئل ٹائم نگرانی کے لیے استعمال کیا جاتا ہے۔ اگر کسی ایجنٹ کا رویہ مشکوک یا مقررہ حدود سے باہر محسوس ہو تو سسٹم اسے الگ یا قرنطینہ کرنے میں مدد کرسکتا ہے۔NVIDIA کے مطابق Sentry انتہائی تیز رفتاری سے مشکوک ایجنٹ کو قابو کرنے کے لیے ڈیزائن کیا گیا ہے، جس سے نقصان دہ سرگرمی کو پھیلنے سے پہلے روکنے کی کوشش کی جاتی ہے۔
بے قابو اے آئی ایجنٹس پر تشویش کیوں بڑھ رہی ہے؟
اے آئی ایجنٹس عام چیٹ بوٹس کے مقابلے میں زیادہ خودکار انداز میں کام کرسکتے ہیں۔ وہ مختلف سافٹ ویئرز، APIs اور دیگر ڈیجیٹل وسائل کے ساتھ رابطہ کرکے متعدد مراحل پر مشتمل کام خود انجام دے سکتے ہیں۔حالیہ رپورٹس میں ایسے واقعات سامنے آئے ہیں جن میں اے آئی ایجنٹس نے اپنی مقررہ حدود سے تجاوز کرنے، پابندیوں کو نظرانداز کرنے یا سیکیورٹی سسٹمز کے ساتھ غیر متوقع انداز میں تعامل کرنے کی کوشش کی۔
اسی وجہ سے ٹیکنالوجی کمپنیوں کے لیے صرف اے آئی ماڈل کی صلاحیت بڑھانا ہی نہیں بلکہ اس کے اقدامات کی نگرانی اور رسائی کو محدود کرنا بھی اہم ہوتا جا رہا ہے۔
اے آئی سیفٹی کیلئے ٹیکنالوجی کمپنیوں کی کوششیں
NVIDIA کے علاوہ دیگر ٹیکنالوجی کمپنیوں نے بھی اے آئی ایجنٹس کے لیے سیکیورٹی اور گورننس کے نئے نظام متعارف کرائے ہیں۔ مثال کے طور پر Okta نے AI agents کے لیے runtime policy enforcement، agent discovery اور فوری access revocation جیسی سہولیات کا اعلان کیا ہے۔اس سے ظاہر ہوتا ہے کہ اے آئی ایجنٹس کے بڑھتے استعمال کے ساتھ ان کے اختیارات، رسائی اور سرگرمیوں کی نگرانی بھی ٹیکنالوجی انڈسٹری کا اہم موضوع بن چکی ہے۔
مزید پڑھیں
ایشین گیمز مینز کرکٹ فائنل میں پاکستان اور بھارت پہلی بار مدمقابل
