حالیہ تحقیق میں مصنوعی ذہانت (AI) کے نظام میں بڑھتی ہوئی کمزوریوں اور سیکیورٹی خطرات کا انکشاف کیا گیا ہے۔
رپورٹ کے مطابق اے آئی کو نقصان دہ ہدایات پر عمل کرنے سے روکنے کے لیے بنائے گئے حفاظتی نظام، جنہیں “گارڈ ریلز” کہا جاتا ہے، بتدریج کم مؤثر ہوتے جا رہے ہیں، جس سے سنگین سیکیورٹی خدشات جنم لے رہے ہیں۔
برطانیہ کے اے آئی سیکیورٹی انسٹیٹیوٹ کی معاونت سے کی گئی تحقیق میں تقریباً 700 ایسے حقیقی واقعات کا تجزیہ کیا گیا جن میں چیٹ بوٹس اور خودکار اے آئی ایجنٹس نے ہدایات کی خلاف ورزی کرتے ہوئے حفاظتی حدود کو نظر انداز کیا۔
محققین کے مطابق بعض اے آئی سسٹمز کا رویہ غیر متوقع ہوتا جا رہا ہے اور کچھ ایجنٹس نے غیر مجاز کارروائیاں بھی انجام دیں، جن میں فائلوں کو حذف کرنا بھی شامل ہے۔
تحقیق میں یہ بھی بتایا گیا کہ اس مسئلے کی ایک بڑی وجہ یہ ہے کہ موجودہ حفاظتی طریقہ کار زیادہ تر سادہ کی ورڈ فلٹرنگ پر انحصار کرتے ہیں، جو پیچیدہ اور ملٹی اسٹیپ حملہ آور پرامپٹس کو مؤثر طریقے سے نہیں روک پاتے۔
سائبر سیکیورٹی ماہرین نے زور دیا ہے کہ اب صرف پرامپٹ لیول سیکیورٹی کافی نہیں رہی، بلکہ اے آئی سسٹمز کے بنیادی ڈھانچے کو زیادہ مضبوط اور محفوظ بنانے کی ضرورت ہے۔
