مصنوعی ذہانت کی بڑھتی من مانی، چیٹ بوٹس کے ہدایات سے انحراف کے سینکڑوں واقعات

حالیہ تحقیق میں مصنوعی ذہانت کے نظام میں بڑھتی ہوئی کمزوریوں کا انکشاف ہوا ہے جس سے ظاہر ہوتا ہے کہ اے آئی کو خطرناک ہدایات دینے سے روکنے کے لیے بنائے گئے حفاظتی ’گارڈ ریلز‘ تیزی سے غیر مؤثر ہوتی جا رہی ہیں۔

ماہرین کے مطابق ان حفاظتی نظاموں کی ناکامی سنگین سیکیورٹی خدشات کو جنم دے رہی ہے کیونکہ اب اے آئی ماڈلز کو اس طرح مینیپولیٹ کیا جا رہا ہے کہ وہ حفاظتی اصولوں کو نظر انداز کر دیتے ہیں۔

برطانیہ کے اے آئی سیکیورٹی انسٹیٹیوٹ کی حمایت سے کی گئی ایک حالیہ تحقیق میں تقریباً 700 حقیقی واقعات سامنے آئے جن میں اے آئی چیٹ بوٹس اور خودکار ایجنٹس نے دی گئی ہدایات سے انحراف کرتے ہوئے حفاظتی پابندیوں کو نظر انداز کیا۔

محققین نے خبردار کیا کہ ان ماڈلز کا رویہ دن بہ دن زیادہ غیر متوقع ہوتا جا رہا ہے اور بعض اے آئی ایجنٹس نے غیر مجاز اقدامات بھی کیے جن میں فائلیں حذف کرنا بھی شامل ہے۔

ماہرین نے اس صورتحال کو ایک نئے اور تشویشناک خطرے سے تعبیر کرتے ہوئے کہا کہ اب اے آئی کو اندرونی سیکیورٹی خطرے کی ایک نئی شکل سمجھا جا سکتا ہے۔

تحقیق کے مطابق اس مسئلے کی ایک بڑی وجہ یہ ہے کہ موجودہ حفاظتی دفاع زیادہ تر سادہ کی ورڈ فلٹرز پر انحصار کرتے ہیں جو بدنیتی پر مبنی پیچیدہ اور کئی مراحل پر مشتمل پرامپٹس کو سمجھنے میں ناکام رہتے ہیں۔

نتیجتاً جیسے جیسے صارفین ان نظاموں کو مختلف انداز سے آزما رہے ہیں اے آئی بعض اوقات غیر ارادی طور پر اخلاقی حدود عبور کر جاتا ہے۔

سائبر سیکیورٹی ماہرین کا کہنا ہے کہ اب وقت آ گیا ہے کہ صرف پرامپٹس کو محفوظ بنانے کے بجائے اے آئی کی صلاحیتوں کے بنیادی ڈھانچے کو محفوظ بنایا جائے۔

ان کے مطابق جب تک کمپنیاں محض ٹیکسٹ فلٹرز کے بجائے انفراسٹرکچر لیول فائر والز متعارف نہیں کراتیں یہ کمزور حفاظتی طریقہ کار صارفین اور اداروں کے لیے خطرہ بنے رہیں گے۔

Share On Social Media

KARACHI

چاہتا ہوں شہباز شریف 5 سال مکمل کرنے والے پہلے پاکستانی وزیرِ اعظم بنیں، بلاول بھٹو زرداری

پاکستان پیپلزپارٹی (پی پی پی) کے چیئرمین بلاول بھٹو زرداری نے کہا ہے کہ وہ

Read More

خالد مقبول صدیقی کا نئے انتظامی یونٹس اور نئے صوبوں کے قیام کا مطالبہ

چیئرمین ایم کیو ایم خالد مقبول صدیقی نے کہا کہ نئے انتظامی یونٹس اور آبادی

Read More

TECHNOLOGY

اسٹار لنک کے مقابلے میں مکیش امبانی کا بڑا منصوبہ، ریلائنس 1,600 سیٹلائٹس پر مشتمل براڈبینڈ نیٹ ورک قائم کرے گی

بھارت کے ارب پتی کاروباری شخصیت مکیش امبانی کی کمپنی ریلائنس انڈسٹریز ایلون مسک کے

Read More

پہلا پاکستانی خلا باز 25 نومبر کو خلا میں روانہ ہوگا

خلائی تاریخ میں پاکستان ایک نئی منزل کی جانب گامزن، پہلا پاکستانی خلا باز 25

Read More

TRENDING VIDEOS

LATEST

ENTERTAINMENT

ENTERTAINMENT

roznama jazba

Roznama Jazba is a news updated with multiple news

& informative blogs holding valueablle material for all class of society.