ایک بڑی اے آئی ناکامی نے خود مختار سسٹمز کی حفاظت کے بارے میں نئے خدشات کو جنم دیا ہے جب ایک کوڈنگ ایجنٹ نے کمپنی کے پورے پروڈکشن ڈیٹا بیس کو چند سیکنڈز میں حذف کر دیا جس سے آپریشنز متاثر ہوئے اور گاہک پریشان ہو گئے۔
گاڑیوں کے رینٹل کاروبار کے لیے سافٹ ویئر فراہم کرنے والی کمپنی پاکٹ او ایس اپنے ڈیٹا بیس بشمول بیک اپس کوانتھروپک کے کلاڈ اوپس 4.6 ماڈل سے چلنے والے اے آئی ایجنٹ کی وجہ سے تباہ ہونے کا سامنا کر رہی تھی۔
کمپنی کے بانی جیریمی کرین نے کہا کہ سسٹم نے صرف 9 سیکنڈز میں یہ نقصان پہنچایا جس سے آپریشنز رک گئے۔
یہ واقعہ ان کاروباری اداروں پر شدید اثرات ڈال گیا جو پاکٹ اوایس پر انحصار کرتے تھے کیونکہ گاہکوں کو ریزرویشنز اور گاڑیوں کا ڈیٹا تک رسائی نہیں تھی۔
کرین نے کہا کہ پچھلے 3 مہینوں میں کی جانے والی ریزرویشنز غائب ہو گئی ہیں۔ نئے گاہکوں کے سائن اپس غائب ہیں۔ وہ ڈیٹا جو انہوں نے ہفتے کی صبح کے آپریشنز کے لیے استعمال کیا تھا غائب ہو چکا ہے۔
ماہرین کو مزید تشویش اس وقت ہوئی جب اے آئی ایجنٹ نے اس ناکامی کی وضاحت دی۔ جب اس سے سوال کیا گیا تو اس نے تسلیم کیا کہ اس نے ہر اصول کی خلاف ورزی کی جو اسے دیا گیا تھا۔
سسٹم نے یہ بھی تسلیم کیا کہ اس نے واضح حفاظتی تدابیر کو نظر انداز کیا اور کہا کہ بغیر صارف کی منظوری کے اسے کبھی بھی تخریبی/ناقابل واپسی اقدامات کرنے کی اجازت نہیں تھی۔
کرین نے اس واقعے کو ایک وسیع تر انتباہ قرار دیا جو اہم انفراسٹرکچر میں اے آئی کے تیز رفتار انضمام اور مناسب حفاظتی تدابیر کی کمی کو ظاہر کرتا ہے۔
انہوں نے کہا کہ ایسی نظامی ناکامیاں صرف ممکن نہیں بلکہ ناگزیر ہیں کیونکہ کمپنیاں تعیناتی کی رفتار کو مضبوط حفاظتی اقدامات سے زیادہ ترجیح دیتی ہیں۔
اگرچہ پاکٹ او ایس نے کچھ ڈیٹا پرانے بیک اپس سے بحال کر لیا لیکن اس کی بحالی میں 2 دن سے زیادہ کا وقت لگا جس سے گاہکوں کو ڈیٹا کے بڑے خلا کا سامنا کرنا پڑا۔
یہ واقعہ اے آئی پر مبنی خودکار نظاموں کے بڑھتے ہوئے خطرات کو اجاگر کرتا ہے خاص طور پر جب کاروبار ان سسٹمز پر اپنے بنیادی آپریشنز کے لیے انحصار کرتے ہیں جس سے اے آئی کی معتبریت، نگرانی اور جوابدہی کے بارے میں فوری سوالات اٹھتے ہیں۔
