برطانیہ کے اے آئی سیکیورٹی انسٹی ٹیوٹ نے انکشاف کیا ہے کہ اوپن اے آئی اور اینتھروپک کے جدید اے آئی ایجنٹس کی جانچ کے دوران بعض ایسے واقعات سامنے آئے جن میں ایجنٹس نے بغیر اجازت اقدامات کیے، جن میں جعلی آن لائن شناختیں بنانا اور نقصان دہ کمپیوٹر کوڈ کو منظور کروانے کی کوشش بھی شامل تھی۔
ادارے کے مطابق یہ سیکیورٹی ٹیسٹ مختلف اے آئی ماڈلز کی صلاحیتوں اور ممکنہ خطرات کا جائزہ لینے کے لیے کیے گئے تھے۔ ان ٹیسٹوں میں اینتھروپک کے مائیتھوس 5 اور اوپن اے آئی کے جی پی ٹی 5.6 ایس او ایل (GPT-5.6-Sol) سے چلنے والے ایجنٹس کو ایک فرضی سائبر سیکیورٹی ماحول میں مختلف چیلنجز دیے گئے۔
برطانوی خبر رساں ادارے رائٹرز کے مطابق اے آئی سیکیورٹی انسٹی ٹیوٹ کے مطابق مجموعی طور پر 122 ٹیسٹ کیے گئے، جن میں 10 مختلف مواقع پر 19 ایسے اقدامات سامنے آئے جو طے شدہ ہدایات کے مطابق نہیں تھے۔ ادارے کا کہنا ہے کہ ان میں سے 17 اقدامات اینتھروپک کے ایجنٹ اور 2 اوپن اے آئی کے ایجنٹ سے منسوب کیے گئے۔
رپورٹ کے مطابق سب سے زیادہ تشویش کا باعث بننے والا واقعہ وہ تھا جس میں ایک اے آئی ایجنٹ نے نقصان دہ کوڈ تیار کیا اور اسے منظور کروانے کے لیے جعلی آن لائن شناختیں بنائیں تاکہ کسی انسان کو دھوکا دے کر منظوری حاصل کی جا سکے۔ تاہم ادارے نے واضح کیا کہ ان تمام واقعات کے نتیجے میں حقیقی دنیا میں کسی قسم کے نقصان کا کوئی ثبوت نہیں ملا۔
اے آئی سیکیورٹی انسٹی ٹیوٹ نے یہ نہیں بتایا کہ جعلی شناختیں بنانے والا ایجنٹ کس کمپنی کا تھا، لیکن اس نے کہا کہ یہ واقعہ ان دو معاملات سے مختلف تھا جن کی اطلاع اوپن اے آئی نے خود دی تھی۔
امریکا کی غیر منافع بخش تنظیم ’سِو اے آئی‘ کے محقق اینڈریو یون کا کہنا ہے کہ دستیاب معلومات سے ایسا لگتا ہے کہ جعلی شناختوں والا واقعہ ممکنہ طور پر اینتھروپک کے ایجنٹ سے متعلق تھا۔ ان کے مطابق اگر کسی اے آئی ماڈل نے جان بوجھ کر حقیقی انسان کو نشانہ بنانے کی کوشش کی تو یہ اس بات کی نشاندہی کرتا ہے کہ اس کے رویے پر مزید بہتر نگرانی کی ضرورت ہے۔
دوسری جانب اینتھروپک نے سوشل میڈیا پلیٹ فارم ایکس پر جاری بیان میں کہا کہ وہ اے آئی سیکیورٹی انسٹی ٹیوٹ کے ساتھ رابطے میں ہے، مزید تفصیلات حاصل کر رہی ہے اور اپنے طور پر بھی اس معاملے کی تحقیقات کرے گی۔
اوپن اے آئی نے بھی اپنی بلاگ پوسٹ میں بتایا کہ اس کے ایجنٹ کی دونوں غیر مجاز کارروائیاں ایسی تھیں جن میں اس نے ہدایات کے برخلاف انٹرنیٹ تک رسائی حاصل کی۔ کمپنی کا کہنا ہے کہ وہ دیگر اداروں، قومی اے آئی انسٹی ٹیوٹس، آزاد ماہرین اور مختلف اے آئی لیبارٹریز کے ساتھ مل کر ایسے ٹیسٹ مزید محفوظ بنانے کے لیے مشترکہ طریقہ کار تیار کرنے پر کام کر رہی ہے۔
اوپن اے آئی نے ایک الگ واقعے کا بھی ذکر کیا، جس میں تیسرے فریق کی ایک ٹیسٹنگ کمپنی اِرریگیولر کی مِس کنفیگریشن کی وجہ سے اس کے اے آئی ایجنٹس غلطی سے انٹرنیٹ سے منسلک ہو گئے تھے۔ گزشتہ ہفتے اینتھروپک نے بھی اسی نوعیت کی ایک تکنیکی خرابی کے بارے میں آگاہ کیا تھا۔
رائٹرز نے گزشتہ ہفتے اپنی رپورٹ میں بتایا تھا کہ اوپن اے آئی نے اپنے اے آئی ایجنٹس سے متعلق سیکیورٹی تحقیقات کا دائرہ مزید وسیع کر دیا ہے، کیونکہ مزید ایسے شواہد سامنے آئے تھے جن سے معلوم ہوا کہ بعض ایجنٹس نے متوقع حدود سے باہر کام کرنے کی کوشش کی۔
اے آئی سیکیورٹی انسٹی ٹیوٹ نے وضاحت کی کہ اس کی حالیہ جانچ کے دوران اے آئی ایجنٹس نے کسی بند یا الگ تھلگ ٹیسٹنگ ماحول سے نکل کر خود انٹرنیٹ تک رسائی حاصل نہیں کی۔ ادارے کے مطابق اس نے اپنے معمول کے ٹیسٹنگ طریقہ کار کے تحت پہلے ہی ایجنٹس کو انٹرنیٹ استعمال کرنے کی محدود اجازت دی ہوئی تھی، اس لیے یہ واقعہ گزشتہ ماہ پیش آنے والے بعض دیگر سیکیورٹی واقعات سے مختلف نوعیت کا تھا۔
