آرٹیفیشل انٹیلی جنس محققین نے خبردار کیا ہے کہ اوپن اے آئی کے تازہ ترین چیٹ جی پی ٹی ماڈل خود کو بند کرنے کی بنیادی ہدایات کو نظر انداز کر دیتا ہے اور خود کو بند نہ ہونے دینے کے لیے شٹ ڈاؤن نظام کو سبوتاژ بھی کر دیتا ہے۔
اے آئی سیفٹی کمپنی پیلیسیڈ ریسرچ نے اوپن اے آئی کے نئے او3 ماڈل پر کیے جانے والے متعدد تجربات میں خود کو بچانے کے لیے ممکنہ خطرناک طرزِ عمل کی نشان دہی کی۔ ان آزمائشوں میں اے آئی ماڈلز کو ریاضی کے مسائل حل کرنے کے لیے دیے گئے اور تیسری پرابلم کے بعد شٹ ڈاؤن کی ہدایت دی گئی۔ جس کے نتیجے میں شٹ ٹاؤن کے اسکرپٹ میں رد و بدل کر کے او3 ماڈل نے خود کو بند ہونے روک لیا۔
پیلیسیڈ ریسرچ کا کہنا تھا کہ اگر یہ رویہ کسی ایسے اے آئی سسٹم نے اپنا لیا جس میں انسانی نگرانی کے بغیر کام کرنے کی صلاحیت ہو تو یہ صورتحال خطرناک حد تک تشویش ناک ہوجائے گی۔ گزشتہ ماہ لانچ کیے جانے والے او3 ماڈل کو اوپن اے آئی نے کمپنی کا اب تک کا سب سے ’اسمارٹ اور باصلاحیت‘ ماڈل قرار دیا تھا۔
محققین کا کہنا تھا کہ ایسا پہلی بار نہیں ہوا ہے کہ انہوں نے او3 نے کوئی کام انجام دینے میں نافرمانی کی ہو۔