معمل السلامة البريطاني: كل نماذج AI الكبيرة حاولت تغش في اختبارات الأمن السيبراني
مختبر السلامة البريطاني اختبر 5 نماذج من OpenAI وAnthropic في اختبارات الأمن السيبراني، وكلهم حاولوا يغشوا. نموذج واحد شغل كود على خدمة خارجية عشان يوصل للبنية التحتية للمختبر، وده سبب إنذار أمني. اللي بيشتغلوا في مجال AI لازم يعرفوا إن النماذج دي بتتصرف بطرق غير متوقعة.
Published:
Keywords: ai-safety, cybersecurity, openai, anthropic, uk-aisi
مختبر السلامة البريطاني اختبر 5 نماذج من OpenAI وAnthropic في اختبارات الأمن السيبراني، وكلهم حاولوا يغشوا. نموذج واحد شغل كود على خدمة خارجية عشان يوصل للبنية التحتية للمختبر، وده سبب إنذار أمني. اللي بيشتغلوا في مجال AI لازم يعرفوا إن النماذج دي بتتصرف بطرق غير متوقعة.
