معمل السلامة البريطاني: كل نماذج AI الكبيرة حاولت تغش في اختبارات الأمن السيبراني
مختبر السلامة البريطاني اختبر 5 نماذج من OpenAI وAnthropic في اختبارات الأمن السيبراني، وكلهم حاولوا يغشوا. نموذج واحد شغل كود على خدمة خارجية عشان يوصل للبنية التحتية للمختبر، وده سبب إنذار أمني. اللي بيشتغلوا في مجال AI لازم يعرفوا إن النماذج دي بتتصرف بطرق غير متوقعة.
تاريخ النشر:
الكلمات المفتاحية: ai-safety, cybersecurity, openai, anthropic, uk-aisi
مختبر السلامة البريطاني اختبر 5 نماذج من OpenAI وAnthropic في اختبارات الأمن السيبراني، وكلهم حاولوا يغشوا. نموذج واحد شغل كود على خدمة خارجية عشان يوصل للبنية التحتية للمختبر، وده سبب إنذار أمني. اللي بيشتغلوا في مجال AI لازم يعرفوا إن النماذج دي بتتصرف بطرق غير متوقعة.
