ثغرة في 9 أدوات ذكاء اصطناعي شهيرة تسهل تكوين شبكات بوت
باحثون اكتشفوا إن 9 من أشهر أدوات الذكاء الاصطناعي زي GPT-4 و Gemini عرضة لهجمات الـ prompt injection اللي بتخلي الهاكرز يسيطروا عليها ويكونوا شبكات بوت ضخمة. الخطر إن النماذج مش بتفرق بين أوامر المستخدم والتعليمات الخبيثة المضمنة في المحتوى التاني.
تاريخ النشر:
الكلمات المفتاحية: prompt-injection, botnets, ai-security, gpt-4, vulnerability
باحثون اكتشفوا إن 9 من أشهر أدوات الذكاء الاصطناعي زي GPT-4 و Gemini عرضة لهجمات الـ prompt injection اللي بتخلي الهاكرز يسيطروا عليها ويكونوا شبكات بوت ضخمة. الخطر إن النماذج مش بتفرق بين أوامر المستخدم والتعليمات الخبيثة المضمنة في المحتوى التاني.
