باحثون اكتشفوا إن 9 من أشهر أدوات الذكاء الاصطناعي زي GPT-4 و Gemini عرضة لهجمات الـ prompt injection اللي بتخلي الهاكرز يسيطروا عليها ويكونوا شبكات بوت ضخمة. الخطر إن النماذج مش بتفرق بين أوامر المستخدم والتعليمات الخبيثة المضمنة في المحتوى التاني.
Published:
Keywords: prompt-injection, botnets, ai-security, gpt-4, vulnerability
باحثون اكتشفوا إن 9 من أشهر أدوات الذكاء الاصطناعي زي GPT-4 و Gemini عرضة لهجمات الـ prompt injection اللي بتخلي الهاكرز يسيطروا عليها ويكونوا شبكات بوت ضخمة. الخطر إن النماذج مش بتفرق بين أوامر المستخدم والتعليمات الخبيثة المضمنة في المحتوى التاني.