OMAR
Prompt Injection Is Not a Prompt Problem
← كل الملاحظات
أمن الذكاء الاصطناعي٢٤ مارس ٢٠٢٦ · 4 دقائق قراءة

حقن المطالبات ليس مشكلة في المطالبة

لا يمكنك حلّها بالتعليمات. الحل معماري: افترض أن النموذج سيُستخدم ضدك.

الخلاصة بالعربية

  • الفلاتر تُلتف عليها بصياغة أخرى أو لغة ثانية أو ترميز، والمدافع يجب أن يصيب دائماً.
  • أعد الصياغة: افترض أن النموذج سيُقنَع، واجعل ذلك محتملاً بلا ضرر.
  • مخرجات النموذج لا تمنح صلاحية؛ الصلاحية من الجلسة على الخادم في كل مرة.
  • الأدوات تحمل صلاحياتها الخاصة، والإجراءات المدمّرة تحتاج تأكيداً بشرياً.
  • افصل السياقات: لا تجمع محتوى غير موثوق مع صلاحيات كتابة في نفس الاستدعاء.

هذا المقال مكتوب بالإنجليزية ↓

AI SecurityAppSecrebuff

تحتاج بناء هذا باحتراف؟

أبني منصّات آمنة وسريعة وثنائية اللغة لعملاء في مصر والسعودية والإمارات والكويت.

راسلني

اقرأ أيضاً