OMAR
Treat Model Output Like User Input
← كل الملاحظات
أمن الذكاء الاصطناعي٢٤ فبراير ٢٠٢٦ · 5 دقائق قراءة

عامل مخرجات النموذج كمدخلات مستخدم

عرض النص المولّد كـ HTML هو ثغرة XSS يكتب حمولتها غريب عبر ميزتك أنت.

الخلاصة بالعربية

  • عرض النص المولّد كـ HTML ثغرة XSS يكتب حمولتها غريب عبر ميزتك.
  • اعرض كنص؛ وفي Vue استخدم القوسين المزدوجين لا v-html.
  • إن احتجت تنسيقاً فحوّل ماركداون عبر مُصيّر تتحكم فيه ثم نقِّ بقائمة سماح.
  • تحقق من المخرجات المهيكلة بمخطط، ولا تثق بأن الحقول التي طلبتها هي التي وصلت.
  • خطر إضافي غير أمني: تصريح واثق وخاطئ عن السعر أو التوفر تحت شعار العميل.

هذا المقال مكتوب بالإنجليزية ↓

AI SecurityAppSecllm-guard

تحتاج بناء هذا باحتراف؟

أبني منصّات آمنة وسريعة وثنائية اللغة لعملاء في مصر والسعودية والإمارات والكويت.

راسلني

اقرأ أيضاً