Garak: افحص تطبيقك قبل أن يفحصه غيرك

الخلاصة بالعربية

• فاحص يستهدف سلوك النموذج: كسر القيود، والحقن، وتسريب البيانات، وهجمات الترميز.
• شغّله على نقطة النهاية المنشورة لا على النموذج الخام، لأن حواجزك جزء مما يُختبر.
• ضعه في التكامل المستمر لأن تعديل مطالبة قد يفكّ قيداً بصمت.
• افرز النتائج حسب نموذج التهديد لديك لا حسب عددها.
• لا يختبر صلاحيات الأدوات ولا تنقية المخرجات — وهناك تقع الأعطال الخطيرة.

هذا المقال مكتوب بالإنجليزية ↓