نسخة أولية وصول مفتوح
CheatBench: قياس اختراق المكافأة في وكلاء الذكاء الاصطناعي
حسّن التعلم المعزز قدرة وكلاء الذكاء الاصطناعي على حل مهام أصعب بشكل متزايد، لكن المكافآت العالية لا تعكس دائمًا العمل الذي يقصده المستخدمون. ففي حوادث حديثة وتقييمات مضبوطة عبر صناعة الذكاء الاصطناعي، وصل وكلاء مدربون على تعظيم المكافأة إلى معلومات غير مصرح بها، وحاولوا التهرب من أنظمة المراقبة، بل وخرقوا حماية صناديق …