الملخص
تمت ترجمة أجزاء من هذه الصفحة آلياً وقد تحتوي على أخطاء.
We investigate automated rewards for training language models in conversational humor, focusing on reward exploits and countermeasures. Two approaches aim to capture understandable surprise and predicted audience amusement. Controlled tests show that an embedding-based surprise reward accepts word-shuffled replies as readily as witty ones. A fluency filter detects the shuffles, but the combined reward also rejects some witty replies and fails further validation. An audience model's predicted laughter is instead vulnerable to laughter cues in either speaker's messages. Normalizing these cues across speakers blocks the covered attacks, although unmatched expressions remain exploitable. Three reinforcement-learning runs evaluate training with successive reward revisions. The final run improves the combined evaluation score by 0.0903 and reduces zero-score sessions by 40%, but its humor-specific improvement remains below our preregistered target. These findings illustrate a broader challenge for automated reward design: countermeasures must block exploitable shortcuts while preserving the behavior the reward was intended to encourage.
الكلمات المفتاحية
الموضوع
بيانات النشر
- المجلة
- غير متاح
- وصول مفتوح
- وصول مفتوح أخضر
اقتبس هذه المقالة
APA 7
Larson, S. (2026). الذهب الهزلي المزيّف: استغلالات المكافأة والتدابير المضادة في الفكاهة الحوارية. https://omanscience.com/ar/articles/comedic-fool-s-gold-reward-exploits-and-countermeasures-in-conversational-humor
MLA 9
Larson, Sam. "الذهب الهزلي المزيّف: استغلالات المكافأة والتدابير المضادة في الفكاهة الحوارية." https://omanscience.com/ar/articles/comedic-fool-s-gold-reward-exploits-and-countermeasures-in-conversational-humor.
شيكاغو (المؤلف–التاريخ)
Larson, Sam. 2026. "الذهب الهزلي المزيّف: استغلالات المكافأة والتدابير المضادة في الفكاهة الحوارية." https://omanscience.com/ar/articles/comedic-fool-s-gold-reward-exploits-and-countermeasures-in-conversational-humor.
هارفارد
Larson, S. (2026) 'الذهب الهزلي المزيّف: استغلالات المكافأة والتدابير المضادة في الفكاهة الحوارية', Available at: https://omanscience.com/ar/articles/comedic-fool-s-gold-reward-exploits-and-countermeasures-in-conversational-humor.
فانكوفر
Larson S. الذهب الهزلي المزيّف: استغلالات المكافأة والتدابير المضادة في الفكاهة الحوارية. https://omanscience.com/ar/articles/comedic-fool-s-gold-reward-exploits-and-countermeasures-in-conversational-humor
IEEE
S. Larson, "الذهب الهزلي المزيّف: استغلالات المكافأة والتدابير المضادة في الفكاهة الحوارية," https://omanscience.com/ar/articles/comedic-fool-s-gold-reward-exploits-and-countermeasures-in-conversational-humor.