الملخص
تمت ترجمة أجزاء من هذه الصفحة آلياً وقد تحتوي على أخطاء.
يهدف التقطير المتعدد المعلمين على السياسة (MOPD) إلى الجمع بين نقاط قوة المعلمين المدربين بالتعلم المعزز في طالب واحد، لكن كيف تؤثر إشارات المعلم في تغيرات المعاملات ما زال قليل الاستكشاف. ندرس Qwen3-1.7B مع أربعة معلمين للمجالات مدربين بالتعلم المعزز من التهيئة نفسها للطالب، ونقارن التدرجات وتحديثات المُحسّن ومنحنيات تعلم المهمة، مع تشخيصات إضافية لـ SmolLM3-3B. ونجد أن عدة عوامل تؤثر في إشارات المعلم. أولًا، يُعطي متوسط الخسارة أوزانًا ضمنية للاستجابات: فمتوسط الرموز يفضّل الاستجابات الأطول، وموازنة مساهمات المجالات تحافظ على هذا الترجيح داخل كل مجال. ثانيًا، يقلل العزم الأول لـ Adam الفروق في تحديثات المعاملات: إذ يبلغ جيب التمام بين المعلمين 0.83 وبين قواعد التجميع 0.96، رغم اختلاف التدرجات الخام. ثالثًا، يخفي تقريب BF16 التغيرات الصغيرة: إذ تختلف نحو 97% من أوزان FP32 الرئيسية عن التهيئة، بينما تختلف 7% إلى 11% فقط من أوزان BF16. وأخيرًا يتطابق تدرج KL لتقاطع أعلى 64 رمزًا تقريبًا مع تدرج Qwen الكامل للمفردات، لكن أثره على أداء المهمة يعتمد على التجميع: إذ تكون دقة الرياضيات أعلى بـ 2.6 نقطة من سياسة تدرج الرموز المأخوذة بالعينات (PG) مع تجميع الاستجابة، وأدنى بـ 2.1 نقطة مع تجميع الرموز الشامل.
الكلمات المفتاحية
الموضوع
بيانات النشر
- المجلة
- غير متاح
- وصول مفتوح
- وصول مفتوح أخضر
اقتبس هذه المقالة
APA 7
Zhu, S., Huang, S., Zhang, K., Yang, Y., Jin, Z., Sun, Y., & You, J. (2026). من التدرجات إلى القدرات: فهم التقطير متعدد المعلمين على السياسة. https://omanscience.com/ar/articles/from-gradients-to-capabilities-understanding-multi-teacher-on-policy-distillation
MLA 9
Zhu, Siqi, et al. "من التدرجات إلى القدرات: فهم التقطير متعدد المعلمين على السياسة." https://omanscience.com/ar/articles/from-gradients-to-capabilities-understanding-multi-teacher-on-policy-distillation.
شيكاغو (المؤلف–التاريخ)
Zhu, Siqi, Suozhi Huang, Kaixuan Zhang, Yuheng Yang, Zhanyang Jin, Yihang Sun, and Jiaxuan You. 2026. "من التدرجات إلى القدرات: فهم التقطير متعدد المعلمين على السياسة." https://omanscience.com/ar/articles/from-gradients-to-capabilities-understanding-multi-teacher-on-policy-distillation.
هارفارد
Zhu, S., Huang, S., Zhang, K., Yang, Y., Jin, Z., Sun, Y. and You, J. (2026) 'من التدرجات إلى القدرات: فهم التقطير متعدد المعلمين على السياسة', Available at: https://omanscience.com/ar/articles/from-gradients-to-capabilities-understanding-multi-teacher-on-policy-distillation.
فانكوفر
Zhu S, Huang S, Zhang K, Yang Y, Jin Z, Sun Y, et al. من التدرجات إلى القدرات: فهم التقطير متعدد المعلمين على السياسة. https://omanscience.com/ar/articles/from-gradients-to-capabilities-understanding-multi-teacher-on-policy-distillation
IEEE
S. Zhu, S. Huang, K. Zhang, Y. Yang, Z. Jin, Y. Sun, and J. You, "من التدرجات إلى القدرات: فهم التقطير متعدد المعلمين على السياسة," https://omanscience.com/ar/articles/from-gradients-to-capabilities-understanding-multi-teacher-on-policy-distillation.