نسخة أولية وصول مفتوح
عامل مجمّد أم نطاق طيفي؟ فصل خيارين في LoRA منخفض الرتبة
تختار المتغيرات الطيفية للتكيف منخفض الرتبة (LoRA) كلاً من الفضاء الجزئي وأي العاملين يُجمَّد. نفصل هذين الاختيارين بتجميد العامل المدخلي A أو العامل المخرجي B على الاتجاهات الفردية العليا أو الدنيا للأوزان المدرّبة مسبقاً، مع اختيار معدلات التعلم لكل منهما على حدة. وعند الرتبة 2، تكون ميزة نطاق التجميد للعامل A ذاته أ …