نسخة أولية وصول مفتوح
LadderEdit: إصلاح-مستوى ضغط البقايا لتنفيذ الذاكرة فعالة للتحرير على مدى الحياة من LLM
تحرير LLM على مدى الحياة يتطلب تخزين الآلاف من التحريرات بعد الاستحواذ. تصل أسرة من النهج المستخدمة على نطاق واسع إلى مكيّف LoRA واحد لكل تحرير، والذي يحافظ على السلوك لكنه ينمو خطياً في التخزين. لمواجهة هذا التحدي، نقترح LadderEdit، وهي طريقة تضغط على كل مكيّف لورا بعد اكتسابها. يتم تخزين كل تحرير في المرتبة المنخفضة …