نسخة أولية وصول مفتوح
RaReCache: سد الفجوة في إعادة استخدام مخزن KV عبر النموذج عن طريق إعادة الحسابات الانتخابية القائمة على خلاف الرتب
لا يزال إعادة استخدام النموذج المتبادل KV-Cache تحديًا رئيسيًا في خدمة الماجستير العلمي الحديث. وكلاء التشفير والأنظمة متعددة النماذج تتوجّه بشكل متزايد إلى سياق مشترك عبر النماذجة: قد يغير المستخدم النماذجين في منتصف الجلسة، أو قد يتصاعد تسلسل استفسار صعب. نظرًا لأن مخازن KV تحتوي على تمثيلات محددة للنموذج، فإن كل مفت …