الباحثون

فاي لي

المنشورات 3

نسخة أولية وصول مفتوح

DiscoVL: الكشف عن التعلم المختلف لـ C ross-modal representation عبر التنظيم العاكس الأورتوغوني لموديلات اللغة الإنجليزية

نموذجات لغة الرؤية المتدربة مسبقا تتفوق في مختلف مهام الإدراك، ولكن تكييفها إلى إعدادات جديدة دون التضحية بالتعميم لا يزال أمرًا بسيطًا. غالباً ما تنتج طريقة التعلم السريع القائمة على كفاءة المعايير تمثيلات غير متسقة وتفشل في احتساب تحولات التوزيع الدلالية. في هذا العمل، نقوم بتقديم DiscoVL، وهو إطار تعليم التمثيل المت …

مقال بحثي وصول مفتوح

Layered mixed-precision training: A new training method for large-scale AI models

هاو لي, Yuzhu Wang, Yan Hong وآخرون · Journal of King Saud University: Computer and Information Sciences · 2023 · 10.1016/j.jksuci.2023.101656

How to efficiently and quickly train large-scale AI models has become a hot topic in recent deep learning. Mixed-precision training is an effective technique to speed up training and reduce memory usage. At present, the automatic mixed-precision training method mainly uses half-precision (FP16) for the matrix operation …

المؤلفون المشاركون