الملخص

تمت ترجمة أجزاء من هذه الصفحة آلياً وقد تحتوي على أخطاء.

ندرس طبقة عامة الغرض للتعلم العميق، لا تضغط بيانات تدريب بحجم اعتباطي في مصفوفات أوزان ثابتة الحجم، بل تخزن زوجًا جديدًا من تمثيلات المفتاح-القيمة لكل نقطة بيانات أثناء التدريب، وتسترجعها وتعيد توليفها عبر آلية انتباه أثناء الاستدلال، فتنتج شبكة عصبية متنامية. وقد طرح إيري وآخرون (arXiv:2202.05798) هذا المنظور انطلاقًا من الثنائية الكلاسيكية التي تعبّر عن أي طبقة خطية في شبكة عميقة مدربة بالتدرج بوصفها انتباهًا خطيًا (LA) على نقاط بيانات التدريب. غير أن استبدال LA بدوال انتباه أقوى، كما اقترحوا، ليس أمرًا تافهًا: إذ نبيّن أن تطبيق قواعد التعلم من حالة LA على النوى المتقدمة بساذجة لا يؤدي إلى تحسين مبدئي. ونسد هذه الفجوة ونطور قواعد تعلم قائمة على التدرج الوظيفي لطبقات الانتباه ذات النوى، استنادًا إلى نوى دالة الأساس الشعاعي (RBF) ونوى شبيهة بـ softmax، فنؤسس نموذج التعلم العميق المتمحور حول الاسترجاع (RCDL). وتجريبيًا نُظهر أداءً واعدًا وكفاءة تعلم لـ RCDL في تصنيف الصور ومهام التعلم المصطنعة من نوع المعلم-التلميذ. ونبيّن كذلك أن استبدال LA في الصيغة الثنائية للشبكات العصبية بمتغيرات LA أقوى، وهي MesaNet وDeltaNet، ينتج صلة صورية بمُحسِّنات اقترحت حديثًا للشبكات العصبية التقليدية ذات الحجم الثابت، ويقدم منظورًا جديدًا لتحسين التعلم العميق.

الكلمات المفتاحية

الموضوع

بيانات النشر

المجلة
غير متاح
وصول مفتوح
وصول مفتوح أخضر

اقتبس هذه المقالة

APA 7

Schlegel, M., Nasser, R., Kobayashi, S., Schimpf, Y., Sieberling, O., Obryk, R., Irie, K., Sacramento, J., & von Oswald, J. (2026). التعلم العميق المتمحور حول الاسترجاع في الشبكات العصبية اللابارامترية المتنامية. https://omanscience.com/ar/articles/retrieval-centric-deep-learning-in-growing-nonparametric-neural-networks

MLA 9

Schlegel, Maximilian, et al. "التعلم العميق المتمحور حول الاسترجاع في الشبكات العصبية اللابارامترية المتنامية." https://omanscience.com/ar/articles/retrieval-centric-deep-learning-in-growing-nonparametric-neural-networks.

شيكاغو (المؤلف–التاريخ)

Schlegel, Maximilian, Rajai Nasser, Seijin Kobayashi, Yanick Schimpf, Oliver Sieberling, Robert Obryk, Kazuki Irie, João Sacramento, and Johannes von Oswald. 2026. "التعلم العميق المتمحور حول الاسترجاع في الشبكات العصبية اللابارامترية المتنامية." https://omanscience.com/ar/articles/retrieval-centric-deep-learning-in-growing-nonparametric-neural-networks.

هارفارد

Schlegel, M., Nasser, R., Kobayashi, S., Schimpf, Y., Sieberling, O., Obryk, R., Irie, K., Sacramento, J. and von Oswald, J. (2026) 'التعلم العميق المتمحور حول الاسترجاع في الشبكات العصبية اللابارامترية المتنامية', Available at: https://omanscience.com/ar/articles/retrieval-centric-deep-learning-in-growing-nonparametric-neural-networks.

فانكوفر

Schlegel M, Nasser R, Kobayashi S, Schimpf Y, Sieberling O, Obryk R, et al. التعلم العميق المتمحور حول الاسترجاع في الشبكات العصبية اللابارامترية المتنامية. https://omanscience.com/ar/articles/retrieval-centric-deep-learning-in-growing-nonparametric-neural-networks

IEEE

M. Schlegel, R. Nasser, S. Kobayashi, Y. Schimpf, O. Sieberling, R. Obryk, K. Irie, J. Sacramento, and J. von Oswald, "التعلم العميق المتمحور حول الاسترجاع في الشبكات العصبية اللابارامترية المتنامية," https://omanscience.com/ar/articles/retrieval-centric-deep-learning-in-growing-nonparametric-neural-networks.