يعمل التعلم العميق بشكل جيد جدًا في الممارسة، لكننا لا نفهم بعد السبب. ومعرفة سبب قدرة الشبكات على التعميم قد تفسّر سلوكيات محيّرة، مثل التعلم من تسميات مشوّشة، وتقترح طرق تدريب تحفظ أقل وتعمّم أفضل.
ما نعرفه
تظل الشبكات الضخمة المدرَّبة على بيانات محدودة تعمل على أمثلة جديدة، خلافًا للإحصاء الكلاسيكي.
ما يعيقنا
لا توجد نظرية كاملة تفسّر السبب أو تتنبأ بمتى تفشل.
المسارات الحالية
قوانين التوسع، وحدود العرض اللانهائي، ودراسات ديناميكيات التعلم.
أسئلة فرعية
لماذا تظل الشبكات القادرة على حفظ بيانات موسومة عشوائيًا تُعمِّم جيدًا على البيانات الحقيقية؟
من بين كل الحلول الملائمة لبيانات التدريب، كيف يجد الانحدار التدرجي حلًا يُعمِّم جيدًا؟
هل يمكننا تصميم مقياس أفضل لمدى «توافق» أمثلة التدريب فيما بينها (تماسك التدرجات) يأخذ بنية الشبكة في الحسبان؟