تقديم طرق جديدة لتحسين تعلم الآلة في المؤتمر الدولي لتعلم الآلة

إدوارد غوربينوف باحث علمي في جامعة محمد بن زايد للذكاء الاصطناعي يركز في أبحاثه على خوارزميات التحسين الهادفة لتطوير أداء التطبيقات القائمة على تعلم الآلة. والتحسين عملية شديدة الأهمية في تدريب نماذج تعلم الآلة وتهدف لتطوير أدائها.

شارك غوربينوف في إعداد دراسة حديثة تقترح طرقاً جديدة للتحسين فيما يُعرف بالأنظمة المُركّبة، التي تستخدم مجموعة متنوعة من الخوارزميات، وفي الأنظمة الموزعة، التي يُشغل فيها النموذج على أكثر من آلة أثناء التدريب. وتُقدّم الدراسة في المؤتمر الدولي لتعلم الآلة الذي يُقام هذا الأسبوع في فيينا ويُعد من أكبر المؤتمرات السنوية في مجال تعلم الآلة.

أُعدَّت الدراسة بالتعاون بين علماء من كل من جامعة الملك عبدالله للعلوم والتقنية، ومعهد موسكو للفيزياء والتكنولوجيا، وجامعة مونتريال، ومعهد “ميلا” (معهد الذكاء الاصطناعي في كيبيك)، ومعهد فايرشتراس للتحليل التطبيقي والعمليات العشوائية، وجامعة إنوبوليس، ومعهد إيفانيكوف لبرمجة الأنظمة، ومعهد سكولكوفو للعلوم والتكنولوجيا، وجامعة محمد بن زايد للذكاء الاصطناعي.

هناك طرق عديدة يمكن من خلالها للباحثين تحسين نماذج تعلم الآلة، ويعتمد تحديد الطريقة الأنسب على بنية النموذج، وكمية أو نوع البيانات التي صُمِّم لتحليلها، والمهام التي سيُنفذها.

وقد تطورت أساليب التحسين مع التقدم السريع في مجال تعلم الآلة بشكل عام، حيث يعمل الباحثون باستمرار على تطوير أساليب جديدة ويزداد حجم النماذج، مما يخلق تحديات عملية في وجه التدريب والتحسين بسبب حجم مجموعات البيانات والقوة الحسابية المطلوبة لمعالجتها. وفي هذا الصدد يقول غوربينوف: “هناك العديد من طرق التحسين اليوم، واختيار المناسب منها أمر مهم جداً، لأنه قد يؤثر على عملية تصميم البنية”.

ويوضح غوربينوف أن التحسين يهدف لتقليل “دالة الخسارة”، التي تشير إلى الفرق بين مخرجات النموذج والإجابة الصحيحة. وفي كثير من الحالات، يعمل العلماء على تقليل دالة الخسارة في النموذج عن طريق تعديل “المعلمات الداخلية القابلة للتدريب في النموذج التي تحدد بشكل أساسي كيفية عمله”.

إحدى طرق التحسين الشائعة هي “تحديد القيم القصوى للتدرجات”، وتُستخدم لمنع تضخم التدرجات بشكل كبير أثناء التدريب عن طريق وضع قيم قصوى محددة لها، مع استمرارها في تحقيق نتيجة تعلم متسقة وفعالة. وهذه الطريقة مفيدة بشكل خاص عند وجود الكثير من القيم المتطرفة في البيانات. ولكن بينما تساعد هذه الطريقة على استبعاد القيم المتطرفة التي لا تمثل بالضرورة البيانات، فهي غالباً غير مجدية في الأنظمة المُركّبة والموزعة.

ويشرح غوربينوف النهج الذي اتبعه هو وزملاؤه قائلاً: “نقترح طرقاً جديدة لا تحدد قيماً قصوى للتدرجات نفسها، بل للفرق بين التدرج والتقدير، الذي يُحدَّث في النظام الموزع بشكل فوري ويتقارب مع التدرج عند الوصول إلى الحل. في حالة التحسين في النظام المُركب أو النظام الموزع، لا تكون التدرجات الفردية للمكونات بالضرورة مساوية للصفر عند الحل. لذلك نحدد قيماً قصوى للفروق في طرق عملنا، مما يسمح لنا بتحسين التقارب وإظهار النتائج الأولى في هذا التكوين العام”.

يقول غوربينوف إن نتائج الدراسة تُبيّن أنه عند التدريب في نظام موزع فيه الكثير من القيم المتطرفة، من الأفضل تحديد قيم قصوى للفرق بين التدرج والتقدير بدلاً من تحديد قيم قصوى للتدرج نفسه. كما يؤكد على أهمية اختيار خوارزمية ذات احتمال تقارب مرتفع لأن لهذا أثراً كبيراً على التدريب.