مايسترو: مقاربة جديدة لتعزيز كفاءة نماذج تعلم الآلة أثناء التدريب

Wednesday, August 14, 2024
Machine learning efficiency

يتحدث سامويل هورفاث، الأستاذ المساعد في قسم تعلم الآلة بجامعة محمد بن زايد للذكاء الاصطناعي، عن مفارقة تشكل تحدياً لجهود العلماء الهادفة لتطوير تعلم الآلة.

ويقول موضحاً إنه بينما يُعزى التقدم الذي تحقق في هذا المجال إلى حد كبير إلى توفر بيانات عالية الجودة والقدرة على معالجتها، فإن أفضل البيانات غالباً ما توجد لدى مستخدمين ليس بوسعهم مشاركتها أو لا يريدون ذلك: “في معظم الأحيان، تكون هذه البيانات خاصة، ولا يرغب المستخدمون في مشاركتها بسذاجة”.

ولكن هناك علماء مثل هورفاث يبحثون عن حل لهذه المفارقة الواضحة.

يهتم هورفاث بالتعلم الموحد، الذي يهدف للحفاظ على مستوى من الأمن للمستخدمين مع توفير فوائد النماذج التي يمكنها الوصول إلى مجموعات كبيرة من البيانات. وبهذه الطريقة، تُعالج البيانات بواسطة النموذج في موقع إنشاء البيانات نفسه، كجهاز المستخدم مثلاً.

ثم تجري مشاركة أجزاء معينة من البيانات أو التحسينات التي حدثت على نسخة النموذج الموجودة على جهاز المستخدم، مع مجموعة أوسع من المستخدمين، مما يسمح للجميع بالاستفادة من المعلومات التي ينتجها الأفراد مع الحفاظ على الخصوصية والأمن.

ولكن على الرغم من هذه الفوائد، يواجه التعلم الموحد بعض التحديات.

فوجود البيانات التي يجب معالجتها على أجهزة المستخدمين، وهي محدودة في قدرتها مقارنة بالأجهزة الأكبر التي تُستخدم لتدريب النماذج، يفرض على الباحثين تطوير خوارزميات فعالة جداً للعمل عليها.

أعد هورفاث بالتعاون مع باحثين من شركتي “بريف سوفتوير” و”داتا بريكس” وجامعة كارنيجي ميلون دراسة قُدمت مؤخراً في المؤتمر الدولي لتعلم الآلة تقترح إطار عمل جديد لتدريب نماذج تعلم الآلة بكفاءة ويمكن استخدامها في بيئات التعلم الموحد. وتعمل هذه الطريقة التي أسماها الباحثون “مايسترو” على تحديد مكونات نموذج تعلم الآلة التي لا تساهم في الأداء الكلي للنموذج عبر عملية تسمى التحليل القابل للتدريب. وبعدها يمكن إزالة هذه المكونات لزيادة الكفاءة.

يقول هورفاث في هذا الصدد: “نريد امتلاك قوة النموذج الكبير في حجم جهاز طرفي”.

تعزيز الكفاءة

يوضح هورفاث أن الشبكات العصبونية العميقة التي تعتمد عليها نماذج تعلم الآلة تتكون من طبقات عديدة من العصبونات التي تعالج البيانات، وبعض هذه الطبقات أهم من غيرها. ويضيف قائلاً: “عندما ندرب نموذجاً، غالباً ما نكتشف أن سعة بعض الطبقات، أو ما نسميه بالبعد الداخلي الحقيقي للطبقات، أصغر بكثير من سعتها التصميمية”.

في الدراسة المقدمة في المؤتمر الدولي لتعلم الآلة، سعى هورفاث وزملاؤه إلى تحديد التكرار و”تحليل كل طبقة وجعلها نسخة قليلة الأبعاد” من الطبقة الأصلية، بحيث لا يستخدم النموذج النواحي المكررة.

ويواصل هورفاث كلامه قائلاً: “النموذج الذي نحصل عليه عبر هذه العملية أصغر بكثير، ويعمل بشكل أسرع ويتطلب ذاكرة أقل للتدريب والاستخدام”.

إحدى الفوائد الإضافية هي أن هذه الطريقة تسمح للمستخدمين بتعديل حجم النموذج تبعاً للمهمة والموارد المتاحة. على سبيل المثال، قد يدرب المستخدم النموذج لمهمة معينة خلال فترة زمنية قصيرة مع توفر عدد محدود من وحدات معالجة الرسوميات، وهي نوع من الأجهزة المستخدمة لتدريب الشبكات العصبية. وبما أن مكونات النموذج تُرتب وفقاً لأهميتها، فإن طريقة هورفاث وزملائه تسمح باستبعاد المكونات غير الضرورية لهذه المهمة.

أشار هورفاث وزملاؤه في دراستهم إلى أن طريقة “مايسترو” حققت نتيجة أفضل من طريقة أخرى لزيادة الكفاءة اسمها تحليل القيمة الفردية، حيث أجريت مقارنة بين الطريقتين على بنية شبكة عصبية تُستخدم على نطاق واسع وتعرف باسم المحول، وغالباً ما تستخدم في مهام الرؤية الحاسوبية ومعالجة اللغات الطبيعية.

مع مواصلة العلماء أبحاثهم، يتركز اهتمامهم على دراسة كيفية تطبيق طريقتهم على نماذج لغوية كبيرة بهدف تعزيز كفاءتها لتطبيقات محددة تُعرف بالمهام اللاحقة، حيث يقول هورفاث: “نريد أن نعرف ما إذا كان بإمكاننا إزالة المعلومات المكررة غير الضرورية لمهمة لاحقة. فقد نتمكن من تقليل حجم النموذج بشكل كبير ومن ثم ضبطه بدقة للمهمة”.

أخبار ذات صلة

thumbnail
Thursday, November 14, 2024

نهج جديد لتطوير قدرات الذكاء الاصطناعي في تشخيص الأمراض

مي شعبان، طالبة الدكتوراة في قسم تعلم الآلة بجامعة محمد بن زايد للذكاء الاصطناعي، تعمل على تطوير.....

  1. البيانات ,
  2. MICCAI ,
  3. الرعاية الصحية ,
  4. بحوث الطلاب ,
  5. تعلّم الآلة ,
اقرأ المزيد
thumbnail
Tuesday, November 12, 2024

نظام ذكاء اصطناعي يجمع بين التعلم العميق وخبرة الطبيب للتنبؤ بمآل مرض السرطان

محمد رضوان يشرح كيف يساعد نموذجه التنبئي، HuLP، الأطباء في تقييم كيفية تطور الحالات المرضية بالسرطان لدى.....

  1. بحوث الطلاب ,
  2. تعلّم الآلة ,
  3. الرعاية الصحية ,
  4. MICCAI ,
  5. الرعاية الصحية التنبئية ,
  6. الدكتوراه ,
اقرأ المزيد
thumbnail
Friday, November 01, 2024

نهج جديد للتعلم العميق يساعد في الحصول على نتائج تخطيط صدى القلب بشكل أسرع

علماء من جامعة محمد بن زايد للذكاء الاصطناعي ينجحون في تطوير أسلوب جديد يعتمد على التعلم العميق،.....

  1. المؤتمرات ,
  2. مساعد باحث ,
  3. التعلم العميق ,
  4. MICCAI ,
  5. البحوث ,
  6. الصحة ,
اقرأ المزيد