حماية أنظمة التصوير الطبي العاملة بالذكاء الاصطناعي

تتمثل إحدى وعود الذكاء الاصطناعي بإمكانية الاستفادة من كميات البيانات الضخمة المتوفرة من أجل تحقيق قيمة كبيرة لم يتم اكتشافها بعد. وفي سياق الرعاية الصحية، يَعِد الذكاء الاصطناعي بتحسين الكفاءة والصحة والمعلومات لدى المرضى وفرق العلاج والمستشفيات وشركات التأمين. غير أن هذا الوعد لا يتحقق إلا بثمن.

يجب حماية هذه البيانات الضرورية لتحقيق المكاسب المرغوبة في الصحة والكفاءة. ولا شك في أن المشرعين حول العالم هم على دراية بذلك، وقد نتجت عن هذا الواقع قوانين متعددة مثل قانون نقل التأمين الصحي والمساءلة (HIPAA) والنظام الأوروبي العام لحماية البيانات (GDPR). وغالباً ما تفشل مشاريع الذكاء الاصطناعي في مجال الصحة عند محاولتها الالتزام بمتطلبات الأمن وحماية الخصوصية الصارمة، إذ تميل أنظمة الذكاء الاصطناعي إلى أن تكون غامضة بعض الشيء وقد لا تتمتع دائمًا بالمتانة الكافية لصد الهجمات ومحاولات القرصنة.

ويهدف فريق جامعة محمد بن زايد للذكاء الاصطناعي، الذي يضم الأستاذين المشاركين في قسم الرؤية الحاسوبية كارثيك نانداكومار ومحمد يعقوب، ومساعد الأبحاث فارس المالك، إلى معالجة المخاوف الأمنية المتعلقة بأنظمة الرؤية الحاسوبية وطريقة قراءة الصور الطبية وتفسيرها وإعداد التقارير حولها.

في هذا السياق، سعى فريق من الباحثين من جامعة محمد بن زايد للذكاء الاصطناعي، بقيادة الهيئة التدريسية في الجامعة، إلى معالجة المخاوف المتعلقة بأنظمة الرؤية الحاسوبية وكيفية قراءتها للصور الطبية وتفسيرها ورفع التقارير عنها. يحمل بحثهم عنوان محوّلات الرؤية ذاتية التجميع لتحقيق تصنيف متين للصور الطبية (نُشر في المؤتمر الدولي لحوسبة التصوير الطبي والتدخل المدعوم بالحاسوب) وهو يساهم في إثبات أن أنظمة التصوير باستخدام الذكاء الاصطناعي هي آمنة ومتينة. ويهدف الباحثون من خلال عملهم إلى حماية خصوصية المرضى وإخفاء هويتهم، مع الحفاظ في الوقت نفسه على صحة النتائج، كي تحقق ثورة الذكاء الاصطناعي في مجال الصحة تقدماً.

التوقف أو متابعة السير؟

لنتخيل مثلاً أننا نصمم نظاماً للرؤية الحاسوبية سيُستخدم في سيارة ذاتية القيادة. أظهر فريق من العلماء في ورقة بحثية نُشرت مؤخراً أنه يمكن خداع أنظمة الرؤية كي “ترى” إشارة توقف، ومن خلال إضافة تشويش بصري، كي تفسر هذه الإشارة على أنها إشارة لإفساح المجال لسائقين آخرين أو إشارة تحدد السرعة القصوى.

ويبرهن عملهم كيف يمكن عرقلة عمل الأنظمة المعقدة للغاية باستخدام وسائل بسيطة ومنخفضة التكلفة، ما قد يؤدي إلى عواقب مميتة. السؤال الذي يُطرح هنا هو: من يرغب في عرقلة عمل السيارات ذاتية القيادة كي لا تتوقف عند إشارة التوقف؟ بالطبع، يبقى احتمال حدوث هذا الخطر ضئيلاً، بالرغم من أن النتائج الممكنة وخيمة. ولكن إذا طبقنا هذه الفكرة على قطاع الرعاية الصحية، يصبح مستوى الخطر أعلى بكثير، إذ قد يتضرر المرضى أو يتخذ الأطباء قرارات استناداً إلى معلومات خاطئة أو قد ترتفع نسبة حالات الاحتيال لدى شركات التأمين.

انطلاقاً من هذا المفهوم، سعى فريق جامعة محمد بن زايد للذكاء الاصطناعي إلى معالجة تحدي الهجمات التي قد تطال أنظمة التصوير الطبي. فإذا تعرض نظام للتصوير الطبي إلى القرصنة، قد يسيء تفسير صورة بالأشعة السينية للصدر، ما يؤدي بالتالي إلى عواقب مميتة وباهظة الثمن. بالإضافة إلى ذلك، قد يرى بعض القراصنة عديمو الأخلاق في الاستيلاء على هذه الأنظمة فرصة للحصول على فدية وكسب مبالغ كبيرة.

ومن هنا يتضح سبب إصدار هذا الكم الكبير من التشريعات والقوانين لتنظيم قطاع الرعاية الصحية حول العالم، سعياً، من جملة أمور أخرى، لتجنب حصول هذا السيناريو. وتفسر الحماية من هذه المخاطر أيضاً صعوبة تطوير هذه الأنظمة وتطبيقها كما ذكرنا، بالرغم من كونها أساسية.

فهم الرؤية الحاسوبية

يشكل تنظير قاع العين الوسيلة الوحيدة المتوفرة لفحص الشرايين والأوردة والجهاز العصبي المركزي لدى مريض حي وغير متضرر. وتساهم قراءة النتائج البصرية بدقة في اكتشاف مجموعة كبيرة من المعلومات القيمة حول صحة المريض، مثل إصابته بالتهاب القلب أو فقر الدم أو داء السكري أو سرطان الدم أو نزيف، وما إلى ذلك. ونظراً لأهمية تنظير قاع العين، يضيف استخدام الذكاء الاصطناعي لدعم خبراء العلاج والمرضى قيمة كبيرة، وهي قيمة يرغب فريق البحث استكشافها.

يقترح الفريق في الورقة البحثة طريقة جديدة للتجيمع الذاتي بهدف تعزيز متانة محوّلات الرؤية والشبكات العصبية الترشيحية، وهما تقنيتان متنافستان للرؤية الحاسوبية، ويستخدمون هذه الطريقة لإنجاز مهام رؤية حاسوبية متعددة في مجال التصوير الطبي مثل التصنيف والتقسيم. ولقد تبين أن تقنيتَي محوّلات الرؤية والشبكات العصبية الترشيحية عرضة للهجمات العدائية، ما يثير مخاوف جدية حول الأمن والسلامة عند استخدامهما في السياق الطبي.

استجابة لهذا التحدي، يقترح الفريق استخدام تقنية محوّلات الرؤية ذاتية التجميع، التي تستفيد من أن تمثيلات الخصائص التي تتعلمها الكتل الأولية في محوّلات الرؤية لا تتأثر نسبياً بالتشويشات العدائية. ومن شأن تعلم مصنِّفات متعددة استناداً إلى تمثيلات الخصائص الوسيطة هذه، وجمع هذه التنبؤات مع تصنيف محوّلات الرؤية النهائي، أن يعزز المتانة للصمود في وجه الهجمات العدائية. كما يمكن أن يساعد قياس الاتساق بين مختلف التنبؤات في اكتشاف العينات العدائية. لقد برهنت التجارب التي أُجريت في مجالَين (التصوير بالأشعة السينية وتنظير قاع العين) فاعلية هيكلية محوّلات الرؤية ذاتية التجميع في الدفاع عن الأنظمة في وجه مختلف الهجمات العدائية في ظرف الصندوق الرمادي (أي عندما يمتلك مرتكب الهجوم معرفة كاملة بالنموذج المستهدف ولكن ليس بآلية الدفاع). الرمز: https://github.com/faresmalik/SEViT