هل يمكن لعمليات التحقق الجماعية من الحقائق الحد من المعلومات المضللة على وسائل التواصل الاجتماعي؟

بقلم بريسلاف ناكوف، أستاذ ورئيس قسم معالجة اللغة الطبيعية في جامعة محمد بن زايد للذكاء الاصطناعي.

في عام 2019، ألقى مارك زوكربيرغ خطاباً شهيراً في جامعة جورجتاون أعلن فيه أنه لا يريد لمنصة فيسبوك أن تكون “حَكَماً للحقيقة”. ومع ذلك، استخدمت شركته “ميتا” خلال السنوات الماضية عدة أساليب للإشراف على المحتوى ورصد المنشورات المضللة عبر منصات التواصل الاجتماعي التابعة لها، بما في ذلك فيسبوك وإنستغرام وثريدز. وشملت هذه الأساليب مرشحات آلية لرصد المحتوى غير القانوني والضار، إلى جانب الاستعانة بمدققي حقائق خارجيين للتحقق يدوياً من صحة الادعاءات الواردة في بعض المنشورات.

وأوضح زوكربيرغ أن “ميتا” استثمرت جهوداً كبيرة في تطوير “أنظمة معقدة للإشراف على المحتوى”، إلا أن هذه الأنظمة ارتكبت على مر السنين أخطاء كثيرة، مما أدى إلى “رقابة مُفرطة”. لذلك أعلنت الشركة إنهاء برنامجها الخاص بمدققي الحقائق الخارجيين في الولايات المتحدة الأمريكية، واستبداله بنظام يُعرف باسم “ملاحظات المجتمع” ويعتمد على المستخدمين للإبلاغ عن المحتوى الكاذب أو المضلل وإضافة سياق توضيحي له.

ورغم أن نظام “ملاحظات المجتمع” يمكن أن يكون فعالاً للغاية، فإن الجمع بين عدة أساليب مختلفة قد يكون مفيداً أكثر في مسألة الإشراف على المحتوى. وبصفتي أستاذاً في قسم معالجة اللغة الطبيعية في جامعة محمد بن زايد للذكاء الاصطناعي، فقد أمضيت معظم مسيرتي المهنية في دراسة التضليل الإعلامي والدعاية والأخبار الزائفة على الإنترنت. لذلك كان من أول الأسئلة التي طرحتها على نفسي هو: هل سيؤدي استبدال مدققي الحقائق البشريين بنظام “ملاحظات المجتمع” القائم على مساهمات المستخدمين إلى آثار سلبية على المستخدمين؟

قوة التحقق الجماعي

بدأ نظام “ملاحظات المجتمع” على منصة تويتر تحت اسم “بيرد ووتش” (Birdwatch). وهي ميزة تتيح للمستخدمين إضافة سياق وتوضيح إلى التغريدات التي يرون أنها كاذبة أو مضللة. وتظل هذه الملاحظات مخفية إلى أن تصل تقييمات المستخدمين إلى حالة من الإجماع، أي عندما يتفق أشخاص من خلفيات ووجهات نظر سياسية مختلفة على أن منشوراً معيناً مضلل. وهناك خوارزمية تحدد ما إذا كان مستوى الإجماع المطلوب قد تحقق، وعندها تظهر الملاحظة بشكل علني أسفل التغريدة المعنية مضيفةً سياقاً يساعد المستخدمين على تكوين أحكام أكثر وعياً بشأن محتواها.

يبدو أن نظام “ملاحظات المجتمع” يحقق نتائج جيدة إلى حد كبير. فقد توصل فريق من الباحثين من جامعة إلينوي في أوربانا-شامبين وجامعة روتشستر إلى أن نظام “ملاحظات المجتمع” على منصة “إكس” يمكن أن يحد من انتشار المعلومات المضللة، بل ويدفع بعض المستخدمين إلى حذف منشوراتهم بأنفسهم. وتتبع فيسبوك اليوم إلى حد كبير نفس النهج المستخدم على منصة “إكس”.

بعد سنوات من دراسة الإشراف على المحتوى والكتابة عنه، من الجيد أن نرى شركة كبرى أخرى في مجال وسائل التواصل الاجتماعي تعتمد على مساهمات المستخدمين في الإشراف على المحتوى. وإذا نجح هذا النهج مع “ميتا”، فقد يشكل تحولاً حقيقياً بالنسبة إلى أكثر من ثلاثة مليارات شخص يستخدمون منتجات الشركة يومياً.

ومع ذلك، يظل الإشراف على المحتوى مسألة معقدة. فلا يوجد حل واحد يناسب جميع الحالات. ولا يمكن مواجهة هذا التحدي إلا من خلال توظيف مجموعة متنوعة من الأدوات تشمل مدققي الحقائق البشريين ومساهمات المستخدمين والخوارزميات. فكل واحدة من هذه الأدوات تناسب نوعية معينة من المحتوى، كما ينبغي أن تعمل جميعها معاً بصورة تكاملية.

الرسائل المزعجة وسلامة النماذج اللغوية الكبيرة

هناك سوابق في التعامل مع مشكلات مشابهة يمكن الاستفادة منها. فقبل عقود، كانت الرسائل الإلكترونية المزعجة تمثل مشكلة أكبر بكثير مما هي اليوم. وقد نجحنا إلى حد كبير في التغلب عليها بفضل الأساليب القائمة على مساهمات المستخدمين، حيث أتاح مقدمو خدمات البريد الإلكتروني أدوات تمكّن المستخدمين من الإبلاغ عن الرسائل المزعجة. وكلما انتشرت رسالة مزعجة على نطاق أوسع، ازداد احتمال اكتشافها نتيجة قيام عدد أكبر من المستخدمين بالإبلاغ عنها.

وهناك مقارنة مفيدة أخرى تتمثل في طريقة تعامل النماذج اللغوية الكبيرة مع المحتوى الضار. ففي حالة الاستفسار عن معلومات خطيرة مرتبطة بالأسلحة أو العنف، ترفض العديد من هذه النماذج إعطاء إجابة. وفي أحيان أخرى، تضيف هذه الأنظمة إخلاء مسؤولية إلى مخرجاتها، كما يحدث عندما يُطلب منها تقديم نصائح طبية أو قانونية أو مالية. هذا النهج المتدرج هو أحد الموضوعات التي تناولتها مع زملائي في جامعة محمد بن زايد للذكاء الاصطناعي في دراسة حديثة اقترحنا فيها هيكلاً تدريجياً لأساليب استجابة النماذج اللغوية الكبيرة لأنواع مختلفة من الاستفسارات عن معلومات قد تكون ضارة. وبالمثل، يمكن لمنصات التواصل الاجتماعي الاستفادة من أساليب متنوعة للإشراف على المحتوى.

فيمكن استخدام المرشحات الآلية لتحديد أكثر المعلومات خطورة ومنع المستخدمين من الاطلاع عليها أو تبادلها. وتمتاز هذه الأنظمة بالسرعة، لكنها لا تصلح إلا لأنواع معينة من المحتوى نظراً لعدم قدرتها على فهم الدلالات الدقيقة التي تتطلبها معظم عمليات الإشراف على المحتوى.

أما الأساليب القائمة على مساهمات المستخدمين، مثل نظام “ملاحظات المجتمع”، فيمكنها رصد المحتوى الذي قد يكون ضاراً بالاعتماد على معرفة المستخدمين وخبراتهم. وهي أبطأ من الأنظمة الآلية، لكنها أسرع من مدققي الحقائق المحترفين.

ويستغرق مدققو الحقائق المحترفون وقتاً أطول في أداء عملهم، إلا أن التحليلات التي يقدمونها تتميز بعمق أكبر من ملاحظات المجتمع، التي تقتصر على 500 حرف فقط. وعادةً ما يعمل مدققو الحقائق ضمن فرق تستفيد من معارفهم المشتركة، كما أنهم غالباً ما يكونون مدربين على تحليل البنية المنطقية للحجج ورصد الأساليب البلاغية المستخدمة كثيراً في حملات المعلومات المضللة والتضليل الإعلامي. ولكن عمل مدققي الحقائق المحترفين لا يمكن توسيعه بالسهولة نفسها التي تتيحها “ملاحظات المجتمع”. ولهذا السبب، تحقق هذه الأساليب الثلاثة أفضل النتائج عندما تُستخدم معاً بصورة تكاملية.

في الواقع، أظهرت إحدى الدراسات أن نظام “ملاحظات المجتمع” يمكن أن يعزز أثر عمل مدققي الحقائق عبر إيصال نتائجه إلى عدد أكبر من المستخدمين. كما توصلت دراسة أخرى إلى أن نظام “ملاحظات المجتمع” وعمليات التحقق من الحقائق متكاملان فيما بينهما، لأن كل واحد منهما يركز على أنواع مختلفة من الحسابات، حيث يميل نظام “ملاحظات المجتمع” إلى تحليل منشورات الحسابات الكبيرة ذات التأثير الاجتماعي الواسع. ولكن عندما يحلل نظام “ملاحظات المجتمع” ومدققو الحقائق المنشورات نفسها، فإن تقييماتهم تكون متقاربة إلى حد كبير. كما أظهرت دراسة أخرى أن الإشراف الجماعي على المحتوى يستفيد بدوره من نتائج عمل مدققي الحقائق المحترفين.

المسار المستقبلي

يُعد الإشراف على المحتوى في جوهره مهمة صعبة جداً، لأنه يرتبط بكيفية تحديدنا للحقيقة، وهي مسألة ما زالت محاطة بالكثير من الغموض. وحتى الإجماع العلمي الذي يتشكل عبر سنوات طويلة من العمل البحثي في تخصصات علمية كاملة قد يتغير مع مرور الوقت.

ولكن لا ينبغي للمنصات أن تنسحب بالكامل من مهمة الإشراف على المحتوى، كما لا ينبغي لها أن تعتمد بصورة مفرطة على أسلوب واحد فقط، بل يجب عليها أن تواصل التجريب، وأن تتعلم من إخفاقاتها، وأن تعمل باستمرار على تطوير استراتيجياتها وتحسينها. وكما يُقال: إن الفرق بين الناجحين والفاشلين هو أن الناجحين أخفقوا مرات أكثر مما حاول الآخرون أساساً.

 نُشر هذا المقال لأول مرة في مجلة “MIT Technology Review“.