الحد من انتشار الرسائل المزيفة على WhatsApp

ملخص

WhatsApp هو تطبيق اتصال شائع جدًا يستخدم في جميع أنحاء العالم مع أكثر من مليار مستخدم يستخدمون الخدمة. ومع ذلك ، فقد كان لها نصيبها من المشاكل ، وأهمها القدرة السهلة للغاية على نشر معلومات خاطئة لعدد كبير من الناس بسرعة. علاوة على ذلك ، عندما تروق الرسالة إلى الغرائز العاطفية الأساسية للبشر ، يمكن أن تكون ردود الفعل غير متوقعة. كانت هناك حالات حيث فقد الناس أرواحهم أو تعرضوا للسرقة أو فقدوا المال بسبب الانتشار الفيروسي للمعلومات الكاذبة. في هذه المقالة ، نقدم فكرة تستند إلى مصدر الرسالة لتقليل الرسائل المزيفة. يظهر تحليل بسيط أنه يمكن تقليل انتشار الرسائل المزيفة بنسبة تصل إلى 50٪ -70٪ إن لم يكن أكثر مع هذا الاقتراح. الافتراض الضمني هو أنه عندما يعرف الأشخاص من أين نشأت الرسالة ، سيرفضون إعادة توجيه الرسالة إذا كان المصدر غير جدير بالثقة ، وبالتالي تقليل انتشار الرسائل الزائفة.

عرض المشكلة

يقوم مستخدم ضار بإنشاء رسالة تحتوي على معلومات خاطئة. ثم يعيد توجيه الرسالة إلى عدد قليل من الأشخاص والمجموعات. يقرأ بعض المستخدمين غير المشتبه فيهم الرسالة ، ويفترضون أنها صحيحة ، ثم يعيدون توجيهها إلى مزيد من الأشخاص والمجموعات ، وتستمر هذه الدورة بدون نهاية. إذا كانت الرسالة تروق لقاعدة الغرائز العاطفية ، فيمكن رؤية التأثير في العالم الحقيقي كما هو الحال في أعمال الشغب والقتل والخسائر المالية ، وما إلى ذلك. ما الذي يمكن فعله للتخفيف من مشكلة الانتشار الفيروسي للمعلومات الخاطئة أو القضاء عليها دون التأثير على نشر معلومات حقيقية؟

حوادث المعلومات الفيروسية المزيفة

تم الإبلاغ عن العديد من الحوادث في جميع أنحاء العالم في السنوات الأخيرة من المعلومات المزيفة الفيروسية التي تسببت في الموت والإصابات الخطيرة والخسائر المالية والضغط النفسي للأشخاص الذين وقعوا ضحايا لهذه الحوادث الفيروسية. اتخذ كل من Facebook و Google و Twitter خطوات للتخفيف من انتشار المعلومات الخاطئة ولكن لا يزال هناك الكثير الذي يتعين القيام به قبل أن يتم التحكم في المشكلة حقًا. توفر هذه المقالة حلاً واحدًا للتخفيف من حدة المشكلة.

تشريح رسالة فيروسية

من أجل فهم كيفية انتشار رسالة فيروسية ، يجب أن نتعمق في ظروف وتشريح نقل الرسالة الفيروسية.

يجب أن تحتوي الرسالة الفيروسية على الآلات التالية:

  • رسالة جذابة.
  • جمهور متزايد باستمرار يرغب في إعادة توجيهه أكثر إذا أرادوا ذلك.

من أجل تسهيل إعادة التوجيه ، يجب استيفاء هذه الشروط:

  • جمهور غير محدود متاح
  • التكلفة النقدية للشحن هي صفر
  • إعادة التوجيه إلى مجموعات متعددة وأشخاص ليس مرهقًا

حتى عندما تكون جميع هذه العوامل التمكينية موجودة ، في التحليل النهائي ، فإن الأشخاص هم الذين ينقرون على الزر "إعادة توجيه" لإرسال الرسالة إلى الأمام ، وسيشارك الأشخاص شيئًا إذا شعروا أنه سيكون مفيدًا لشبكتهم أو سيفيدهم شخصيا. لذا فهو قرار شخصي للغاية بشأن ما إذا كان سيتم إعادة توجيه الرسالة أم لا. (كان لدى الهند اليوم تحليل جيد لسبب توجيه الناس للرسالة). ومع ذلك ، قبل إعادة توجيه الرسالة ، يمكن أن يوفر WhatsApp المزيد من البيانات ذات الصلة للمستخدم حتى يتمكن المستخدم من اتخاذ القرار بحكمة.

معالجة المشكلة

يمكن معالجة مشكلة التخفيف من انتشار المعلومات المزيفة بعدة طرق مستقلة:

  • تحكم في مصدر الرسالة
  • التحكم في محتوى الرسالة
  • السيطرة على انتشار الرسالة

التحكم في مصدر الرسالة: نظرًا لأن المرء لا يستطيع حقًا حظر المستخدمين على WhatsApp ، فهذا ليس خيارًا حقًا. ومع ذلك ، سيكون هذا مفيدًا على منصات Facebook و Twitter ، وفي الواقع يتم تطبيق هذا الحل لتطهير منصة الجهات السيئة.

التحكم في محتوى الرسالة: يتطلب ذلك حلولاً تقنية معقدة. على وجه الخصوص ، يجب على WhatsApp نشر خوارزميات التعلم الآلي لقراءة الرسائل ووضع علامة عليها لمحتوى مزيف. ومع ذلك ، من الصعب تحديد ما هو مزيف تلقائيًا ولا يزال البحث في هذا الأمر في مرحلة مبكرة جدًا. لذا فإن هذا الحل يتجاوز الأفق الآن.

التحكم في انتشار الرسالة: نفذ WhatsApp بعض عناصر التحكم في انتشار الرسائل إلى 5 مجموعات / محادثات في كل مرة. نظرًا لأن المجموعة يمكن أن تحتوي على 256 مستخدمًا ، فلا يزال بإمكان الرسالة الوصول إلى 1280 مستخدمًا في خطوة واحدة ، ويمكن لكل مستخدم إعادة توجيهها إلى 1280 مستخدمًا إضافيًا. في الواقع ، لا يزال هناك عدد كبير جدًا من المستخدمين. سأصنف هذا ليكون طريقة القوة الغاشمة للحد من انتشار.

هل يمكن للمرء أن يفعل أفضل؟ هل هناك حلول أخرى؟ بالتأكيد ، إنهم كذلك.

يوفر الاتحاد الدولي لجمعيات المكتبات ومؤسساتها (IFLA) هذا الملصق المفيد للكشف عن الأخبار المزيفة ، ويمكن تعميم ذلك لتحديد المعلومات المزيفة أيضًا.

تفتقر كل رسالة مُعاد توجيهها إلى WhatsApp إلى معلومات مهمة - أي من كان المؤلف الأصلي؟ متى تم إنشاء الرسالة؟ نتيجة لذلك ، يتعذر على المستلم التحقق من الحقيقة وليس لديه طريقة لمعرفة ما إذا كانت صالحة أم لا. هو / هي يثق في أنها صالحة لأن صديقهم أرسلها ، وهنا يكمن جوهر المشكلة. إذا كانت هناك طريقة ما لوضع علامة على الرسالة بمعلومات المؤلف الأصلي والحفاظ على استمرارها بغض النظر عن عدد مرات إعادة توجيه الرسالة ، فيمكن لكل مستلم أن يحكم بنفسه إذا كان يمكن الوثوق بالمؤلف الأصلي لإعادة توجيه الرسالة بشكل أكبر. بعبارة أخرى ، هذه طريقة من مصادر جماعية للتحكم في انتشار المعلومات المزيفة. سيضمن كل شخص يرفض إعادة التوجيه عدم تلقي 1280 شخصًا (وأكثر) من المصب للرسائل. فقط المعلومات التي فحصها الناس ستصل إلى أوسع مجموعة من السكان.

الصورة على اليسار هي رسالة إعادة توجيه WhatsApp الحالية (اعتبارًا من فبراير 2019). الصورة على اليمين هي البنية الجديدة المقترحة لرسالة WhatsApp التي تعرض اسم ملف تعريف المرسل الأصلي ورقم الهاتف وتاريخ الإنشاء وعدد المهاجمين وأيقونة التحقق من النشاط التجاري.

الصورة على اليسار هي رسالة إعادة توجيه WhatsApp الحالية (اعتبارًا من 2019). الصورة على اليمين هي بنية رسالة WhatsApp المعاد توجيهها الجديدة التي أقترحها. قد يظهر الرمز التالي في الرسالة

إذا كان المرسل الأصلي كيانًا تجاريًا (على سبيل المثال ، البنوك ، الوكالات الحكومية ، الشركات المسجلة) تم التحقق منه بواسطة WhatsApp. تظهر هذه الأيقونة حاليًا في WhatsApp في اسم ملف تعريف المستخدم ولكنها تُفقد عند إعادة توجيه الرسالة. تؤدي إضافة هذا الرمز إلى الرسائل المعاد توجيهها إلى تعزيز الثقة في الرسالة.

تحتوي رسالة WhatsApp الجديدة المقترحة على عدد من المزايا:

  • نظرًا لأن اسم الملف الشخصي ورقمه متاحان ، يمكن للمستلمين اتخاذ قرار سريعًا لتحديد ما إذا كانوا جديرين بالثقة.
  • نظرًا لأنه سيتم إرسال اسم الملف الشخصي ورقمه ، فإنه سيكون بمثابة رادع للمستخدمين الضارين - نظرًا لأنه يمكن تتبعهم بسهولة إذا تسببوا في حدوث أذى.
  • نظرًا لأن رمز التحقق من النشاط التجاري متاح ، سيكون من السهل على المستلمين الثقة في أن المرسل الأصلي كان نشاطًا تجاريًا مشروعًا.
  • نظرًا لأن اسم ورقم الملف الشخصي متاحان ، يمكن للمستلمين التحقق بسهولة مما إذا كانت الرسائل قد نشأت خارج البلد ولا تقع فريسة للمحتالين في الخارج.
  • نظرًا لأن التاريخ متاح ، يمكن للمستلمين تحديد ما إذا كانت معلومات قديمة ويقررون عدم التصرف بناءً عليه.
  • نظرًا لأن عدد عمليات إعادة التوجيه متاحة ، يمكن للمستخدمين تحديد عدد المستلمين الآخرين الذين قرأوا الرسالة ، وشعروا بأنها جديرة بالثقة ، ثم أعادوا توجيهها. لذا كلما كان العدد الأمامي أكبر ، كلما كان أكثر جدارة بالثقة.

تشمل العيوب ما يلي:

  • قد لا يتمكن المستلمون من تحديد ما إذا كان المرسل الأصلي جديرًا بالثقة أم لا بمجرد النظر إلى اسمه ورقم هاتفه. لذا سيستمر بعض عدد المستلمين في إعادة التوجيه كالمعتاد. ومع ذلك ، عندما يرى الأشخاص أرقام هواتف غير معروفة ، فإنهم عادة ما يترددون في إعادة التوجيه.
  • يمكن أن تتأثر خصوصية المستخدم عندما تنتشر الرسالة لأن رسالة WhatsApp الجديدة ستعرض معلومات المؤلف الأصلي. إحدى طرق مواجهة ذلك هي أن يقدم WhatsApp خيارًا لتعطيل إعادة توجيه الرسائل بشكل افتراضي وإعطاء خيار لتمكينه على أساس كل رسالة. يمكن لمستخدمي WhatsApp استخدام هذا الخيار لمنع إعادة توجيه رسائلهم وبشكل افتراضي ، إعادة التوجيه متوقفة. إذا اختار المستخدمون السماح بإعادة توجيه رسالتهم لرسالة معينة ، فإنهم يقبلون أيضًا المساءلة التي تأتي معها. ما لم يقبل المستخدمون المسؤولية عن رسائلهم ، لن تصبح وسائل التواصل الاجتماعي مكانًا أكثر أمانًا.

اسمحوا لي أن أشرح بمثال على عمليات الاحتيال المالية. لنفترض أنك تلقيت رسالة WhatsApp تطلب منك الاتصال بمركز خدمة عملاء البنك لإعادة تعيين كلمة مرور حسابك المصرفي بسبب خرق للأمن. في قلقك ، اتصل بالرقم. من المؤكد أنها مزيفة. في الواقع ، أنت تتصل بمركز خدمة عملاء مزيف مهمته الرئيسية الحصول على رقم الحساب وكلمة المرور منك. بعد بضعة أيام ، تجد أنه قد تم مسح حسابك المصرفي فارغًا.

إذا كانت رسالة WhatsApp تحتوي على معلومات ملف تعريف المرسل الأصلية للبنك وأيقونة الأعمال التي تم التحقق منها ، فستعزز الثقة في الرسالة. لن تحتوي الرسائل المزيفة على رمز الأعمال هذا الذي تم التحقق منه. سيتعرف بعض المستلمين الآن على الرسائل المزيفة ولن يُخدعوا في اتخاذ أي إجراء. ومع ذلك ، إذا تم خداع بعض المستلمين لاتخاذ إجراء ، فإن لديهم الآن علاجًا. نظرًا لأن رقم هاتف المرسل الأصلي متاح ، يمكن للشرطة تعقب الشخص بسرعة واتخاذ إجراء. في كلتا الحالتين ، تكون النتيجة جيدة وهذا سيخفف من عمليات الاحتيال المالي.

تحليل

إذن ، إلى أي مدى يمكن التحكم في السبريد بهذه الطريقة؟ دعونا نقوم بتحليل رياضي بسيط.

من أجل البساطة ، دعنا نفترض أنه في كل مرة يتم فيها إعادة توجيه الرسالة ، ستصل إلى n أشخاص ، حيث n هو عدد أقل من 1280. لذلك بعد 3 إلى الأمام ، فإن عدد الأشخاص الذين ستصل إليهم n³ ، بعد 4 إلى الأمام ، سيكون n⁴ ، بعد 5 إلى الأمام ، سيكون n⁵ وهكذا.

نظرًا لأننا لا نعرف على وجه اليقين عدد الأشخاص الذين سيرفضون إعادة التوجيه بعد الاطلاع على معلومات المرسل الأصلي ، فلنستخدم مبدأ 80-20 المعروف جيدًا - أي أن 80٪ من الأشخاص سيستمرون في التقدم كما كان من قبل ، ومجرد 20٪ سيرفضون التقدم. إذا قمنا بالتحليل مرة أخرى ، فبعد 3 مهاجمين ، فإن عدد الأشخاص الذين سيصلون إليهم هو .8³ * n³ = 0.51 * n³. وبعبارة أخرى ، في 3 مهاجمين فقط ، سيتم احتواء ما يقرب من 50 ٪ من الفارق. بعد 4 مهاجمين ، سيكون 0.8⁴ * n⁴ = 0.4 * n⁴ (أو تخفيض 60٪) ، وبعد 5 جولات ، سيكون 0.8⁵ * n⁵ = 0.32 * n⁵ (أو حوالي 68٪ تخفيض).

هذا انخفاض كبير في انتشار الرسائل المزيفة مع هذا التحسين البسيط! ولا نأخذ حتى في الاعتبار التأثير الرادع لمشاركة معلومات الملف الشخصي للمرسل الأصلي.

ما هو المصدر ولماذا هو مهم

تعتبر المعلومات حول المصدر الأصلي في غاية الأهمية وهي جزء من ما يعرف بـ Provenance. لقد لعبت دورًا أساسيًا في العديد من المجالات عبر القرون - من تجارة الماس ، وإمدادات الغذاء ، والفنون والتحف ، إلى معالجة المعاملات الحديثة ، والخدمات المصرفية ، وحتى blockchain. حقيقة الأمر هي أنه إذا كان المصدر مجهولًا أو سيئًا أو فاسدًا ، فستكون له آثار في المصب. هذا هو السبب في وجود تفويضات KYC (اعرف عميلك).

في سياق وسائل التواصل الاجتماعي ، يتم كسر بعض المبادئ الأساسية للمصدر ومن ثم الفوضى في كل مكان. على سبيل المثال ، إذا كان بإمكانك إعادة توجيه الرسائل بشكل مجهول الهوية ، فإن نتائج الخراب (كما هو الحال في عنف الغوغاء بسبب رسائل وهمية من WhatsApp الفيروسية ، أو التلاعب بالانتخابات في حالة Facebook و Twitter).

بإضافة معلومات المصدر - أي الاسم ورقم الهاتف وتاريخ الإنشاء - سيتم ردع المستخدمين الضارين في نشر معلومات كاذبة. نظرًا لأن رمز الأعمال الذي تم التحقق منه موجود في حالة الرسائل الواردة من مؤسسات أصلية ، فلن يتم إعاقة انتشار المعلومات الأصلية على WhatsApp.

التصميم

يتناول هذا القسم جوانب التنفيذ وهو موجه لمهندسي الكمبيوتر. يمكن للقراء الآخرين تخطي هذا القسم بأمان.

إنه تغيير تصميم صغير لتطبيق WhatsApp لتنفيذ هذه التغييرات. من أجل جعل معلومات المرسل الأصلي ثابتة عبر أي عدد من عمليات إعادة التوجيه ، سيتعين على WhatsApp إضافة قسم جديد في تنسيق الرسالة الداخلية لحفظ معلومات ملف تعريف المستخدم الأصلي ، مثل رقم الهاتف والاسم والتاريخ وعلامة للإشارة ما إذا كان المستخدم قد سمح بإعادة توجيه الرسالة. يعد العلم مهمًا لمنح التحكم للمرسل الأصلي القدرة على التحكم في انتشار الرسالة من قبل المستلمين.

في المرة الأولى التي يتم فيها إرسال الرسالة ، يجب حفظ هذه المعلومات في القسم الدائم وعرضها على المستلمين في كل مرة. إذا قام المستند الأصلي بتعيين العلامة لمنع إعادة التوجيه ، فلن يتمكن المستلمون من إعادة توجيه الرسالة بعد الآن. من ناحية أخرى ، تسمح العلامة الأصلية بإعادة التوجيه ، ثم سيرى كل مستلم معلومات الملف الشخصي للمرسل الأصلي.

تعد إضافة إجمالي عدد عمليات إعادة التوجيه إلى الرسالة أكثر تعقيدًا بعض الشيء لأنها تتطلب من عميل WhatsApp الاتصال بخادم مركزي لتحديث عدد إعادة التوجيه في كل مرة يتم إعادة توجيهها. هناك العديد من الحلول القابلة للتطوير بدرجة كبيرة (مثل Redis) لتنفيذ عداد إعادة توجيه رسالة بسيط لمعرف رسالة معين.

وعموما ، فإن تعقيد الجهد المبذول لتنفيذ هذه التغييرات المقترحة هو الحد الأدنى إلى حد ما. في تقديري ، سيستغرق فريق WhatsApp أقل من شهر واحد لتنفيذ هذه التغييرات ونشرها.

الاستنتاجات والخطوات التالية

في هذه المقالة ، قدمت تحسينًا بسيطًا لرسائل WhatsApp يمكنها التحكم في انتشار المعلومات المزيفة بنسبة تصل إلى 50٪ -70٪ إن لم يكن أكثر. بالإضافة إلى ذلك ، فإن الاقتراح رادع أيضًا للمستخدمين المحتملين. الاقتراح نفسه بسيط للغاية ويمكن تنفيذه في أقل من شهر بواسطة WhatsApp.

بالنظر إلى أن انتشار المعلومات المزيفة منتشر مع عواقب وخيمة على الناس والبلدان ، يجب على شركات التكنولوجيا تسريع جهودها وأخذ الأفكار أينما أتوا. تتدخل الحكومات بالفعل لاحتواء هذه المشكلة ويمكن ملاحظة الحاجة الملحة لحل المشكلة في افتتاحية صحيفة واشنطن بوست.

أتمنى أن ينظر فريق WhatsApp في هذه الفكرة ويتم تنفيذها بشكل مناسب بناءً على بيانات الاستخدام الإضافية التي لديهم داخليًا. ستجرى انتخابات الهند في مايو 2019. سيكون من الجيد رؤية حل يخفف من انتشار المعلومات الخاطئة بحلول وقت الانتخابات. أفضل جزء هو أن الحل سيوفر العديد من الأرواح لسنوات قادمة ويجعل WhatsApp منصة أكثر أمانًا.

ملاحظة: إذا كنت تعرف أي شخص في فريق WhatsApp ، فيرجى مشاركة هذه المقالة معهم.