خبير ذكاء اصطناعى: «الخوارزميات» يمكنها ضبط المحتوى لكن الشركات تغض الطرف
مسئولة بـ«التيك توك»: استثمرنا فى أدوات تجعل الآباء شركاء فى مراقبة المحتوى
خبير قانونى: لا بديل عن «الرقابة المجتمعية».. والقوانين الرقمية يسهل العثور على ثغرات بها
أثناء مروره مصادفة فى الشارع، لم يتحمل قلب الطفل اللبنانى محمد إسطنبولي، صاحب الستة أعوام، مشاهد مرعبة كان يصورها مجموعة من الشباب لعرضها على تطبيق «تيك توك»، فتوقف قلبه الصغير عن العمل، لتثير تلك الواقعة التى هزت الرأى العام اللبنانى فى مايو الماضي، تساؤلات حول مصير أقران إسطنبولى من الأطفال ممن يذهبون بإرادتهم إلى تطبيقات مواقع التواصل الاجتماعي، ليتعرضوا إلى مضامين لا تتوافق مع أعمارهم.
ونظريا، لا يحق لمن هم فى سن الطفل إسطنبولى، تدشين حساب على مواقع التواصل الاجتماعي، ولكن عمليا، كما كشفت معايشة قامت بها «الأخبار»، فإن الأمر لا يكلف الطفل أو من يساعده فى إنشاء الحساب، سوى ذكر عمر مغاير للواقع، حتى تقبله إدارة تلك المواقع عضوا على منصاتها.
تشير معايير الحد الأدنى للسن المسموح بها فى تطبيق «التيك توك»، إلى أنه يجب أن يكون عمر الطفل 13 عاما، ولكن كما تقول رغداء العزب، رئيس قسم الاتصالات فى «التيك توك» بالشرق الأوسط وشمال إفريقيا لـ «الأخبار»، فإنه تنفيذا لمواد فى القوانين المحلية تم رفع السن فى دول أخرى مثل كوريا الجنوبية وأندونيسيا إلى 14 عاما، ولكن، وفقا للموقع الإلكترونى للتطبيق، فإنه حتى تستطيع أن تحقق أرباحا من خلال فيديوهات الموقع، يجب أن يكون عمرك 19 عاما فى كوريا، و20 عاما فى اليابان، و21 عاما فى مصر، و18 عاما فى الدول الأخرى.. وسن 13 عاما، هو العمر الذى تشترطه أيضا منصات «الفيسبوك» و»انستغرام» و»يوتيوب»، إذ تلتزم تلك المواقع، بالقانون الأمريكى الصادر عام 1998، والمعروف باسم قانون حماية خصوصية الأطفال على الإنترنت «COPPA»، والذى يحدد سن تعامل الطفل مع الإنترنت بـ 13 عاما، بينما يمكن للأطفال الأقل عمرا استخدام «يوتيوب كيدز» تحت إشراف أحد الوالدين أو الوصى القانوني.
شروط خارج إطار التطبيق
والمفارقة التى يقر بها كل المتخصصين، هى أن تلك الشروط التى وضعتها تلك المنصات، لا تجد مجالا للتطبيق على أرض الواقع، ليس بسبب عدم وجود آليات «عملية» تسمح بتطبيقها، ولكن لأن تلك المنصات غير جادة فى التطبيق، كما توضح جينيفر كينج، المتخصصة فى الخصوصية والبيانات بمعهد ستانفورد للذكاء الاصطناعي.
وتقول كينج لـ «الأخبار» إن الهدف من قانون حماية خصوصية الأطفال على الإنترنت هو منع المنصات عبر الإنترنت من جمع البيانات الشخصية للأطفال دون سن 13 عاما، حتى لا يتم استهدافهم بالإعلانات.. ويرى كثيرون، ومنهم كينج، أن سن 13 عاما كان يناسب فترة التسعينيات حيث صدر القانون، وقت أن كانت أنواع الإعلانات بدائية للغاية.. ولكن كينج، تعترف أنه بينما تطالب وغيرها من المتخصصين برفع السن، فإن الأمر لا يعدو أن يكون شكليا، لسبب بسيط وهو أنه يمكن تدشين حساب فى أى منصة بمجرد كتابة سن مخالفة للحقيقة.
وتقول: إذا ألزمنا الفيس بوك وانستغرام ويوتيوب بمعايير سن مختلفة تفوق الـ13 عاما، فستظل المشكلة فى عدم وجود رغبة حقيقية لدى هذه المنصات فى تنفيذ القانون عمليا، وسيقتصر الأمر على وضع تعليمات فى شروط الاستخدام تتهرب بها الشركات من أى مسئولية قانونية.. وتضيف: هذا يعنى أن الأطفال فى جميع أنحاء العالم يمكنهم الظهور فى تلك المنصات بأعمار مخالفة للحقيقة، بينما خوارزميات الذكاء الاصطناعى التى تحلل تعليقاتهم وعاداتهم وصورهم تصنفهم وفق أعمارهم الحقيقية، ويصبحون مادة سهلة للاصطياد بواسطة الإعلانات.
تحديات قاتلة
وتستند مخاوف وقوع الأطفال فى براثن المعلنين، إلى ما هو معروف فى «علم النفس التسويقي»، من أن الأطفال يتمتعون بمهارات أقل فى التعرف على الإعلانات الخفية، مقارنة بالبالغين، كما تقول زوى تشين، الباحثة بمدرسة ميامى للأعمال بجامعة ميامى الأمريكية لـ «الأخبار».. وتوضح أنه عند استخدام منصات التواصل الاجتماعى فى التسويق عبر بعض المنشورات، سيكون من الصعب على الأطفال التعرف على أن الهدف منها الإعلان، بينما سيكون الشباب قادرين على إدراك ذلك، ويستطيعون اتخاذ قرار عقلاني.
ورغم التركيز فى المخاطر على الجانب الإعلاني، عبر استهداف أطفال غير قادرين على اتخاذ قرار تسويقى منضبط، فإن المعايشة التى قامت بها «الأخبار» لمدة عشرة أيام على منصات التواصل الاجتماعي، كشفت عما هو أخطر من ذلك، وهو تعرض الأطفال لمضامين جنسية وتحديات قاتلة.. وبدأت تلك المعايشة بمحاولة إنشاء حساب خاص بطفل على تلك المنصات عبر الالتزام عند تدشينه بأن يكون عمر الطفل أقل من 13 سنة.
وكما هو متوقع تم رفض الطلب لمخالفة السن المسموح بها، ولكن لم يكن حل المشكلة بالأمر الصعب، إذ تم تدشين الحساب بعد كتابة عمر مغاير للطفل.
وخلال المعايشة على تلك المنصات، تكتشف أن عددا كبيرا من روادها هم من الأطفال دون السن المسموح بها، بل إن المفارقة أن بعض المدارس تدشن مجموعات لأطفال فى سن الحضانة «أقل من 5 سنوات» على موقع «فيسبوك»، حتى يسهل من خلالها التواصل بين معلمة الفصل وطلابها، وهو ما يعنى أن ذوى هؤلاء الأطفال ومدرسيهم ضحوا بخصوصية الأطفال، نظير التفاعل المجانى عبر الموقع، والموقع بدوره لديه دليل دامغ على أن الأطفال من أعضاء تلك المجموعات دون السن القانوني.. ووجود الأطفال على تلك المنصات يعرضهم بطبيعة الحال لمضامين لا تتلاءم على الإطلاق مع أعمارهم، مثل الفيديو المرعب الذى تعرض له الطفل إسطنبولى «أوف لاين» قبل أن ينتقل «أون لاين» لموقع «تيك توك»، فيشاهده الملايين، ومن بين ما تم رصده خلال فترة المعايشة على «تيك توك»، تحديات خطيرة مثل تحدى «لصق الفم أثناء النوم»، الذى يمكن أن يتسبب فى السكتة القلبية وانخفاض مستويات الأكسجين.. وبالإضافة إلى تحديات قد تنهى الحياة، هناك ألفاظ سوقية ومضامين جنسية يتعرض لها الأطفال، كما توجد فيديوهات أخرى للتوجيه لممارسات جنسية شاذة.
والوضع ليس بأفضل حالا على موقع «إنستغرام»، والذى اتهمته دراسة لجامعة ستنافورد الأمريكية بالترويج للحسابات التى تسهل وتروج لنشر دعارة الأطفال.
ووفق الدراسة التى نشر الموقع الرسمى للجامعة تقريرا عنها فى 8 يونيو، فإن هذه الحسابات المشبوهة يتم الترويج لها باستخدام هاشتاجات صريحة بشكل فج وتوفر هذه الهاشتاجات «قوائم» بمحتويات مختلفة من الشذوذ يتم الترويج لها علنا فى المنصة.. ويقول الباحثون، إنه «عندما قاموا بإنشاء حساب تجريبى وقاموا بمشاهدة صورة واحدة من هذه المحتويات المشبوهة التى تروج لدعارة الأطفال، عملت خوارزميات الموقع على الفور وجاءت باقتراحات شبيهة بالمحتوى المشبوه، وكان عمل متابعة لعدد قليل فقط من هذه المواد المقترحة، كافيا لإغراق الحساب الاختبارى بالمحتوى الذى يجعل الأطفال أدوات جنسية».
وكانت شركة «ميتا» المالكة لإنستغرام والفيسبوك، قد عقبت حينها على تلك الدراسة فى تقرير نشرته صحيفة «وول ستريت جورنال»، بالتزامن مع نشر ملخصها بموقع الجامعة، بأنها «شكلت فريق عمل داخلي» للتحقيق فى هذه الادعاءات ومعالجتها فى أسرع وقت.. وخلال فترة المعايشة التى قامت بها «الأخبار» على الموقع، تم التأكد من حذف تلك الهاشتاجات التى تروج لدعارة الأطفال، استجابة لما أثارته الدراسة، ولكن لا تزال الخوارزميات قادرة على إغراق الحساب الشخصى بالصور والفيديوهات التى تروج للأشكال الأخرى من المحتوى الجنسي الخاص بالكبار، بمجرد مشاهدة إحدى الصور والفيديوهات، شأنها فى ذلك، شأن خوارزميات «التيك توك».. وتعمل الخوارزميات فى اليوتيوب بشكل مختلف، حيث توجه إعلانا ما للظهور مع مقطع فيديو ما، بصورة تلقائية عمياء، إذا كان الفيديو يحظى بمشاهدات كبيرة، ولا يهم إذا كان محتوى الإعلان متوافقا مع محتوى الفيديو من عدمه، وهو ما قاد خلال فترة المعايشة إلى ظهور إعلانات لا تناسب الأطفال، مع فيديوهات تتعلق بالأطفال.
خارج سياق الواقع
ورغم ما تم رصده خلال فترة المعايشة من تجاوزات، إلا أن رغداء العزب، رئيس قسم الاتصالات فى التيك توك بالشرق الأوسط وشمال إفريقيا، قالت لـ «الأخبار»، إن لديهم سياسات صارمة لحظر الأنشطة التى قد تؤدى إلى الانتحار أو إيذاء النفس أو اضطرابات الأكل..وأوضحت أنهم كى يحملوا أنفسهم المسئولية يصدرون تقارير كل ثلاثة أشهر عن الجهود المبذولة فى هذا الاتجاه، ومنها أنهم فى الربع الأخير من عام 2022، أزالوا 98.1 فى المائة من محتويات التحديات بموجب سياسة الانتحار وإيذاء الذات والأكل المضطرب، وأزالوا 93.7 فى المائة من المحتوى قبل أى مشاهدات و95.6 فى المائة فى غضون 24 ساعة من نشره.. وأشارت أيضا، إلى أنهم يقومون بمراجعة المحتوى فى مراحل متعددة بما فى ذلك التحميل الأولي، عندما يتم إبلاغهم بالمحتوى وعندما تزداد شعبيته.
واعتبرت العزب الآباء شركاء فى ضبط سلوكيات الأبناء على التطبيق، مشيرة إلى أنهم من أجل ذلك استثمروا بالموقع فى الأدوات والخدمات التى تساعد الآباء والأوصياء والمعلمين والعائلات على مراقبة حياة المراهقين عبر الإنترنت، ومن هذه الأدوات ما يعرف بـ «وضع الاقتران العائلي» الذى يسمح للآباء بربط حساب «التيك توك» الخاص بهم بحساب المراهقين حتى يتمكنوا من «إدارة وقت الشاشة»، أى تحديد المدة التى يمكن أن يقضيها المراهق على «التيك توك» كل يوم، و«وضع تقييد المحتوى»، أى الحد من ظهور المحتوى الذى قد لا يكون مناسبا للمراهق.
استثمار من نوع آخر
واللافت فى تعليق مسئولة «التيك توك»، كما يوضح مصطفى العطار، الباحث المتخصص فى الذكاء الاصطناعى بجامعة النيل الأهلية بمصر، أنه لم يتطرق إلى المضامين الجنسية التى يعج «التيك توك» بها، والتى تمثل خطرا على الأطفال حتى فى السن المسموح بها على التطبيق، وهو 13 عاما، فضلا عن أن التطبيق به ملايين الأطفال ممن هم فى سن أقل، ولا يتم حظرهم، لمجرد كتابة سن غير حقيقية عند تدشين الحساب.. ويقول العطار لـ «الأخبار»: «ننتظر من التيك توك وغيره من المنصات الاستثمار فى خوارزميات يمكنها اكتشاف العمر الحقيقى للمستخدمين، وقد عملت شخصيا على خوارزميات تكتشف العمر من الصوت والصورة، وهو ما يمكن تنفيذه بتلك المنصات».
ويعترف العطار بأن اقتراحه قد تعقب عليه تلك المنصات بأن بعض الآباء مثلا، يختارون وضع صورة أطفالهم فى البروفايل الخاص بهم، والبعض الآخر يختار صورا تعبيرية، وبالتالى إذا تم تطبيق تلك الخوارزميات، فقد يتم حظر أشخاص كبار فى السن، ولكن ذلك مردود عليه، بأن بإمكان تلك المنصات حظر هذه الممارسات إذا أرادت ضبط المسألة، أو بإمكانها تطوير خوارزميات تكتشف العمر الحقيقى من أسلوب الكتابة.
ويضيف: «الحلول كثيرة، ولكن الحقيقة أن المنصات غير جادة فى هذا الأمر لأغراض تسويقية، ويكون نتيجة ذلك تعريض الأطفال لمضامين، إما تنهى حياتهم أو تسطح تفكيرهم».
والمفارقة التى يشير إليها العطار، هى أن النسخة العالمية من تطبيق «التيك توك»، بينما تقود الأطفال فى سن 13 عاما لمشاهدة هذه المضامين، وتقود من هم أقل منهم عمرا لنفس المضامين، إذا قاموا بتدشين حساب بعد كتابة عمر مغاير للحقيقة، فإن النسخة الصينية من التطبيق، تتخذ تدابير وقائية للأطفال، وهو ما يؤكد على أن هناك حلولا، إن أرادت أى منصة ضبط الأمور..ويقول إنه « قبل نحو عامين، اتخذ تطبيق «دوين»، وهو النسخة الصينية من تطبيق «تيك توك»، خطوة للحد من استخدام الأطفال للمنصة وحددها بـ 40 دقيقة يوميا فقط، ويسرى ذلك على المستخدمين، الذين تقل أعمارهم عن 14 عاما، ويسجلهم التطبيق بأسمائهم الحقيقية».
ويوضح أنه «لا يسمح وفق النسخة الصينية باستخدام التطبيق دون موافقة الوصى القانونى لمن هم فى سن أقل من 18 عاما، بينما الحد الأدنى لسن المستخدم فى نظيره «تيك توك» هو 13 عاما، ويتم التسجيل دون موافقة الوصى القانوني».. ويضيف: «الأهم من ذلك، هو أن هؤلاء الأطفال يتعرضون فى شقيق التيك توك «دوين»، لمحتوى تعليمي، يضم تجارب علمية وزيارات للمتاحف ودروسا تاريخية وأغانى وطنية».
تنافس على اختراق الخصوصية
الفارق الواضح بين «تيك توك» العالمى و«دوين» الصينى فى حماية الأطفال، يؤكد على أن شركة «بايت دانس»، المنتجة للتطبيقين، وبعد أن اتخذت ما يلزم لحماية أطفال الصين، لا تبدو مستعدة لخسارة التنافس على اختراق خصوصية الأطفال مع المنصات الأخرى، وإن ادعت فى تعليقاتها أنها تتخذ ما يلزم لحمايتهم، كما يؤكد العطار..والمنصات الأخرى بدورها، لا يبدو أنها مستعدة لاتخاذ ما يلزم لحماية الأطفال، وإن ادعت هى الأخرى عكس ذلك.. وأرسلت «الأخبار» لشركة «ميتا» المالكة للفيسبوك وانستغرام، طلبا للتعليق على ما تم رصده من تجاوزات فى اتجاه حماية الأطفال، ولم يصل تعليق من الشركة حتى الآن، غير أنها كانت قد أصدرت فى 27 يوليو من عام 2021، بيانا يتعلق بالإجراءات التى ستتخذها لضمان أن يكون أعضاء تلك التطبيقات ممن يبلغون من العمر 13 عاما.
وقالت الشركة فى بيانها، إن لديها طرقا مختلفة للعثور على الحسابات التى يستخدمها الأشخاص الذين يحرفون سنهم، كى يتم إزالتها، ومنها أنه، على سبيل المثال، يمكن لأى شخص الإبلاغ عن حساب قاصر، كما طورنا تقنية تعمل بالذكاء الاصطناعى تسمح لنا بتقدير أعمار الأشخاص، فعلى سبيل المثال، إذا كان شخص ما أقل من 13 عاما، فنحن ندرب التكنولوجيا باستخدام إشارات متعددة، مثل مراجعة تعليقات لأشخاص يتمنون له عيد ميلاد سعيدا والنظر إلى العمر المكتوب فى تلك الرسائل، وننظر أيضًا إلى العمر الذى تم مشاركته معنا على فيسبوك ونطبقه على تطبيقاتنا الأخرى، لذلك إذا شاركت تاريخ ميلادك معنا على فيسبوك، فسنستخدم نفس الشيء لحسابك المرتبط على الانستغرام».
وتعترف الشركة فى بيانها أن هذه التكنولوجيا ليست مثالية، ويتم العمل على تحسينها كى يمكنوا من فهم أعمار الناس.
سلاح الإبلاغ
وصدقت الشركة عندما قالت فى بيانها إنها ليست مثالية، لأن المعايشة التى قامت بها «الأخبار»، تكشف عن عدم استعداد المنصات للتأكد من أن المستخدم عمره 13 عاما.
ولا يرى محمد حجازي، استشارى تشريعات التحول الرقمى والابتكار والملكية الفكرية، ، أن هناك أى إجراء يمكن اتخاذه تجاه تلك المنصات، لأن المخالفة جاءت من المستخدم للتطبيق وليس منها.
ويقول لـ «الأخبار»: الشيء الوحيد الذى يمكن أن تحاسب عليه تلك المنصات، هو أن يتم إبلاغها بوجود مضمون يخالف قانون الطفل ولا يتم حذفه.. وبخلاف ذلك، يؤكد حجازي، على أن «رقابة محتوى تلك المنصات هو مسئولية مجتمعية وأسرية، حيث يتولى المجتمع رصد أى محتوى يخالف القيم والعادات على تلك المنصات ويتم الإبلاغ عن أصحابه، وشهدت مصر مؤخرا إلقاء القبض على أكثر من ناشط وناشطة على مواقع التواصل الاجتماعى لترويجهم مضامين جنسية، وداخل الأسرة، فإن مسئولية الرقابة تقع على عاتق الأبوين».
ويعتبر حجازى أن «أى قانون يتم إصداره لضبط السلامة الرقمية، سيكون من السهل إيجاد ثغرات لعدم الالتزام الحقيقى ببنوده، وسيظل العبء الأكبر على الآباء لمراقبة السلامة الرقمية لأطفالهم».
