استبدال الكشف بمحادثة إلكترونية «كارثة» .. والتوجيه للانتحار «الأخطر»

خبراء التكنولوجيا: نطالب بوضع «تحذيرات صارمة» تظهر فور طرح أسئلة طبية

أضرار استخدام الذكاء الاصطناعى لم تعد مجرد حوادث فردية عابرة أو دراسات غربية نقرأ عنها فى المجلات العلمية، بل تحولت إلى «تريندات» صامتة ومآسٍ حقيقية تتناقلها جروبات وسائل التواصل الاجتماعى  الطبية ومنتديات الأمهات، فى ظل ضغوط اقتصادية دفعت البعض لمحاولة استبدال «فيزيتا» الطبيب وروشتة العلاج بسؤال مجانى فى صندوق محادثة.

«الأخبار» ترصد فى هذا التحقيق ظاهرة خطيره تتمدد فى صمت داخل المجتمع وهى  الاستغناء عن الطبيب البشرى بنماذج الذكاء الاصطناعى للتشخيص، والوصف العلاجي، والدعم النفسي. وتكشف كيف أن هذه النماذج رغم براعتها اللغوية قد تُخطئ بطريقة قد لا تُكتشف إلا بعد فوات الأوان.

«أم يونس»، سيدة من الإسكندرية، شاركت مأساتها بأحد الجروبات النسائية، مؤخراً عانى طفلها الرضيع من طفح جلدى مفاجئ، وبدلاً من استشارة طبيب أطفال، التقطت صورة للطفح ووصفته بدقة لـ ChatGPT. الإجابة جاءت حاسمة وبطابع طبى مبهر، لتوصى باستخدام مرهم معين. ما لم تدركه الأم أن الروبوت رشح مركباً يحتوى على كورتيزون عالى التركيز مخصص للبالغين فقط. خلال ٤٨ ساعة، تحول جلد الرضيع إلى ما يشبه الحروق الكيميائية وتدهورت حالته ليُنقل إلى طوارئ العناية المركزة. لم تكن هذه  الحادثة الأولى، ولن تكون الأخيرة فى عالم تتصاعد فيه أزمة الرعاية الصحية والطب النفسي، وترتفع قوائم الانتظار فى عيادات الأطباء، وتُثقل الأسعار كاهل الأسر، وجد ملايين المستخدمين فى روبوتات الذكاء الاصطناعى ملاذاً سهلاً وسريعاً ومجانيا لكن هذا الملاذ يخفى وراءه مخاطر لم يكن أحد مستعداً لها.

أرقام مفزعة 

حجم ارقام الظاهرة لم يتوقعه أحد، فهى وحدها كافية لتُوقف القلب قبل أن تستمر فى القراءة، ٨٠٠ مليون مستخدم أسبوعياً على ChatGPT وحده وأحد أبرز استخداماته الطب والعلاجات النفسية، فنصف الحالات من نصائحه الطبية خاطئة، وفقاً لدراسة نُشرت فى مجلة «لانسيت» للصحة الرقمية فإن أكثر من مليون مستخدم يُفصحون عن أفكار انتحارية لـ ChatGPT كل أسبوع. هذه ليست إحصاءات معزولة، بل هى ملامح أزمة صامتة تتشكّل داخل الهواتف، بعيداً عن أعين الأطباء وذوى المرضى.

الروشتة القاتلة

دخل المريض المنصة يسأل عن بديل للملح فى نظامه الغذائى وهو ستينى يعانى من ارتفاع ضغط الدم، جاءه الرد من ChatGPT يوصيه باستخدام مادة كيميائية شائعة فى الاستخدامات الصناعية، النتيجة: تسمم حاد ودخول مستشفى.

هذه الحادثة الموثّقة ليست استثناءً بل هى نموذج. كشفت دراسة نشرتها مجلة «لانسيت» للصحة الرقمية أن نماذج الذكاء الاصطناعى تمرر معلومات طبية مضللة حين تُصاغ لها الأسئلة بلغة طبية تبدو موثوقة، فتردد الخطأ بثقة وكأنه حقيقة.

أيضا حالة أخرى وثقتها آنا جويل فى مؤسسة سرطان البنكرياس ببريطانيا وهى «نصيحة الذكاء الاصطناعى لمرضى سرطان البنكرياس بتجنب الدهون وهى خاطئة تماماً وخطيرة جداً فهؤلاء المرضى يحتاجون سعرات مرتفعة لتحمّل العلاج الكيميائي» وفق روايتها.

والأشد خطورة أن كل نموذج ذكاء اصطناعى يُنتج إجابة مختلفة للسؤال ذاته، اسأل ChatGPT عن جرعة دواء فيُجيبك بشيء واسأل نموذجاً آخر فيُجيبك بما يناقضه، ولا أحد يعرف أيهما الأقرب للصواب، لأن المريض لا يملك الأدوات الطبية للتمييز.. كما قامت المنظمة الوطنية لاضطرابات الأكل فى أمريكا باستبدال خط المساعدة البشرى بروبوت ذكاء اصطناعى يُدعى (Tessa)، النتيجة كانت كارثية؛ حيث بدأ الروبوت فى إعطاء نصائح لمرضى «فقدان الشهية» حول كيفية تقليل السعرات الحرارية ومراقبة الوزن، وهى نصائح تزيد من المرض بدلاً من علاجه، مما أدى لإيقاف الروبوت فوراً.

هلوسة اصطناعية

يؤكد خبراء الأمن السيبرانى والذكاء الاصطناعى أن هذا التفاوت ليس عيباً طارئاً بل سمة هيكلية فى بناء هذه النماذج  فهى لم تُصمَّم أصلاً لتكون أطباء، بل لتكون مساعدين لغويين يستجيبون لأنماط الكلام لا لحقائق الطب، ويرى د. محمد الظواهرى خبير الأمن السيبرانى والذكاء الاصطناعي، أن هذه النماذج تعانى مما يُعرف تقنياً بـ (الهلوسة - Hallucinations). فهى قد صُممت لتتوقع الكلمة التالية فى الجملة بناءً على الاحتمالات الإحصائية، وليس استناداً إلى أى فهم علمى أو طبي.

ويضيف د. الظواهري: «الذكاء الاصطناعى لا يمتلك وعياً ليدرك أن هذه الوصفة قد تنهى حياة إنسان، هو فقط يرى أنها إجابة متناسقة لغوياً ومقنعة. وهنا يكمن الفخ؛ فالثقة المطلقة التى تصاغ بها إجابة الروبوت تجعل المريض يصدقه دون تفكير، مبدداً أى شكوك حول دقة المعلومة».
تحذيرات صارمة

وفى قراءة تقنية لأبعاد الظاهرة، أكد المهندس إسلام غانم، استشارى تكنولوجيا المعلومات، أن الاندفاع الجماهيرى نحو استخدام الذكاء الاصطناعى كبديل للأطباء يعكس حالة من «الخداع البصرى الرقمي»، موضحاً أن هذه الأنظمة صُممت فى الأساس كأدوات لغوية لإدارة الحوار، ولم تُمنح يوماً تفويضاً طبياً أو علمياً لإصدار أحكام تتعلق بحياة البشر.

وأشار «غانم» إلى أن ChatGPT يعتمد على ما يُسمى بـ «الاحتمالية الإحصائية» فى توليد الإجابات، وهى آلية تقوم على توقع الكلمة الأكثر منطقية فى السياق اللغوي، وليس المعلومة الأكثر دقة من الناحية السريرية، مؤكداً أن الروبوت قد يصوغ لك «سمّاً ناقعاً» فى جملة طبية تبدو غاية فى الاحترافية لمجرد أنها تتوافق مع نمط البيانات التى تدرب عليها.

وأضاف استشارى تكنولوجيا المعلومات أن البيئة الرقمية المصرية تعانى من تحدٍ إضافى، وهو أن معظم قواعد البيانات التى تغذى هذه النماذج هى قواعد بيانات غربية، مما قد يؤدى إلى نتائج مضللة عند تطبيقها على حالات مرضية ترتبط ببيئات جغرافية أو أنظمة غذائية أو بروتوكولات دوائية محلية خاصة بالمجتمع المصري.

وتابع غانم حديثه محذراً من «وهم الثقة» الذى تمنحه هذه الروبوتات للمستخدمين، حيث قال: «الخطورة تكمن فى أن الذكاء الاصطناعى لا يتردد ولا يقول «لا أعرف»، بل يجيب دائماً بيقين تام حتى فى أقصى درجات الخطأ، وهو ما يسلب المريض حاسة الحذر الفطرى ويجعله ينساق وراء تشخيصات قد تكون هى المسمار الأخير فى نعشه».

واختتم المهندس إسلام غانم حديثه بضرورة وجود تشريعات تقنية عاجلة تُلزم شركات التكنولوجيا بوضع «تحذيرات صارمة» تظهر للمستخدم فور البدء فى طرح أسئلة طبية، معتبراً أن الوعى المجتمعى هو الخط الدفاعى الأول لمنع تحول الهاتف المحمول من أداة تواصل إلى «طبيب مزيف» يقتل بصمت.

السيناريو الأسوأ 

فى قراءة طبية متأنية لأبعاد الأزمة، أكد د.أشرف عقبة، رئيس أقسام الباطنة العامة والمناعة الأسبق، أن حق المريض فى المعرفة والاستفسار مكفول، لكن هناك فارقاً جوهرياً بين «المعلومة» و«التشخيص»، موضحاً أن الذكاء الاصطناعى قد يعطى المريض خيوطاً متناثرة من المعرفة، أما الطبيب البشرى فهو الوحيد المؤهل لنسج هذه الخيوط وتحويلها إلى خطة علاجية آمنة.

وأشار «عقبة» إلى ظاهرة نفسية خطيرة تصيب المستخدمين، حيث تضع محركات الذكاء الاصطناعى أمام المريض قائمة طويلة من الاحتمالات والتشخيصات المتضاربة، وغالباً ما يميل المريض -تحت وطأة القلق- إلى اختيار «السيناريو الأسوأ»، مما قد يؤدى إلى اتخاذ قرارات كارثية تؤثر على مسار حالته الصحية قبل أن يصل إلى عيادة المختص.

وأضاف رئيس أقسام المناعة الأسبق أن هناك جانباً خفياً يتعلق بـ «بيزنس العلاج الرقمي»، حيث إن الكثير من مواقع وتطبيقات الذكاء الاصطناعى هى منصات مدفوعة تهدف للربح، وقد تروج لاستخدام بروتوكولات أو مكملات غير مفيدة طبياً لصالح أجندات تجارية، مؤكداً أن «مؤشر الخطأ» فى هذه التقنيات يظل مرتفعاً، مما يضع المستخدم فى مواجهة مباشرة مع الخطر، بعكس الطبيب الذى يستند فى قراره إلى التحليل السريرى والخبرة التراكمية.

وتابع د. أشرف عقبة موضحاً أن قرار منح العلاج هو «مسئولية جسيمة» لا يمكن إلقاؤها على عاتق خوارزمية صماء، فالدواء الذى يناسب مريضاً قد يسبب مضاعفات مميتة لآخر بناءً على تفاصيل بيولوجية لا يدركها إلا الفحص البشري، مشدداً على أن الطبيب هو الجهة الوحيدة المنوط بها تحديد الدواء المناسب بالجرعة المناسبة وفى الوقت المناسب.

واختتم تصريحاته بالتحذير من الانجراف خلف بريق التكنولوجيا على حساب السلامة الجسدية، معتبراً أن الذكاء الاصطناعى يظل «مؤشراً» وليس «مقرراً»، وأن استبدال السماعة الطبية بصندوق محادثة هو مقامرة غير مأمونة العواقب بمستقبل المريض الصحي.

تشخيص بلا فحص

ويلتقط منه طرف الحديث د. عبد اللطيف المر أستاذ الطب الوقائى بجامعة الزقازيق، مؤكدا أن التحول فى استخدام أدوات الذكاء الاصطناعى مثل ChatGPT لم يعد مجرد وسيلة للبحث، بل وصل إلى حد التعامل معها كبديل للطبيب، وهو ما يمثل خطرًا حقيقيًا على الصحة العامة. 

وأشار إلى أن المشكلة لم تعد فى طرح الأسئلة العامة، بل فى قيام المرضى بإدخال أعراضهم ونتائج تحاليلهم وتلقى إجابات يتعاملون معها كتشخيص طبي، موضحًا أن هذا السلوك ينقل المستخدم من فضول معرفى مشروع إلى منطقة خطرة قائمة على «تشخيص بلا فحص وعلاج بلا مسئولية»..

وأوضح أن خطورة الذكاء الاصطناعى تكمن فى قدرته على تقديم إجابات تبدو دقيقة ومنظمة وبثقة عالية، لكنها قد تكون ناقصة أو غير مناسبة للحالة، مؤكدًا أن الطب الحقيقى يعتمد على الفحص السريري، والتاريخ المرضي، وربط الأعراض، وليس مجرد تحليل نصوص مكتوبة..

ولفت إلى أن الدراسات الحديثة أظهرت أن نسبة كبيرة من المستخدمين يلجأون إلى الذكاء الاصطناعى فى الاستشارات الصحية دون متابعة الطبيب، وهو ما قد يؤدى إلى تأخير التشخيص الصحيح أو اتخاذ قرارات علاجية خاطئة.

وأشار إلى أن الخطر يتضاعف فى حالات الصحة النفسية، حيث لا يمكن للاعتماد على محادثة رقمية أن يعوض التقييم المهنى أو التدخل العلاجى المتخصص، محذرًا من أن ذلك قد يمنح المرضى شعورًا زائفًا بالأمان.

جوهر الأزمة

وشدد على ضرورة تدخل الدولة لتنظيم استخدام الذكاء الاصطناعى فى المجال الصحي، من خلال إصدار تحذيرات واضحة، وإطلاق حملات توعية، وتنظيم عمل التطبيقات الصحية، لضمان حماية المرضى.

واختتم المر تصريحاته بالتأكيد على أن أخطر ما فى الذكاء الاصطناعى الطبى ليس أنه قد يخطئ، بل إنه يخطئ بثقة، وهو ما قد يدفع المريض إلى تصديقه بثقة أكبر، قائلًا: «اسأل ChatGPT للفهم… لكن لا تتردد فى الذهاب إلى الطبيب، فحياتك لا تحتمل التجربة».

لو كانت المشكلة محصورة فى الأخطاء الطبية الجسدية لكان الأمر أقل تعقيداً، لكن الأزمة الأعمق تكمن فى استخدام هذه الروبوتات كمعالجين نفسيين وهو ما بات شائعاً بشكل مثير للقلق..

وهو ما أكده د.جمال فرويز خبير الطب النفسي، مشيرًا الى أن هذا المشهد يلخّص جوهر الأزمة، فالذكاء الاصطناعى يُجيد الكلام، لكنه لا يقرأ ما بين السطور.

لا يُدرك الألم المضمر، ولا يلتقط الإشارة غير المباشرة، ولا يشعر حين يقف إنسان على حافة الهاوية يطلب النجدة بلسان يقول شيئاً آخر.

وأكد خبير الطب النفسى ان هناك دراسة أجرتها جامعة براون الأمريكية عام ٢٠٢٦ رصدت ١٥ خطراً أخلاقياً مختلفاً حين يتصرف ChatGPT كمعالج نفسى من بينها: التعامل الخاطئ مع أزمات الانتحار، وتعزيز المعتقدات المضرة، وما وصفه الباحثون بـ»التعاطف الزائف» الذى يُحاكى الاهتمام الإنسانى دون أن يملكه.

ويضيف فرويز أن الطبيب البشرى يرى لغة الجسد، ونبرة الصوت، والدموع المحبوسة - الروبوت لا يرى إلا النص. وفى الصحة النفسية، ما لا يُقال أهم مما يُقال، وأشار فرويز إلى أن مجال الصحة النفسية هو الأكثر خطورة فى هذه المعادلة.

فالمريض النفسى فى أزمته لا يحتاج إجابة صحيحة بل يحتاج إنساناً يشعر معه. والروبوت مُبرمَج على «الموافقة» و«التعاطف» وهو ما يجعله أحياناً يُعزز الأفكار السلبية بدلاً من أن يكبح جماحها، لأنه يتبع منطق «ما يريد المستخدم سماعه»..

واختتم فرويز حديثه بدراسة نشرت فى مجلة Lancet Digital Health والتى أكدت أن الذكاء الاصطناعى حين يُسأل عن أدوية بأسماء معينة، قد يبتكر (يهلوس) تفاعلات دوائية لا وجود لها، أو يتجاهل تفاعلات قاتلة إذا لم يتم ذكر الحالة الصحية للمريض بدقة متناهية.
وسيلة مساعدة

فيما أكد الشيخ د. أسامة قابيل من علماء الأزهر الشريف أن استخدام الذكاء الاصطناعى فى الطب جائز إذا كان وسيلة مساعدة، لا بديلاً عن الطبيب، موضحًا أن هذه الخوارزميات تعتمد على الإحصاء ولا يجوز الاعتقاد بأنها تعلم الأجل.

وأشار إلى أن الإسلام يوجب الأخذ بالأسباب مع التوكل على الله، ويحرم تحويل هذه الأدوات إلى مصدر يقين أو خوف.. وأضاف أن أى خوارزميات تُميز بين المرضى على أساس المال أو العرق مرفوضة شرعًا، لأنها تخالف العدل، بينما يجوز ترتيب الأولويات وفق معايير طبية عادلة.

وشدد على حرمة بيانات المرضى، وعدم جواز استخدامها دون إذن صريح، إلا فى أضيق الحدود وبضوابط تحمى الخصوصية.. وأكد أن صرف أدوية خطيرة بقرار آلى كامل لا يجوز، ولا بد من إشراف طبيب مسئول.. واختتم: «اسأل التقنية لكن القرار للطبيب والعلم عند الله، فالشريعة الإسلامية لا تعارض استخدام التقنيات الحديثة، ومنها الذكاء الاصطناعي، طالما تُستخدم فى إطار نافع يخدم الإنسان ويحفظ حياته، موضحًا أن الإسلام يدعو دائمًا إلى الأخذ بالأسباب مع تمام التوكل على الله».

روشتة بدون توقيع 

حين يذهب المريض إلى الطبيب، يوقّع الطبيب على روشتته - ويتحمل معها مسئولية قانونية وأخلاقية وإنسانية. حين يذهب إلى ChatGPT، لا أحد يوقّع، ولا أحد يتحمل، ولا أحد يُساءل.

آدم الصغير الذى فتح التطبيق يوماً ليذاكر لم يكن يعرف أنه يفتح باباً بلا حارس. وملايين غيره يفعلون الشيء ذاته كل يوم فى مصر وفى كل مكان

يثقون فى صوت بارد ذكى يُجيد التعاطف ولا يشعر به.

على الصعيد التشريعي، بدأت بعض الولايات الأمريكية بسنّ قوانين تُلزم منصات الذكاء الاصطناعى بالمساءلة القانونية إذا أسهمت خوارزمياتها فى الإضرار بمستخدمين وقصر.. أما فى مصر والمنطقة العربية، فلا تزال المنظومة التشريعية فى مرحلة التأمل.. السؤال الذى يجب أن نطرحه ليس: «هل الذكاء الاصطناعى أذكى من الطبيب؟» بل: «من يتحمل المسئولية حين يخطئ؟».