الذكاء الاصطناعي يخطئ في الملف الطبي: مريضة صُدمت بعد أن نُسب إليها تعاطي الفطر المخدر

كشفت حادثة وقعت لمريضة أسترالية عن مخاطر استخدام أنظمة الذكاء الاصطناعي في توثيق الزيارات الطبية، بعدما أضاف النظام إلى ملفها الطبي معلومة كاذبة تفيد بأنها تتعاطى الفطر المخدر (المهلوس)، رغم أنها لم تستخدمه في حياتها.

كانت ريبيكا غرين قد وافقت خلال زيارتها الأولى لطبيبة مسالك بولية على تسجيل المحادثة بواسطة نظام ذكاء اصطناعي، إذ لم ترغب في أن تبدو وكأنها تعرقل عمل الطبيبة أو تستغرق وقتًا إضافيًا. لكنها اكتشفت لاحقًا أن النظام أدخل إلى ملفها الطبي ادعاءً خطيرًا وغير صحيح.

وبعد خضوعها في مارس/آذار لعملية لعلاج حصى الكلى، قرأت رسالة طبية أرسلتها الطبيبة إلى طبيب العائلة، وجاء فيها أنها تتناول جرعات صغيرة من الفطر المهلوس، وأن ذلك قد يكون مرتبطًا بنزيف سابق في منطقة الكلى.

وقالت غرين إنها أصيبت بالصدمة وبكت عندما اكتشفت ما ورد في الملف، مؤكدة أنها لم تستخدم الفطر المهلوس مطلقًا. كما خشيت من تداعيات المعلومة الكاذبة، خصوصًا أنها كانت تتلقى في ذلك الوقت تعويضات بسبب إصابة في العمل، وكانت تخشى أن يؤثر اتهامها باستخدام مخدرات غير قانونية على قضيتها.

بعد شكواها، اعتذرت الطبيبة لها وصححت السجل الطبي، موضحة أنها لم تتمكن من تحديد الطريقة التي تسللت بها المعلومة الخاطئة إلى الوثيقة، وأنها على الأرجح ناتجة عن خطأ في عملية الإملاء أو التفريغ الصوتي بواسطة الذكاء الاصطناعي.

أخطاء قد تؤثر على حياة المرضى

تعتمد أنظمة AI Scribes على الاستماع إلى الحوار بين الطبيب والمريض، ثم تفريغه ومعالجته وتحويله إلى ملخص طبي أو خطاب إحالة أو وثيقة يمكن إدخالها مباشرة إلى الملف الطبي.

وتتوسع هذه التقنية بسرعة، لما توفره من إمكانية تخفيف الأعباء الإدارية عن الأطباء، وإتاحة وقت أكبر للتواصل المباشر مع المرضى. وأظهرت دراسة نشرت في مجلة JAMA Network Open وشملت 263 طبيبًا ومختصًا طبيًا في ستة أنظمة صحية أمريكية، انخفاض معدل الاحتراق الوظيفي المبلغ عنه من 51.9% إلى 38.8% بعد 30 يومًا من استخدام أنظمة التوثيق بالذكاء الاصطناعي.

لكن الجانب الآخر من الصورة يتمثل في إمكانية أن تحذف الأنظمة معلومات قيلت بالفعل، أو تنسب كلامًا إلى الشخص الخطأ، أو تخلط بين المصطلحات الطبية، أو تضيف معلومات لم تُذكر أصلًا.

ومن بين الأخطاء التي تم توثيقها حالات نسبت فيها الأنظمة تشخيصًا إلى الجهة الخاطئة من جسم المريضة، وأخرى أضافت إلى ملف مريض تشخيصًا بالصرع رغم أنه لم يكن مصابًا به.

ويحذر خبراء من أن المشكلة قد تتفاقم مع مرور الوقت، إذ قد يبدأ الأطباء بفحص مخرجات الذكاء الاصطناعي بدقة، ثم يكتفون لاحقًا بمراجعة سريعة نتيجة ثقتهم المتزايدة بالنظام.

هل يستطيع المريض رفض استخدام الذكاء الاصطناعي؟

تثير التقنية أيضًا تساؤلات بشأن موافقة المرضى وحقهم في رفض تسجيل محادثاتهم.

وأظهر تقرير أسترالي أن بعض العيادات تكتفي بوضع إشعار في غرفة الانتظار بشأن استخدام الذكاء الاصطناعي، بينما تدرج عيادات أخرى الموافقة ضمن نموذج حجز الموعد. وفي بعض الحالات، أُبلغ المرضى بأن رفض استخدام النظام قد يعني اضطرارهم إلى مراجعة طبيب آخر.

وتزداد حساسية المسألة عندما يتعلق الأمر بمعلومات شخصية للغاية، مثل الصحة النفسية، والعنف الأسري، والصحة الجنسية أو تعاطي المخدرات، إذ قد يتردد المريض في الإفصاح عن معلومات مهمة إذا علم أن نظامًا خارجيًا يستمع إلى الحديث.

وفي إسرائيل.. الأنظمة قيد الاختبار

يقول البروفيسور ران بليتسر، نائب المدير العام ورئيس منظومة الابتكار في خدمات الصحة كلاليت، إن أنظمة التوثيق الآلي بدأت تتحول إلى ممارسة شائعة في الولايات المتحدة ودول أخرى، مشيرًا إلى أن الشركات الرائدة تمكنت من الوصول إلى مستويات جيدة من الدقة، خصوصًا في اللغة الإنجليزية.

ويرى بليتسر أن الفائدة الرئيسية تكمن في تحرير الطبيب من لوحة المفاتيح، والسماح له بإجراء محادثة طبيعية مع المريض، إلى جانب إدخال المعلومات التي قيلت خلال الزيارة إلى الملف الطبي.

لكنه يؤكد أن أي نظام يعتمد على الذكاء الاصطناعي سيخطئ بنسبة معينة، موضحًا أن الأخطاء يمكن أن تتمثل في حذف معلومات، أو إضافة معلومات غير موجودة، وهو ما يعرف أحيانًا بـ«الهلوسة»، أو استبدال معلومة صحيحة بأخرى خاطئة، مثل رقم أو جرعة دواء أو تحديد الجهة الصحيحة من الجسم.

وبحسب بليتسر، فإن المسؤولية النهائية تقع على عاتق الطبيب، الذي يجب عليه مراجعة الملخص يدويًا قبل إدخاله إلى الملف الطبي. إلا أن هذه المهمة ليست سهلة، لأن الخطأ قد يكون تفصيلًا صغيرًا وسط نص يبدو صحيحًا في معظمه.

وقال إن بعض الأنظمة المشابهة باتت قيد الاختبار في إسرائيل، بما في ذلك في عيادات ومرافق تابعة لكلاليت، بعد التغلب تدريجيًا على صعوبات التعامل مع اللغة العبرية والمصطلحات الطبية.

إطار رقابي من 77 معيارًا

ولمواجهة مخاطر استخدام الذكاء الاصطناعي في القطاع الصحي، طورت كلاليت إطارًا باسم Optica لتقييم ومراقبة أدوات الذكاء الاصطناعي قبل إدخالها إلى الخدمة وبعد تشغيلها.

وأوضح بليتسر أن كل منتج ذكاء اصطناعي يخضع لقائمة فحص تضم ما يصل إلى 77 معيارًا، تشمل السلامة، وحماية الخصوصية، ودقة النظام، والمراقبة المستمرة لأدائه، خصوصًا أن قدرات أنظمة الذكاء الاصطناعي قد تتغير بمرور الوقت.

وتبرز هذه الحادثة تحديًا أساسيًا أمام التحول الرقمي في الطب: الذكاء الاصطناعي قد يوفر وقت الطبيب ويحسن توثيق الزيارة، لكنه لا يستطيع أن يحل محل المراجعة البشرية عندما يتعلق الأمر بمعلومة قد تصبح جزءًا دائمًا من السجل الطبي للمريض