لم يعد دور الذكاء الاصطناعي (AI) في التصوير الطبي يقتصر على تحليل تصوير الرنين المغناطيسي (MRI) للدماغ وتقديم احتمال الإصابة بمرض ما؛ إذ بات قادراً أيضاً على إبراز مناطق الدماغ التي أثّرت في القرار عبر تلوينها. وعندما تُعرض النتيجة مع «السبب»، يبدو الحكم أكثر إقناعاً.
لكن «السبب» الذي يقدمه الذكاء الاصطناعي يحتاج بدوره إلى اختبار مستقل لمدى ثباته. فإذا أُعيد تدريب نموذج بالهيكل نفسه ثم أشار إلى مناطق مختلفة تماماً من الدماغ، فقد يعني ذلك أن التفسير الأول كان نتاج مصادفة ارتبطت بمسار تدريب محدد.
وفي 24 من الشهر الجاري، قالت مجموعة البروفيسور كريستيان فالرافن من قسم الذكاء الاصطناعي بجامعة كوريا، بالتعاون مع فريق البروفيسورات يو سونغ-هيه وكيم بو-غيو وبارك آ-ريم من قسم الأشعة في مستشفى جامعة كوريا أنام، إنها قارنت عدة مؤشرات لتقييم تفسيرات الذكاء الاصطناعي الطبي. وخلصت إلى أن «المتانة (Robustness)»—التي تقيس مدى اتساق التفسير عند تكرار التدريب—كانت الأكثر توافقاً واستقراراً مقارنة بالدلالات السريرية.
التفسير المقنع ليس بالضرورة تفسيراً موثوقاً
يصل الذكاء الاصطناعي القائم على التعلم العميق إلى نتائجه عبر عدد هائل من خطوات الحساب. ومن الصعب عملياً على الإنسان تتبع هذه العملية خطوة بخطوة وفهمها. ولهذا، حتى عندما يشير الذكاء الاصطناعي إلى وجود علامة غير طبيعية، يصعب على الطاقم الطبي تحديد سبب هذا الحكم بدقة. ويُطلق على ذلك «مشكلة الصندوق الأسود»، تشبيهاً بصندوق لا يمكن رؤية ما بداخله من الخارج.
ومن التقنيات التي طُورت لمعالجة ذلك «الذكاء الاصطناعي القابل للتفسير (XAI)». إذ يعرض مناطق الدماغ التي اعتبرها الذكاء الاصطناعي مهمة على هيئة خريطة، بما يساعد الطاقم الطبي على التحقق بصرياً من أساس القرار.
غير أن المشكلة تكمن في غياب معيار مشترك واضح يحدد أيّ هذه التفسيرات ينبغي الوثوق به. فقد طُرحت معايير تقيس مدى أمانة التفسير في عكس عملية اتخاذ القرار الفعلية لدى الذكاء الاصطناعي، ومدى بساطته وسهولة فهمه، لكن لم يُتحقق بما يكفي مما إذا كانت هذه المعايير تشير بدقة إلى المناطق ذات الدلالة السريرية.
وركّز فريق البحث على «المتانة» بوصفها مؤشراً يقيس مدى تشابه المناطق التي يحددها الذكاء الاصطناعي على أنها مهمة، عندما يُدرَّب نموذج بالهيكل نفسه مرات عدة مع تغيير نقطة بدء التدريب فقط. وكلما ارتفعت الدرجة، دلّ ذلك على أن التفسير ليس نتيجة عارضة لمسار تدريب واحد، بل تفسير مستقر يتكرر ظهوره حتى عند إعادة التدريب.
واستخدم الفريق نحو 40 ألف تصوير رنين مغناطيسي للدماغ من «المستودع الحيوي البريطاني» (UK Biobank) و«مبادرة التصوير العصبي لمرض ألزهايمر» (ADNI). وأجرى أكثر من 10 آلاف محاكاة عبر دمج 9 نماذج مختلفة من التعلم العميق مع 8 تقنيات للتفسير.
ثم قارن مدى الدلالة السريرية لكل مؤشر تقييم عبر ثلاثة معايير. فقسّم صور الرنين إلى وحدات شبكية صغيرة تُعرف باسم «فوكسل»، وحلل اختلافات شكل أنسجة الدماغ، ثم قارن على التوالي: العلاقة بين حجم كل منطقة دماغية والمرض، وتقدير اختصاصيي الأشعة.
هل تكفي دقة مرتفعة وحدها؟
وأظهرت النتائج أن المؤشرات التقليدية—مثل «الأمانة» التي تقيس مدى انعكاس التفسير لعملية اتخاذ القرار لدى الذكاء الاصطناعي، و«التعقيد» الذي يقيّم مدى بساطة التفسير—كانت ضعيفة الارتباط بالدليل السريري. وحتى مع تقنية التفسير نفسها، كانت الدرجات تتغير كثيراً عند اختلاف بنية نموذج الذكاء الاصطناعي.
في المقابل، أظهرت «المتانة» توافقاً أكثر اتساقاً نسبياً مع تقدير اختصاصيي الأشعة، عند تحليل شكل الدماغ وأحجام المناطق المختلفة. ولم تتذبذب نتائج التقييم كثيراً حتى مع اختلاف بنية النموذج، كما كانت كفاءة الحساب جيدة.
وقال البروفيسور فالرافن: «تكمن أهمية هذه الدراسة في أنها ربطت بشكل منهجي معايير تقييم مدى موثوقية تفسيرات الذكاء الاصطناعي الطبي بالدليل السريري».
وأضافت البروفيسورة يو سونغ-هيه: «لكي يُستخدم الذكاء الاصطناعي الطبي في الممارسة السريرية الفعلية، لا بد من التحقق ليس فقط من ارتفاع أداء التشخيص، بل أيضاً من أن الأسس التي يقدمها الذكاء الاصطناعي سليمة سريرياً ومتسقة».
ومع ذلك، ركزت هذه الدراسة على تصوير الرنين المغناطيسي البنيوي للدماغ ومهمتين تحليليتين. ولا تزال هناك حاجة إلى تحقق إضافي لمعرفة ما إذا كانت «المتانة» تُظهر المستوى نفسه من الصلاحية في صور طبية أخرى مثل التصوير المقطعي المحوسب (CT)، والأشعة السينية، وصور علم الأمراض.
ويصنف «قانون الذكاء الاصطناعي» في الاتحاد الأوروبي بعض تطبيقات الذكاء الاصطناعي المستخدمة في الأجهزة الطبية وغيرها ضمن الأنظمة عالية المخاطر، ويشترط الشفافية والدقة والمتانة وغيرها. وتُظهر هذه الدراسة أنه عند تقييم الذكاء الاصطناعي الطبي، ينبغي النظر ليس فقط إلى دقة التشخيص، بل أيضاً إلى ما إذا كانت التفسيرات التي يقدمها الذكاء الاصطناعي تبقى متسقة حتى مع تكرار التدريب.
ونُشرت نتائج الدراسة في النسخة الإلكترونية بتاريخ 16 يونيو من الدورية العلمية الدولية 《Medical Image Analysis》.
