خلال جائحة كوفيد-19، استخدم الباحثون والأطباء أدوات الذكاء الاصطناعي للكشف عن فيروس SARS-CoV-2.تصوير: نيلسون ألميدا/وكالة الصحافة الفرنسية/غيتي
منذ إصدار ChatGPT من OpenAI في نوفمبر 2022، شقت أدوات الذكاء الاصطناعي التوليدي طريقها إلى العيادات بسرعة وعلى نطاق واسع. بعض الأرقام مذهلة.
أحضر لنا شهادات LLM الخاصة بك: لماذا تعتبر مراجعة النظراء مفيدة لنماذج الذكاء الاصطناعي
وفي أقل من أربع سنوات، تم نشر آلاف الدراسات التي تصف وتختبر وتقيم الاستخدام في الرعاية الصحية لنماذج الذكاء الاصطناعي ذات الأغراض العامة والأنظمة المتخصصة المدربة على المعرفة الطبية. ووفقا لأحد التقديرات، يتم نشر ما يقرب من ثلاث مقالات خاضعة لمراجعة النظراء حول أدوات الذكاء الاصطناعي المستخدمة في الطب السريري كل يوم1. بالنسبة للعديد من الأشخاص، أصبحت روبوتات الدردشة مصدرًا أساسيًا للمشورة الطبية. كل أسبوع، يطرح أكثر من 230 مليون شخص حول العالم أسئلة متعلقة بالصحة على ChatGPT.
علاوة على ذلك، يشهد قطاع الرعاية الصحية نموا هائلا في عدد المنتجات الطبية التي تعتمد على الذكاء الاصطناعي والتي تهدف إلى مساعدة الأطباء وفرق الإدارة السريرية في عملهم، بما في ذلك عملية صنع القرار. يمكن لأنظمة الذكاء الاصطناعي الآن التعامل مع المهام الإدارية المعقدة وطلب الاختبارات المعملية. يمكنهم مساعدة الأطباء على وصف الأدوية2 وتفسير الأشعة السينية3والتصوير بالرنين المغناطيسي (MRI) وصور التصوير المقطعي المحوسب (CT).4. ويمكن استخدامها أيضًا لتشخيص الأمراض النادرة5.
لكن هذه الإنجازات تأتي مصحوبة ببعض الأسئلة الكبيرة: من الذي ينظم هذه الفئة المبتكرة من المنتجات الطبية؟ كيف يفعلون هذا؟ وكيف يمكن للجمهور أن يكون واثقًا من أن الأنظمة الطبية التي تعمل بالذكاء الاصطناعي قادرة على فعل ما يقول المطورون إنهم يفعلونه؟
أراد ردود الفعل
تسعى إدارة الغذاء والدواء الأمريكية (FDA) للحصول على تعليقات للإجابة على بعض هذه الأسئلة من خلال ورقة مناقشة نشرت في أغسطس. تتناول المقالة كيفية تنظيم الأجهزة الطبية التي تدعم الذكاء الاصطناعي التوليدي (انظر go.nature.com/3tagjxj). ونحث الباحثين على تقديم آرائهم. الموعد النهائي لتقديم الطلبات هو 19 أكتوبر. وتنشر دول أخرى أيضًا مقترحات لاستخدام الذكاء الاصطناعي في الرعاية الصحية، بما في ذلك لوائح الأجهزة الطبية.
بحث شفاف: هل يمكن لشركات التكنولوجيا أن تتعلم من شركات الأدوية الكبرى؟
تسمح إدارة الغذاء والدواء الأمريكية (FDA) ونظيراتها حول العالم حاليًا بالمنتجات الطبية وفقًا لحجم المخاطر. بشكل عام، يجب أن تستوفي جميع المنتجات معايير الجودة والسلامة الملزمة قانونًا، ولكن لا يلزم اختبارها جميعًا بشكل مستقل عن الشركات المصنعة لها أو في إعدادات العالم الحقيقي. على سبيل المثال، يمكن لمصنعي الضمادات أن يشهدوا بأنفسهم على استيفاء المعايير. غالبًا ما يحتاج صانعو أجهزة التقييم الصحي، مثل السماعات الطبية، إلى تصريح من طرف ثالث، ولكن يمكن إجراء مثل هذه الاختبارات في المختبر. وفي المقابل، لا بد من اختبار المنتجات التشخيصية التي تؤثر على القرارات السريرية في مواقف العالم الحقيقي، وفي بعض الحالات، من خلال تجارب سريرية مماثلة لتلك المستخدمة لتقييم الأدوية. بشكل عام، كلما زاد الخطر الذي يتعرض له الشخص إذا حدث خطأ ما في المنتج، زادت الحاجة إلى التدقيق للحصول على الترخيص.
وتتساءل إدارة الغذاء والدواء الأمريكية وغيرها الآن عما إذا كان ينبغي فحص المنتجات الطبية التي تعمل بالذكاء الاصطناعي التوليدي بشكل أكثر شمولاً. الجواب في معظم الحالات يجب أن يكون “نعم”. إن أجهزة الذكاء الاصطناعي التي يمكنها تسجيل وتلخيص المحادثات بين الطبيب والمريض هي أكثر من مجرد أدوات إدارية لأن مخرجاتها تُستخدم في اتخاذ القرارات السريرية. وفي بعض الحالات، تساعد هذه الأدوات أو غيرها الأطباء في تشخيص المرض. ويجب اختبارها بشكل شامل وشفاف قبل نشرها.
في أ مقال التعليق المنشور في طب الطبيعة في سبتمبريرى الباحثون أن التجارب السريرية المسجلة مسبقًا يجب أن تصبح معيارًا لأنظمة الذكاء الاصطناعي المستخدمة في الصحة والطب، كما هو الحال بالنسبة للأدوية واللقاحات على نطاق أوسع6.
مشاكل المقارنة المرجعية
حاليًا، يتم اعتماد بعض المنتجات الطبية المدعمة بالذكاء الاصطناعي دون تقييمها في بيئة العالم الحقيقي. وهذه ليست ممارسة جيدة لأن هذه المنتجات جديدة ولا يوجد سوى القليل من مصادر البيانات التي يمكن للشركات الاعتماد عليها لتقييم ما ينجح وما لا ينجح. في حالة نموذج سماعة الطبيب المنقح أو نوع مبتكر من الضمادات، هناك بالفعل عقود من البيانات، بما في ذلك من إعدادات العالم الحقيقي، والتي يمكن للمصنعين مقارنة هذه المنتجات بها.
وعلى النقيض من ذلك، يعمل الذكاء الاصطناعي على تشغيل الأجهزة التي لم تكن موجودة من قبل والتي كانت البيانات السريرية الخاصة بها نادرة أو غير موجودة. مراجعة منهجية نشرت في طب الطبيعة في شهر مارس، وجدت أن 23% فقط من حوالي 4600 ورقة بحثية حول أدوات الذكاء الاصطناعي في الطب السريري تستخدم بيانات المرضى في العالم الحقيقي، وأن 19 دراسة فقط كانت عبارة عن تجارب عشوائية محتملة.1.
يمكن للبيانات الاصطناعية أن تفيد الأبحاث الطبية، ولكن يجب الاعتراف بالمخاطر
هناك مشكلة أخرى في الممارسة الحالية لنماذج الذكاء الاصطناعي وهي أن الشركات غالبًا ما تختبرها في سيناريوهات محاكاة لمرة واحدة حيث تكون دقة حكم النموذج منخفضة. تقاس ضد حكم الأطباء البشر في نفس السيناريو. علاوة على ذلك، وجدت الدراسات التي قارنت نماذج الذكاء الاصطناعي الطبية المتخصصة مع النماذج ذات الأغراض العامة نتائج متضاربة حول ما إذا كانت الأنظمة المتخصصة قد حسنت الدقة7,8. في نهاية المطاف، حتى نماذج الذكاء الاصطناعي الدقيقة لا تعكس وجهات نظر المرضى. على سبيل المثال، لا تسأل الشركات التي تقوم بتطويرها الأشخاص عادة عما إذا كانوا يوافقون على أن هذه التقنيات يجب أن تكون جزءًا من رعايتهم.
ومن المثير للاهتمام أن هناك تطبيقًا واحدًا للذكاء الاصطناعي له آثار واضحة على السلامة والصحة والرفاهية، ولا يجادل أحد بشأن الحاجة إلى بيانات العالم الحقيقي. تتخذ الحكومات الوطنية وحكومات المدن نهجا حذرا تجاه السيارات ذاتية القيادة، وتتبع مبادئ لا تختلف عن تلك المستخدمة لتنظيم المخدرات. وقد تم اختبار مثل هذه السيارات لآلاف الساعات في ظروف معملية، وفي سيناريوهات محاكاة، وتحت إشراف في الشوارع. هذه التقييمات ضرورية لأن عواقب أي أخطاء ستكون مروعة.
لا يحتاج كل جهاز طبي يعمل بالذكاء الاصطناعي إلى الاختبار في تجارب عشوائية محكومة واسعة النطاق، ولكن المبادئ التي تقوم عليها هذه التقييمات لا تزال سارية. لا يمكن التفاوض على شفافية البيانات والبيانات المفتوحة والاختبار في بيئات العالم الحقيقي.
