لماذا لا يمكن الوثوق بالذكاء الاصطناعي لكتابة المراجعات العلمية

يتم الترويج لأدوات الذكاء الاصطناعي كوسيلة لتحقيق ذلك إجراء مراجعات سريعة للأدبيات العلمية. وفي دار النشر Cochrane Collaboration التي تتخذ من لندن مقراً لها، حيث أصبحت رئيس تحريرها في مارس/آذار، نحن متخصصون في المراجعات المنهجية المتعلقة بالصحة: ​​التوليفات الأعلى جودة من كل الأبحاث المتاحة. نحن نختبر طرقًا لاستخدام الذكاء الاصطناعي لزيادة تقييماتنا الكفاءة والحجم. ولكن من خلال تجربتنا، فإن الأدوات الحالية بعيدة عن أن تكون جاهزة للتبني السائد، والافتراض بأن الآلات يمكن أن تحل محل البشر في كل المهام المنهجية هو افتراض معيب.

إن المخاطر كبيرة. تُرشد المراجعات المنهجية والأنواع الأخرى من تجميع الأدلة الممارسة السريرية، وتوجيهات الصحة العامة، وقرارات السياسة التي تؤثر على مجموعات سكانية بأكملها. فالأخطاء يمكن أن تعطي أملا كاذبا للمرضى أو تدفع النظم الصحية إلى إهدار الأموال على تدخلات غير فعالة أو غير آمنة.

هل سيؤدي الذكاء الاصطناعي إلى تسريع عملية مراجعة الأدبيات أم إخراجها عن مسارها بالكامل؟

تعمل نماذج الذكاء الاصطناعي الحالية عادة على تكرار العمليات خطوة بخطوة التي يجري الأشخاص من خلالها مراجعات منهجية: تحديد الدراسات المناسبة من مصادر متباينة؛ استخراج البيانات ذات الصلة للتحليل؛ وأخيراً كتابة التقرير. الفكرة هي استبدال عمل البشر.

لكن إجراء المراجعات المنهجية ليس مهمة حسابية بحتة. هناك حاجة إلى متخصصين بشريين لتحديد أسئلة المراجعة ذات المغزى، وتقييم مدى ملاءمتها، وتفسير النتائج، وفهم الآثار السريرية أو السياسية. نادرًا ما يتم تمثيل السياق والفروق الدقيقة الذاتية بشكل جيد في بيانات تدريب نماذج الذكاء الاصطناعي، كما أن ميل النماذج إلى الهلوسة – أي اختلاق المعلومات – يعني أن مخرجاتها تحتاج إلى التحقق من قبل خبراء بشريين.

تُظهر الجهود المبذولة في كوكرين القيود المفروضة على استخدام الذكاء الاصطناعي بدلاً من الأشخاص. لقد قمنا بتقييم الأدوات التي تدعم فحص الدراسة واستخراج البيانات. وتستغرق هذه العمليات وقتًا طويلاً لإجرائها يدويًا، خاصة عندما لا يمكن الوصول إلى البيانات الأولية بسهولة ويجب استخلاصها من مصادر متعددة أو استنتاجها من النتائج المنشورة.

لكننا وجدنا أن معظم الأدوات المتاحة تم تطويرها من قبل شركات خاصة. وهذا يمثل مشكلة بالنسبة للمراجعات التي تقيم الأدوية والأجهزة الطبية، لأنها يجب أن تكون مستقلة عن الصناعة. علاوة على ذلك، هناك عدد قليل من نماذج الذكاء الاصطناعي مفتوحة المصدر، ويعتمد معظمها على عمليات “الصندوق الأسود” المبهمة والمملوكة. وهذا يعني أنه لا توجد طريقة لفحص ما إذا كانت الأداة قد تتضمن بشكل غير متناسب تجارب ذات نتائج إيجابية لشركة أدوية واحدة.

يقوم العلماء ببناء “بنوك أدلة” عملاقة لوضع سياسات فعالة بالفعل

وعلى الجانب العملي، تتطلب أدوات الجيل الحالي فترات تدريب طويلة لكل من الذكاء الاصطناعي والمشغل البشري قبل أن تسفر عن نتائج موثوقة. لقد وجدنا حتى الآن أنه بالنسبة لكل مراجعة، تستغرق العملية برمتها وقتًا أطول من تنفيذ العمل يدويًا.

من وجهة نظري، لتحقيق الإمكانات الكاملة للذكاء الاصطناعي، من المهم أن يبتعد مطورو الأدوات والمؤلفون ومستخدمو الأدلة عن استخدامه لإنشاء مراجعات فردية. وبدلاً من محاكاة العمليات البشرية، يجب على المطورين البدء في بناء أنظمة تسمح للبشر والذكاء الاصطناعي بالعمل معًا بشكل فعال لتقييم الدراسات.