أصدرت منظمة الصحة العالمية (المنظمة) منشورا جديدا يعدّد أبرز الاعتبارات التنظيمية بشأن استخدام الذكاء الاصطناعي في مجال الصحة. ويشدّد المنشور على أهمية التثبت من مأمونية نظم الذكاء الاصطناعي وفعاليتها، وتسريع إتاحة النظم المناسبة لمن يحتاجون إليها، وتعزيز الحوار بين أصحاب المصلحة، بما في ذلك المطورون والهيئات التنظيمية والشركات المصنّعة والعاملون الصحيون والمرضى.
وفي ظل تزايد البيانات المتاحة بشأن الرعاية الصحية والتقدم السريع في تقنيات التحليل - سواء تلك المتعلقة بالتعلم الآلي أو تلك القائمة على المنطق أو الإحصائية - يمكن لأدوات الذكاء الاصطناعي أن تحدث تحولا في قطاع الصحة. وتدرك المنظمة الإمكانات التي ينطوي عليها الذكاء الاصطناعي من حيث تحسين الحصائل الصحية من خلال تعزيز التجارب السريرية؛ وتحسين التشخيص الطبي والعلاج والرعاية الذاتية والرعاية التي تركز على الشخص؛ وسد مكامن النقص في معارف ومهارات وكفاءات العاملين في مجال الرعاية الصحية. فعلى سبيل المثال، يمكن أن يكون الذكاء الاصطناعي مفيدا في البيئات التي تفتقر إلى أطباء متخصصين، مثلا في تفسير فحوصات الشبكية وصور الأشعة وأمور أخرى كثيرة.
ومع ذلك، تتسارع وتيرة نشر تكنولوجيات الذكاء الاصطناعي - بما في ذلك النماذج اللغوية الكبيرة - وأحيانا دون فهم كامل للكيفية التي يمكن أن تشتغل بها، مما قد يفيد أو يضر المستخدمين النهائيين، بمن فيهم أخصائيو الرعاية الصحية والمرضى. وعند استخدام البيانات الصحية، يمكن أن تتطلع نظم الذكاء الاصطناعي على معلومات شخصية حساسة، مما يستلزم وضع أطر قانونية وتنظيمية متينة لحماية الخصوصية والأمن والسلامة، ويهدف هذا المنشور إلى المساعدة في وضع تلك الأطر وصيانتها.
وقال الدكتور تيدروس أدحانوم غيبريسوس، المدير العام للمنظمة، "يحمل الذكاء الاصطناعي تباشير واعدة لقطاع الصحة، ولكنه ينطوي أيضا على تحديات خطيرة، بما في ذلك جمع البيانات بأساليب غير أخلاقية، وتهديدات الأمن السيبراني، وترسيخ التحيزات أو المعلومات المضللة. وستدعم هذه الإرشادات الجديدة البلدان في تنظيم الذكاء الاصطناعي بفعالية، وتسخير إمكاناته، سواء في علاج السرطان أو الكشف عن السل، مع تقليل المخاطر إلى أدنى حد".
واستجابة لتزايد احتياجات البلدان فيما يتعلق بالإدارة المسؤولة للانتشار السريع لتكنولوجيات الذكاء الاصطناعي المستخدمة في مجال الصحة، يحدد المنشور ستة مجالات لتنظيم استخدامات الذكاء الاصطناعي في مجال الصحة.
- من أجل تعزيز الثقة، يشدد المنشور على أهمية الشفافية والتوثيق، بسبل منها مثلا توثيق دورة حياة المنتج بكاملها وتتبع عمليات التطوير.
- فيما يتعلق بإدارة المخاطر، يجب معالجة مسائل مثل "الاستخدام المقصود" و "التعلم المستمر" والتدخلات البشرية ونماذج التدريب وتهديدات الأمن السيبراني، معالجةً شاملة، مع تبسيط النماذج قدر الإمكان.
- يساعد التحقق من صحة البيانات من مصدر خارجي وتوخي الوضوح بشأن الاستخدام المقصود للذكاء الاصطناعي على ضمان السلامة وتيسير التنظيم.
- يعد الالتزام بجودة البيانات، بسبل منها مثلا التقييم الدقيق للنظم قبل إصدارها، ضروريا لضمان عدم قيام النظم بتوسيع نطاق انتشار التحيزات والأخطاء.
- يتم التعامل مع التحديات التي تطرحها اللوائح التنظيمية المهمة والمعقدة - مثل اللائحة العامة لحماية البيانات في أوروبا وقانون إخضاع التأمين الصحي لقابلية النقل والمساءلة في الولايات المتحدة الأمريكية - مع التركيز على فهم نطاق الولاية ومتطلبات الموافقة، من أجل صون الخصوصية وحماية البيانات.
- يمكن أن يساعد تعزيز التعاون بين الهيئات التنظيمية والمرضى والمتخصصين في الرعاية الصحية وممثلي الصناعة والشركاء الحكوميين في ضمان امتثال المنتجات والخدمات للوائح طوال دورات حياتها.
ونظم الذكاء الاصطناعي هي نظم معقدة لا تعتمد فقط على الرموز التي أنشئت بها ولكن أيضا على البيانات التي دُربت عليها، والتي تأتي من البيئات السريرية وتفاعلات المستخدمين - على سبيل المثال. ويمكن أن يساعد تحسين التنظيم في إدارة مخاطر ترسيخ الذكاء الاصطناعي للتحيزات في بيانات التدريب.
وعلى سبيل المثال، قد يكون من الصعب على نماذج الذكاء الاصطناعي أن تمثل تنوع السكان تمثيلا دقيقا، مما يؤدي إلى التحيزات أو عدم الدقة أو حتى الفشل. وللمساعدة في التخفيف من هذه المخاطر ، يمكن استخدام اللوائح لضمان الإبلاغ عن خصائص الأشخاص الذين ظهروا في بيانات التدريب - مثل النوع الاجتماعي والعرق والإثنية – والقصد إلى جعل مجموعات البيانات تمثيلية.
ويهدف منشور المنظمة الجديد إلى تحديد المبادئ الرئيسية التي يمكن للحكومات والسلطات التنظيمية اتباعها في وضع إرشادات جديدة أو تكييف الإرشادات القائمة بشأن الذكاء الاصطناعي على الصعيدين الوطني أو الإقليمي.