विश्व स्वास्थ्य संगठन (डब्ल्यूएचओ) ने स्वास्थ्य देखभाल में कृत्रिम बुद्धिमत्ता (एआई) के नियमन के लिए कई विचारों की रूपरेखा तैयार की है। डब्ल्यूएचओ ने हाल ही में एक नया प्रकाशन जारी किया है, जिसमें प्रमुख नियामक विचारों को सूचीबद्ध किया गया है, जो एआई उपकरणों में सुरक्षा और प्रभावशीलता स्थापित करने, उन लोगों के लिए सिस्टम उपलब्ध कराने और एआई उपकरण विकसित करने और उपयोग करने वालों के बीच संवाद को बढ़ावा देने के महत्व को छूता है। अग्रणी डाटा और एनालिटिक्स कंपनी ग्लोबलडाटा का कहना है कि यह कदम स्वास्थ्य सेवा में एआई टूल के उपयोग से जुड़ी संभावित चुनौतियों पर प्रकाश डालता है।
डब्ल्यूएचओ स्वास्थ्य देखभाल में एआई की क्षमता को पहचानता है क्योंकि यह नैदानिक परीक्षणों को मजबूत करने, निदान और उपचार में सुधार और स्वास्थ्य देखभाल पेशेवरों के ज्ञान और कौशल की सहायता के माध्यम से मौजूदा उपकरणों या प्रणालियों में सुधार कर सकता है। ग्लोबलडाटा की वरिष्ठ विश्लेषक एलेक्जेंड्रा मर्डोक ने कहा कि “एआई ने पहले ही कई उपकरणों और प्रणालियों में सुधार किया है और एआई के बहुत सारे लाभ हैं। हालांकि, इन उपकरणों और इन्हें तेजी से अपनाने के साथ जोखिम भी हैं।” एआई प्रौद्योगिकियों को बहुत तेजी से तैनात किया गया है और हमेशा इस बात की पूरी समझ के साथ नहीं कि वे लंबे समय में कैसे काम करेंगी, जो स्वास्थ्य देखभाल पेशेवरों या रोगियों के लिए हानिकारक हो सकती है। चिकित्सा या स्वास्थ्य सेवा में एआई सिस्टम की अक्सर व्यक्तिगत और चिकित्सा जानकारी तक पहुंच होती है इसलिए गोपनीयता और सुरक्षा सुनिश्चित करने के लिए नियामक ढांचा होना चाहिए। स्वास्थ्य सेवा में एआई के साथ कई अन्य संभावित चुनौतियां हैं, जैसे अनैतिक डेटा संग्रह, साइबर सुरक्षा जोखिम, और बढ़ते पूर्वाग्रह और गलत सूचना।
एआई टूल्स में पूर्वाग्रह का एक ताजा उदाहरण स्टैनफोर्ड यूनिवर्सिटी द्वारा किए गए एक अध्ययन से मिलता है। अध्ययन के नतीजों से पता चला कि कुछ एआई चैटबॉट्स ने प्रतिक्रियाएं प्रदान कीं जो काले लोगों के बारे में गलत चिकित्सा जानकारी को कायम रखती हैं। अध्ययन में ओपनएआई के चैटजीपीटी और गूगल के बॉर्ड सहित चार एआई चैटबॉट्स के माध्यम से 9 प्रश्न पूछे गए। जब किडनी और फेफड़ों की कार्यप्रणाली के बारे में पूछा गया तो चारों चैटबॉट्स ने जाति-आधारित जानकारी को खारिज कर दिया। मर्डोक ने कहा कि झूठी चिकित्सा जानकारी का उपयोग बेहद चिंताजनक है और इससे काले रोगियों के लिए गलत निदान या अनुचित उपचार सहित कई समस्याएं पैदा हो सकती हैं।
