Ethical use of Generative AI in Healthcare

 हाल ही में, विश्व स्वास्थ्य संगठन (World Health Organization- WHO) ने चैटजीपीटी (ChatGPT), बार्ड (Bard) और बर्ट (Bert) जैसी जेनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) प्रौद्योगिकियों के परिवर्तनकारी प्रभाव को स्वीकार करते हुए स्वास्थ्य सेवा में लार्ज मल्टी-मोडल मॉडल (LMM) के एथिकल/नैतिक प्रयोग और संचालन के लिये दिशानिर्देश जारी किया है।

लार्ज मल्टी-मोडल मॉडल (Large Multi-Modal Models- LMM) क्या है?

LMM ऐसा मॉडल है जो मानव जैसी धारणा की नकल करने के लिये कई संवेदी इनपुट का प्रयोग करता है। यह आर्टिफिशियल इंटेलिजेंस (AI) को मानव संचार की एक विस्तृत शृंखला पर प्रतिक्रिया करने में सहयता करता है, जिससे संचार अधिक वास्तविक और सहज हो जाती है।

LMM कई डेटा प्रकारों को एकीकृत करते हैं, जैसे इमेज, टेक्स्ट, लैंग्वेज, ऑडियो और अन्य विविधता। यह मॉडलों को छवियों, वीडियो और ऑडियो को समझने और उपयोगकर्त्ताओं के साथ संवाद करने में मदद करता है। 

मल्टीमॉडल LMM के कुछ उदाहरणों में GPT-4V, MedPalm M, Dall-E, Stable Diffusion और Midjourney शामिल हैं।

 स्वास्थ्य देखभाल में LMM के प्रयोग के संबंध में WHO के दिशानिर्देश क्या हैं?

WHO का नया मार्गदर्शन स्वास्थ्य देखभाल में LMM के पाँच व्यापक अनुप्रयोगों की रूपरेखा प्रदान करता है:

निदान और नैदानिक देखभाल, जैसे रोगियों के लिखित प्रश्नों का उत्तर देना;

रोगी-निर्देशित उपयोग, जैसे लक्षणों की जाँच और उपचार के लिये;

लिपिकीय और प्रशासनिक कार्य, जैसे इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड के भीतर रोगियों के विज़िट (Patient Visits) का दस्तावेज़ीकरण और सारांश बनाना;

चिकित्सा और नर्सिंग शिक्षा, जिसमें प्रशिक्षुओं को नकली रोगी मुठभेड़ प्रदान करना शामिल है, और;

इसमें औषधियों के लिये नए यौगिकों की पहचान सहित वैज्ञानिक अनुसंधान और औषधि विकास शामिल है।

स्वास्थ्य सेवा में LMM के बारे में WHO ने क्या चिंताएँ जताई हैं? 

तेज़ी से अपनाने और सावधानी की आवश्यकता:

LMM को अपनाने की दर किसी भी अन्य उपभोक्ता प्रौद्योगिकी से आगे निकल गई है, जो अद्वितीय है।

LMM मानव संचार की नकल करने और स्पष्ट प्रोग्रामिंग के बिना कार्य करने की क्षमता के लिये जाना जाता है।

हालाँकि इसे तेज़ी से अपनाने से इसके संभावित खतरों तथा लाभों का तुलनात्मक अध्ययन आवश्यक है।

जोखिम और चुनौतियाँ:

अपने आशाजनक अनुप्रयोगों के बावजूद LMM जोखिम उत्पन्न कर सकते हैं जिसमें झूठे, गलत या पक्षपातपूर्ण जानकारी शामिल हैं जो स्वास्थ्य संबंधी निर्णयों को प्रभावित कर सकते हैं।

इन मॉडलों को प्रशिक्षित करने के लिये उपयोग किया जाने वाला डेटा गुणवत्ता अथवा पूर्वाग्रह के मुद्दों से प्रभावित हो सकता है जो संभावित रूप से नस्ल, जातीयता, लिंग, लिंग पहचान अथवा आयु के आधार पर होने वाली असमानताओं को जारी रखने में भूमिका निभा सकता है।

LMM की पहुँच और वहनीयता:

इसके अतिरिक्त अन्य चिंताएँ भी हैं जैसे: LMM की पहुँच तथा वहनीयता एवं स्वास्थ्य देखभाल में ऑटोमेशन पूर्वाग्रह (Automation Bias) (स्वचालित प्रणालियों पर बहुत अधिक भरोसा करने की प्रवृत्ति) का जोखिम जिससे पेशेवर एवं मरीज़ द्वारा त्रुटियों को नज़रअंदाज़ करने की संभावना बढ़ जाती है।

साइबर सुरक्षा:

रोगी की जानकारी की संवेदनशीलता तथा इन एल्गोरिदम की विश्वसनीयता पर निर्भरता को देखते हुए साइबर सुरक्षा एक अन्य महत्त्वपूर्ण मुद्दा है।

LMM से संबंधित WHO की प्रमुख सिफारिशें क्या हैं?

WHO द्वारा LMM विकास तथा नियोजन के सभी चरणों में सरकारों, प्रौद्योगिकी कंपनियों, स्वास्थ्य सेवा प्रदाताओं, रोगियों एवं नागरिक समाज को शामिल करते हुए एक सहयोगात्मक दृष्टिकोण पर संपर्क स्थापित किया गया।

AI प्रौद्योगिकियों को प्रभावी ढंग से विनियमित करने के लिये वैश्विक सहकारी नेतृत्त्व की आवश्यकता पर बल दिया गया। सभी देशों की सरकारों को LMM जैसी AI प्रौद्योगिकियों के विकास एवं उपयोग को प्रभावी ढंग से विनियमित करने के लिये सहयोगात्मक रूप से प्रयास करना चाहिये।

यह नया मार्गदर्शन उनकी जटिलताओं और नैतिक विचारों को ध्यान में रखते हुए स्वास्थ्य सेवा में LMM की क्षमता का उपयोग करने के लिये एक रोडमैप प्रदान करता है।

मई 2023 में WHO ने स्वास्थ्य के लिये AI के डिज़ाइन, विकास और नियोजन करने के दौरान नैतिक सिद्धांतों तथा उचित शासन को क्रियान्वित करने के महत्त्व पर प्रकाश डाला था जैसा कि स्वास्थ्य के लिये AI की नैतिकता और शासन पर WHO के मार्गदर्शन में बताया गया है।

WHO द्वारा पहचाने गए छह मूल सिद्धांत निम्नलिखित हैं:

स्वायत्तता की रक्षा करना।

मानव कल्याण, मानव सुरक्षा और सार्वजनिक हित को बढ़ावा देना।

पारदर्शिता, व्याख्यात्मकता और सुगमता सुनिश्चित करना।

उत्तरदायित्व और जवाबदेही सुनिश्चित करना।

समावेशिता और समानता सुनिश्चित करना।

प्रतिक्रियाशील और सतत् AI को बढ़ावा देना।