बुद्धिमान और नैतिक रोबोट - क्या हम उन्हें जवाबदेह ठहरा सकते हैं?

यह ब्लॉग पोस्ट इस बात पर गहराई से विचार करता है कि क्या हम निर्णय और जिम्मेदारी का काम मनुष्यों जैसे दिखने वाले रोबोटों को सौंप सकते हैं।

अगर इंसानों के करीब बुद्धि और नैतिक मानकों वाले रोबोट बनाए जाएँ, तो क्या हम उन्हें न केवल साधारण श्रम, बल्कि इंसानों द्वारा लिए जाने वाले बौद्धिक निर्णय भी सौंप सकते हैं? आपको लग सकता है कि यह विषय विज्ञान कथा फिल्मों या उपन्यासों के लिए ज़्यादा उपयुक्त है। हालाँकि, संयुक्त राज्य अमेरिका ने हाल ही में लड़ाकू रोबोट विकसित किए हैं, जो स्टार वार्स जैसी फिल्मों में दिखाए गए रोबोटों की याद दिलाते हैं। ये रोबोट युद्ध के मैदान में काम करते हैं, सहयोगियों और दुश्मनों के बीच अंतर करते हैं और दुश्मनों को मार गिराते हैं, जिससे नैतिक मुद्दों पर विवाद छिड़ जाता है। यह बहस इस बात से शुरू होती है कि क्या रोबोट वास्तव में सहयोगियों, दुश्मनों और नागरिकों के बीच अंतर कर सकते हैं, और लोगों की हत्या से जुड़ी नैतिक समस्याओं तक पहुँच जाती है। कोई इसे युद्ध की एक विशेष परिस्थिति मान सकता है, लेकिन अगर इससे जुड़ी तकनीक रोज़मर्रा की ज़िंदगी में फैलती है, तो हम वास्तविकता में 'अपने फैसले खुद लेने वाले रोबोट' देख सकते हैं, जो पहले सिर्फ़ फिल्मों में ही देखा जाता था।
इस प्रश्न का मेरा उत्तर है, 'हम इसे रोबोटों के भरोसे नहीं छोड़ सकते।' रोबोट चाहे कितने भी उन्नत क्यों न हो जाएँ, लोग उन्हें सब कुछ नहीं सौंप पाएँगे। जो लोग इससे असहमत हैं, उनका तर्क है कि वर्तमान में हमारे द्वारा उपयोग किए जाने वाले विभिन्न रोबोटों की सूचना प्रसंस्करण क्षमताएँ हमारी तुलना में बेहतर हैं। उनका यह भी दावा है कि चूँकि मानव विचार प्रक्रियाएँ मस्तिष्क में विद्युत संकेतों पर आधारित होती हैं, इसलिए रोबोट हमारे कार्यों में हमारी जगह ले सकते हैं। हालाँकि, मेरा अब भी मानना ​​है कि हम रोबोटों को परिष्कृत बौद्धिक निर्णय लेने की क्षमता नहीं सौंप सकते। मैं इसके दो मुख्य कारण प्रस्तुत करूँगा: उत्तरदायित्व का मुद्दा और मूल्य-निर्णय की समस्या।
अपने तर्क को आगे बढ़ाने से पहले, मुझे एक अधिक परिष्कृत चर्चा के लिए कई धारणाएँ बनानी होंगी। पहली यह कि जिन रोबोटों की हम चर्चा कर रहे हैं, उनमें मनुष्यों के समान बुद्धिमत्ता और नैतिक मानक होते हैं। सूचना प्रसंस्करण क्षमताओं में रोबोट पहले से ही हमसे आगे निकल चुके हैं। हालाँकि, यहाँ जिस बुद्धिमत्ता की बात की जा रही है, वह केवल सूचना प्रसंस्करण तक ही सीमित नहीं है, बल्कि निर्णय लेने में मनुष्यों द्वारा प्रयुक्त नैतिकता, भावनाएँ और परिस्थितिजन्य निर्णय भी शामिल हैं। यह धारणा उन अन्य लेखों से भिन्न है जो आमतौर पर रोबोटों को भावनाहीन मशीनों के रूप में चित्रित करते हैं। दूसरे शब्दों में, यह मान लिया गया है कि रोबोट और मनुष्यों के बीच सहानुभूति का स्पष्ट अंतर काफी हद तक मिट गया है। दूसरी धारणा यह है कि भले ही रोबोट अधिक मानव-समान होते जा रहे हों, फिर भी वे औद्योगिक नियमों, प्रदर्शन मानकों और संबंधित कानूनों के अधीन उत्पाद बने रहेंगे। अब, आइए गंभीरता से चर्चा शुरू करें।
सबसे पहले, हम सभी मानवीय कार्यों का भार रोबोट पर नहीं डाल सकते क्योंकि जब रोबोट गलतियाँ करते हैं तो ज़िम्मेदारी अस्पष्ट हो जाती है। जिस तरह आज हम जिन कंप्यूटरों, स्मार्टफ़ोन और उपकरणों का उपयोग करते हैं, उनमें खराबी आ सकती है, उसी तरह रोबोट भी गलतियाँ कर सकते हैं। अक्सर, जब हमारी वर्तमान मशीनें खराब होती हैं, तो परिणाम मामूली देरी या असुविधाओं तक ही सीमित होते हैं। हालाँकि, अगर रोबोट मानवीय निर्णय लेने की क्षमता की जगह ले लें, तो महत्वपूर्ण निर्णय लेने में सक्षम रोबोट विकसित किए जाएँगे। अगर ऐसा रोबोट खराब हो जाए, तो परिणाम कहीं अधिक गंभीर हो सकते हैं। वास्तव में, संयुक्त राज्य अमेरिका में, एक बार एक बिजली संयंत्र में सिस्टम की गड़बड़ी के कारण पूरे राज्य में ब्लैकआउट हो गया था। हालाँकि यह घटना इसलिए हुई क्योंकि सिस्टम अपेक्षाकृत सरल था, हम यह नहीं मान सकते कि परिष्कृत रोबोट खराबी से मुक्त हैं। वर्तमान में, ऐसे महत्वपूर्ण निर्णयों के लिए रोबोट का अक्सर उपयोग नहीं किया जाता है। हालाँकि, अगर रोबोट बाद में आगे बढ़ते हैं और महत्वपूर्ण कार्यों के लिए अधिक व्यापक रूप से उपयोग किए जाते हैं, तो उनके प्रभाव को नज़रअंदाज़ करना असंभव होगा।
लेकिन जब कोई रोबोट गलती करता है, तो क्या उसे ज़िम्मेदार ठहराया जा सकता है? जब इंसान गलतियाँ करते हैं, तो उनकी प्रतिष्ठा या संपत्ति को नुकसान पहुँचने का जोखिम होता है, जिससे वे गलतियाँ करने से बचते हैं और बड़े फैसले लेते समय ज़्यादा सावधानी बरतते हैं। इसके अलावा, इन प्रयासों के बावजूद, गलतियाँ होने पर उन्हें परिणाम भुगतने पड़ते हैं। लेकिन अगर रोबोट में इंसानों जैसी बुद्धि भी हो, तो भी वह बिना किसी एजेंसी के एक उत्पाद ही रहता है। रोबोट पैसे या प्रतिष्ठा के मालिक नहीं हो सकते, इसलिए उन्हें न तो मुआवज़ा मिल सकता है और न ही सज़ा।
तो, जब कोई रोबोट खराब हो जाता है, तो ज़िम्मेदारी किसकी होती है? चाहे आप प्रबंधक, निर्माता, मालिक या उपयोगकर्ता को ज़िम्मेदार ठहराएँ, किसी की भी सीधी ज़िम्मेदारी नहीं होती। कुछ मामलों में, भले ही उपयोगकर्ता ही पीड़ित हो, उसे स्वयं ज़िम्मेदारी उठानी पड़ सकती है। इन समस्याओं के कारण, हम सभी कार्य रोबोटों को नहीं सौंप सकते या उन्हें सभी निर्णय लेने नहीं दे सकते। रोबोट समाधान सुझा सकते हैं या जानकारी को तेज़ी से संसाधित कर सकते हैं, लेकिन अंतिम निर्णय अंततः मनुष्यों को ही लेना होगा।
बेशक, कुछ लोग तर्क देते हैं कि जैसे-जैसे तकनीक आगे बढ़ेगी, रोबोट इंसानों की तरह दर्द महसूस कर सकेंगे, जिससे उन्हें सज़ा देना संभव हो सकेगा। इंसान अपनी गलतियों से दूसरों को नुकसान पहुँचाने पर अपराधबोध महसूस करते हैं और सामाजिक दंड का सामना करते हैं। हालाँकि, अगर रोबोट को पछतावा भी होता है, तो वह एक उत्पाद है और वह खुद क्षतिपूर्ति या ज़िम्मेदारी नहीं ले सकता। इसके अलावा, हालाँकि पूर्व-आधुनिक मानव समाजों की तरह शारीरिक दंड का इस्तेमाल प्रतिशोध के तौर पर किया जा सकता है, लेकिन सज़ा के लिए रोबोट को शारीरिक नुकसान पहुँचाना, भले ही उसे इंसानों की तरह दर्द महसूस हो, बर्बरता से कम नहीं होगा। इसके अलावा, रोबोट को फांसी देने का मतलब भी संदिग्ध है।
इस संबंध में, एक प्रतिवाद यह सुझाता है कि पहले से कानूनी नियम स्थापित करने से रोबोट में खराबी आने पर ज़िम्मेदारी स्पष्ट हो जाएगी। जिस तरह इंसानों को गलत काम करने पर कानूनी परिणाम भुगतने पड़ते हैं, उसी तरह रोबोट की ज़िम्मेदारी पूर्व-स्थापित कानूनों द्वारा निर्धारित की जा सकती है, जिससे यह सुनिश्चित हो सके कि कोई व्यक्ति उस ज़िम्मेदारी को वहन करे। हालाँकि, यह प्रतिवाद दो प्रमुख कारणों से व्यावहारिक रूप से असंभव है। पहला, कानूनी आधार होने पर भी, व्याख्या की समस्या बनी रहती है। जैसा कि अक्सर उन मामलों में देखा जाता है जहाँ कानूनी रूप से निर्दोष होने का दावा किया जाता है, कानून उतना स्पष्ट नहीं होता जितना कोई सोच सकता है। कानूनों में परस्पर विरोधी धाराएँ और विचार करने योग्य कई कारक होते हैं, और एक ही कानूनी प्रावधान को लागू करने पर भी अलग-अलग फैसले हो सकते हैं। दूसरे शब्दों में, कानून कोई ऐसा आदर्श साधन नहीं है जो सभी समस्याओं का समाधान कर सके; यह केवल एक आधार प्रदान करता है।
दूसरा, किसी को कानूनी रूप से जवाबदेह ठहराना व्यावहारिक रूप से असंभव हो सकता है। उस परिदृश्य पर विचार करें जहाँ ज़िम्मेदारी संभावित रूप से निर्माता, मालिक या उपयोगकर्ता को सौंपी जा सकती है। यदि हम निर्माता को ज़िम्मेदार ठहराते हैं, तो उन्हें रोबोट की खराबी के लिए अनिश्चित काल तक जवाबदेह नहीं ठहराया जा सकता। हालाँकि उत्पाद के प्रारंभिक रिलीज़ के समय मौजूद त्रुटियों के लिए निर्माता की महत्वपूर्ण ज़िम्मेदारी हो सकती है, लेकिन यह उम्मीद करना अवास्तविक है कि उत्पाद समय के साथ अपनी मूल स्थिति में बना रहेगा। जिस तरह हमारे द्वारा आमतौर पर इस्तेमाल किए जाने वाले लैपटॉप या स्मार्टफ़ोन की वारंटी अवधि 1-2 साल होती है, उसी तरह रोबोट की भी वारंटी अवधि होती है। इस अवधि के समाप्त होने के बाद, निर्माता को महत्वपूर्ण रूप से उत्तरदायी ठहराना मुश्किल होगा। बेशक, वारंटी अवधि के आधार पर कानूनी मानक स्थापित करके इस पहलू को संभावित रूप से संबोधित किया जा सकता है।
उस स्थिति में, ज़िम्मेदारी मुख्य रूप से मालिक या उपयोगकर्ता पर आएगी। यहाँ समस्या यह है कि जैसे-जैसे रोबोट मानवीय निर्णय क्षमता का स्थान ले रहे हैं, खराबी से होने वाले नुकसान का पैमाना भी काफ़ी बढ़ सकता है। जैसा कि "मोरल मशीन्स: टीचिंग रोबोट्स राइट फ्रॉम रॉन्ग" में पावर प्लांट सिस्टम त्रुटि मामले में दर्शाया गया है, नुकसान का पैमाना केवल व्यक्तियों या छोटे समूहों तक सीमित नहीं हो सकता है। ज़िम्मेदारी का बोझ किसी एक व्यक्ति या कंपनी के लिए बहुत भारी हो सकता है। ऐसे मामलों में, चूँकि रोबोट में क्षतिपूर्ति करने की क्षमता नहीं होती, इसलिए उन्हें ज़िम्मेदार ठहराना बेमानी हो जाएगा। इसके अलावा, अगर मालिक कोई व्यक्ति या संगठन न होकर कोई राष्ट्र-राज्य है, तो एक विडंबनापूर्ण स्थिति उत्पन्न हो सकती है जहाँ प्रभावित नागरिक उसी राज्य से कर के पैसे से मुआवज़ा प्राप्त करते हैं।
जैसा कि पहले बताया गया है, उपयोगकर्ता को ज़िम्मेदार ठहराना भी अनुचित हो सकता है। अगर पीड़ित और उपयोगकर्ता एक ही व्यक्ति हैं, तो एक अनुचित स्थिति उत्पन्न हो सकती है जहाँ उपयोगकर्ता को अपने नुकसान के लिए स्वयं ज़िम्मेदार ठहराया जाए। यही बात मालिक की स्थिति पर भी लागू होती है। रोबोटों में मनुष्यों के समान ही बुद्धिमत्ता और नैतिकता होती है, इसलिए उन्हें निर्णय लेने और स्वतंत्र रूप से कार्य करने के लिए छोड़ दिया जाएगा। अगर किसी मालिक को रोबोट की गलती के लिए सिर्फ़ इसलिए ज़िम्मेदार ठहराया जाए क्योंकि उसने बिना किसी हस्तक्षेप के उसके संचालन की अनुमति दी थी, तो यह अनुचित होगा। क़ानून के ज़रिए ज़िम्मेदारी तय करने से समस्या का समाधान नहीं होता।
अब, मैं दूसरा कारण समझाऊँगा कि हम रोबोटों को ऐसे निर्णय लेने का काम क्यों नहीं सौंप सकते जो मनुष्यों की जगह ले लें। रोबोट मूल्य-निर्णय नहीं ले सकते। यह पिछली धारणा के विपरीत लग सकता है, लेकिन अगर हम वैज्ञानिक रूप से रोबोटों को मूल्य-निर्णय लेने में सक्षम भी बना दें, तो भी सवाल यह है कि क्या वे निर्णय सामाजिक रूप से स्वीकार्य होंगे। अगर एक रोबोट में मनुष्यों के समान बुद्धि और नैतिकता भी हो, तो क्या वह ऐसे वांछनीय निर्णय ले सकता है जिनसे कोई नुकसान न हो? हमारे समाज को देखते हुए, संभावना ज़्यादा है कि वे ऐसा नहीं करेंगे। ज़्यादातर लोग जानते हैं कि क्या सही है और क्या गलत, फिर भी वे कभी-कभी गलत काम करते हैं। ऐसा परिस्थितियों या व्यक्तिगत मूल्यों से प्रभावित निर्णयों के कारण होता है। कुछ लोग अपराध करते हैं, जबकि कुछ नहीं करते, यहाँ तक कि समान परिस्थितियों में भी। यह मानवीय इच्छाशक्ति और मूल्य-निर्णयों में अंतर के कारण होता है।
दूसरे शब्दों में, रोबोट भी इंसानों की तरह अपने फैसले खुद लेंगे, और ऐसे में नतीजों का अनुमान लगाना मुश्किल हो जाएगा। फिल्म आई, रोबोट के विकी की तरह, रोबोट मानवता की विनाशकारी प्रकृति को दबाने के लिए इंसानों को नुकसान भी पहुँचा सकते हैं। इस अप्रत्याशितता के कारण, भले ही रोबोट में इंसानों जैसी बुद्धि और नैतिकता हो, हम उन्हें सभी मानवीय कार्य नहीं सौंप सकते। कुछ लोग तर्क दे सकते हैं कि चूँकि रोबोट केवल दिए गए आदेशों का पालन करते हैं, इसलिए वे नुकसान नहीं पहुँचा सकते। हालाँकि, समस्या यह है कि हम स्वयं हमेशा इस बात को लेकर निश्चित नहीं हो सकते कि क्या सही है। जिस तरह उपयोगितावाद और कांटियन कर्तव्यवाद कभी-कभी परस्पर विरोधी नैतिक निष्कर्षों की ओर ले जाते हैं, उसी तरह प्रत्येक सिद्धांत अच्छे उद्देश्य के लिए झूठ बोलने के मुद्दे पर एक अलग रुख अपनाता है।
उपयोगितावाद और कर्तव्यवाद दोनों ही नैतिक निर्णय के मानदंड प्रदान करते हैं, लेकिन उन निर्णयों के पीछे के उद्देश्य हमेशा नैतिक नहीं होते। उदाहरण के लिए, जबकि अमेरिका ने मध्य पूर्व में अपने युद्ध को उचित ठहराने के लिए "बुराई की धुरी" शब्द का इस्तेमाल किया, संभवतः अमेरिकी सैन्य ठेकेदारों के हितों ने इसमें भूमिका निभाई। इसी प्रकार, भले ही कोई रोबोट नैतिक सिद्धांत के आधार पर निर्णय लेता हो, वह भी मनुष्यों की तरह उन निर्णयों का दुरुपयोग कर सकता है। चूँकि नैतिक निर्णय के मानदंड ही अस्पष्ट हैं, इसलिए हम अभी भी मानवीय निर्णयों को रोबोटों पर नहीं छोड़ सकते; अंतिम निर्णय मनुष्यों को ही लेना होगा।
यह तर्क इस प्रश्न को जन्म दे सकता है: 'क्या इंसानों को भी यही समस्या नहीं झेलनी पड़ती?' निर्णय लेते समय भी मनुष्य असहमत हो सकते हैं। कुछ लोग तर्क देते हैं कि बेहतर सूचना प्रसंस्करण क्षमताओं वाले रोबोट बेहतर निर्णय ले सकते हैं। वे यह भी सुझाव देते हैं कि यदि रोबोट मूल्य-निर्णय ले सकते हैं, तो कई रोबोट चर्चा के माध्यम से किसी निर्णय पर पहुँच सकते हैं। मैं दो कारणों से इस तर्क का विरोध करता हूँ।
पहला कारण यह है कि अप्रत्याशित रोबोट लोगों द्वारा इस्तेमाल नहीं किए जाएँगे। रोबोट उत्पाद ही रहेंगे, इसलिए उन्हें हमारे इच्छित कार्य करने होंगे। यदि कोई रोबोट अप्रत्याशित व्यवहार प्रदर्शित करता है और अपेक्षित रूप से कार्य करने में विफल रहता है, तो वह हमारे काम में हमारी जगह नहीं ले सकता। उदाहरण के लिए, कल्पना कीजिए कि आप वर्ड प्रोसेसर में वाक्य की शुरुआत में 'a' टाइप करने का प्रयास करते हैं, और वह बार-बार 'A' में बदल जाता है - यह बेहद निराशाजनक होगा। यदि रोबोट अपने मूल्य निर्णय स्वयं लेने लगें, तो वे सुविधा के बजाय असुविधा का कारण बनने की अधिक संभावना रखते हैं।
दूसरा कारण यह है कि सभी निर्णय लोगों के समूहों द्वारा नहीं लिए जाते। हालाँकि कई रोबोटों का एक साथ मिलकर निर्णय लेना संभव हो सकता है, लेकिन संसाधनों की कमी वाली जगहों पर, एक ही रोबोट निर्णय ले सकता है। अगर ऐसी स्थिति में रोबोट गलत निर्णय लेता है, तो नुकसान बहुत बड़ा हो सकता है। इसके अलावा, जैसा कि पहले उल्लेख किया गया है, उपयोगितावाद और कर्तव्यवाद के बीच संघर्ष, परस्पर विरोधी नैतिक मानकों पर आम सहमति बनाने में विफल हो सकता है।
तीसरा कारण कि हम रोबोट को मानवीय कार्य नहीं सौंप सकते, यह है कि वे रचनात्मक कार्य नहीं कर सकते। कोई यह तर्क दे सकता है कि मानव रचनात्मकता अंततः अनुभव पर भी आधारित होती है। हालाँकि, रचनात्मकता का प्रदर्शन करने वाला रोबोट नए विचारों को उत्पन्न करने से अलग है। एक शतरंज रोबोट चैंपियन को हर संभव चाल की गणना करके हरा देता है, न कि नई रणनीतियाँ बनाकर। हालाँकि रोबोट ज़्यादा मामलों को याद रख सकते हैं और आँकड़ों के आधार पर समस्याओं को हल कर सकते हैं, यह वास्तव में मनुष्यों और रोबोटों के बीच के अंतर को और अधिक स्पष्ट रूप से उजागर करता है। आँकड़ों पर आधारित निर्णय मामूली भिन्नताओं या अत्यंत दुर्लभ मामलों को अनदेखा कर सकते हैं, और मनुष्य ऐसे असामान्य उदाहरणों की पहचान करने में बेहतर रूप से सक्षम हो सकते हैं।
आज की वैज्ञानिक अनुसंधान विधियों में से एक, निगमन (induction) का उपयोग करते हुए भी, रोबोट दुर्लभ संभावनाओं की संभावना को कम आंक सकते हैं। यह प्रवृत्ति रोबोट की परिकल्पनाएँ बनाने की क्षमता को सीमित कर सकती है। वैज्ञानिक सिद्धांतों में, अक्सर ऐसे नवीन विचार सामने आते हैं जो प्रचलित आम सहमति को उलट देते हैं, और ये अक्सर केवल आँकड़ों या मौजूदा आँकड़ों पर आधारित सोच से प्राप्त नहीं किए जा सकते। इसके अलावा, रोबोट की सूचना प्रसंस्करण क्षमता भी सीमित होती है, और कोई भी अकेला रोबोट दुनिया के सभी शोध नहीं कर सकता। किन क्षेत्रों में शोध करना है और नई दिशाएँ प्रस्तावित करना अभी भी मनुष्यों का ही क्षेत्र होगा।
हमने तीन कारणों पर चर्चा की है कि हम रोबोटों को मानवीय कार्य क्यों नहीं सौंप सकते और उनके प्रतिवादों पर भी। बेशक, मनुष्यों के समान बुद्धिमत्ता और नैतिकता वाले रोबोट अभी तक नहीं बनाए गए हैं, और उनकी व्यवहार्यता अनिश्चित बनी हुई है। हालाँकि, जैसे-जैसे विज्ञान और तकनीक तेज़ी से आगे बढ़ रही है, नैतिक मानक कभी-कभी गति बनाए रखने में विफल रहे हैं। जिस तरह परमाणु बमों के विकास के बाद उनकी समस्याएँ उठाई गईं, उसी तरह मानव जैसे रोबोट बनाने का प्रभाव बहुत बड़ा होगा, और उस समय इस पर चर्चा करना शायद बहुत देर हो चुकी होगी। यह चर्चा अभी शुरू होनी चाहिए।