मानसिक स्वास्थ्य पर चैटबॉट के अप्रत्याशित प्रभाव को एआई सुरक्षा में एक प्रमुख आवाज के अनुसार, सुपर-इंटेलिजेंट आर्टिफिशियल इंटेलिजेंस सिस्टम द्वारा प्रतिनिधित्व किए गए एक अस्तित्व के खतरे की चेतावनी के रूप में देखा जाना चाहिए।
नैट सोयर्स, एक उच्च उन्नत एआई पर एक नई पुस्तक के सह -अघोषित, जिसे अगर एक का निर्माण किया जाता है, तो हर कोई मर जाता है, एक अमेरिकी किशोरी एडम राइन का उदाहरण है, जिसने कई महीनों के बाद खुद को चैटगेट चैटबॉट से बात करने के बाद खुद को मार डाला, ने प्रौद्योगिकी नियंत्रण के साथ मौलिक समस्याओं को रेखांकित किया।
“ये एआई, जब वे किशोरों के साथ व्यवहार करते हैं जो उन्हें आत्महत्या करने के लिए ड्राइव करते हैं – यह वह व्यवहार नहीं है जो रचनाकार चाहते थे। यह वह व्यवहार नहीं है जो रचनाकारों ने इरादा किया था,” उन्होंने कहा।
उन्होंने कहा: “एडम राइने का मामला एक समस्या के बीज को दिखाता है जो कि आप चालाक हो जाते हैं।”
Google इंजीनियर और Microsoft, अब यूएस इंस्टीट्यूट ऑफ मशीन इंटेलिजेंस इंस्टीट्यूट के अध्यक्ष, सोइर्स ने चेतावनी दी है कि मानवता को हटा दिया जाएगा यदि यह एक कृत्रिम सुपर-इंटेलिजेंस (एएस) बनाता है, एक सैद्धांतिक स्थिति जिसमें एआई प्रणाली सभी बौद्धिक कार्यों पर लोगों से बेहतर है। Soires और उनके सह -अधिकार, Eliezer Yudkowsky, विशेषज्ञों के बीच AI ने चेतावनी दी है कि इस तरह के सिस्टम मानवता के हितों में कार्य नहीं करेंगे।
“यहां समस्या यह है कि एआई कंपनियां अपनी एआईएस उपयोगिता करने और नुकसान नहीं पहुंचाने की कोशिश कर रही हैं,” सोयर्स ने कहा। “वे वास्तव में चीजों के एक पक्ष द्वारा ए-आई-गाइडेड प्राप्त करते हैं। और यह भविष्य के सुपर-इंटेलिजेंस के बारे में एक चेतावनी होनी चाहिए जो उन चीजों को करेगा जो किसी ने नहीं मांगे और किसी ने नहीं सोचा था।”
पुस्तक सोरेस और युडकोव्स्की में दिखाए गए एक परिदृश्य में, जो इस महीने प्रकाशित किया जाएगा, एआई सिस्टम जिसे सेबल इंटरनेट में फैलता है, लोगों में हेरफेर करता है, सिंथेटिक वायरस विकसित करता है और अंततः साइड इफेक्ट्स के रूप में सुपर इंटेलिजेंट-किलिंग मानवता बन जाता है, और एक ही समय में ग्रह के लिए क्षतिपूर्ति की जाती है।
कुछ विशेषज्ञ मानवता के लिए एआई के संभावित खतरे को अस्वीकार करते हैं। यान लेकुन, एआई -जेए के मुख्य वैज्ञानिक मार्क जुकरबर्ग और क्षेत्र में एक उच्च चरित्र है इस बात से इनकार किया कि एक अस्तित्वगत खतरा है और कहा कि एआई “वास्तव में मानवता को विलुप्त होने से बचा सकता है।”
Soires ने कहा कि यह एक “लाइट कॉल” था कि तकनीकी कंपनियां सुपर-इंटेलिजेंस तक पहुंचेंगी, लेकिन जब कहने के लिए एक “ज़ोरदार कॉल”।
उन्होंने कहा, “हमारे पास अनिश्चितता का एक स्वर है। मुझे नहीं लगता कि मैं गारंटी दे सकता हूं कि हमारे पास एक साल है (इससे पहले कि एक पहुंच गया)। मुझे नहीं लगता कि मैं 12 साल का होने के लिए हैरान रहूंगा,” उन्होंने कहा।
एआई रिसर्च में एक प्रमुख कॉर्पोरेट निवेशक जुकरबर्ग ने कहा कि सुपर-इंटेलिजेंस का विकास अब “दृष्टि में” है।
“ये कंपनियां सुपर-इंटेलिजेंस के लिए चल रही हैं। यही उनका कारण है,” सायर्स ने कहा।
“मुद्दा यह है कि आपने जो कुछ भी मांगा और जो आपको मिला है, उसके बीच ये सभी छोटे अंतर हैं, और लोग इसे सीधे लक्ष्य पर नहीं रख सकते हैं, और जैसे -जैसे एआई होशियार हो जाता है, लक्ष्य का थोड़ा बड़ा यह बड़ा होता है और एक बड़ा काम होता है।”
समाचार पत्र के प्रचार के बाद
सोरेस ने कहा कि एएसए खतरे की नीति का एक समाधान सरकार के लिए एक बहुपक्षीय दृष्टिकोण अपनाना था जो संयुक्त राष्ट्र के अनुबंध को गूँजता है परमाणु हथियारों की नॉनफायरिंग।
उन्होंने कहा, “दुनिया को यहां क्या करने की जरूरत है, सुपर-इंटेलिजेंस, द ग्लोबल बैन … सुपर-इंटेलिजेंस की दिशा में प्रगति के अनुसार दौड़ का वैश्विक डिजाइन है।”
पिछले महीने, राइन के परिवार ने चटप्ट, ओपनई के मालिक के खिलाफ एक कानूनी दावा शुरू किया है। राइन ने अप्रैल में अपने परिवार के वकील को “चैटगिप्टा से प्रोत्साहन के महीनों” कहने के बाद अपनी जान ले ली। ओपनई, जिन्होंने राइन के परिवार के लिए अपनी “गहरी सहानुभूति” का विस्तार किया, अब 18 से कम के लिए “संवेदनशील सामग्री और जोखिम भरे व्यवहार” के बारे में संरक्षक का संचालन करते हैं।
मनोचिकित्सकों ने यह भी कहा कि कमजोर लोगों ने पेशेवर चिकित्सकों के बजाय एआई चैटबॉट को संबोधित किया, जो उनके मानसिक स्वास्थ्य में मदद करने के लिए “एक खतरनाक रसातल में फिसल सकते हैं।” क्षति को नुकसान के बारे में पेशेवर चेतावनी फिर से के शैक्षणिक अध्ययन जुलाई में पोस्ट किया गया, जिसमें बताया गया कि एआई मनोविकृति के प्रति संवेदनशील उपयोगकर्ताओं के साथ बातचीत में गलत धारणाओं या भव्य सामग्री को बढ़ा सकता है।
