चैटगिप्टा के पीछे एक कंपनी अधिकारियों को कॉल करना शुरू कर सकती है जब युवा उपयोगकर्ता आत्महत्या के बारे में गंभीर होते हैं, उनके सह -संक्षेपक ने कहा।
अल्टमैन ने खुद इस डर को उठाया कि एक सप्ताह में 1,500 लोग ऐसा करने से पहले चैटबॉट के साथ अपनी जान लेने के बारे में बात कर सकते हैं।
सैन फ्रांसिस्को में मुख्यालय के साथ ओपनआई सीईओ, जो अनुमानित 700 मिलियन वैश्विक उपयोगकर्ताओं के साथ चैटबॉट का प्रबंधन करता है, ने कहा कि सिस्टम को प्रशिक्षित करने का निर्णय ताकि अधिकारियों को इस तरह की आपात स्थितियों में चेतावनी दी गई थी, यह अभी तक अंतिम नहीं है। लेकिन उन्होंने कहा कि “आत्महत्या के बारे में बात करने वाले युवाओं के मामलों में हमसे कहना बहुत उचित है, गंभीरता से, जहां हम अपने माता -पिता से संपर्क नहीं कर सकते, हम अधिकारियों को कहते हैं।”
बुधवार को, ऑल्टमैन ने पॉडकास्टर टकर कार्लसन के साथ एक साक्षात्कार में एक संभावित बदलाव पर जोर दिया, जिन्होंने ओपनई और ऑल्टमैन के बाद कैलिफोर्निया के एक 16 वर्षीय एडम राइन के परिवार पर मुकदमा दायर किया, जिन्होंने अपने परिवार के वकील को “चैट से प्रोत्साहन के महीनों” कहा। इसने उन्हें निर्देशित किया कि क्या उनके अपने जीवन से वंचित करने की उनकी विधि अभिनय करेगी और उन्हें अपने माता -पिता को एक सुसाइड नोट लिखने में मदद करने की पेशकश की, उन्होंने एक कानूनी अनुरोध में कहा।
अल्टमैन ने कहा कि उपयोगकर्ताओं के अपने जीवन में जाने के मुद्दे ने इसे रात में जगाया। यह तुरंत स्पष्ट नहीं था कि अधिकारियों को क्या कहा जाएगा या ओपनआईआई की जानकारी उन्हें एक उपयोगकर्ता के बारे में साझा करने के लिए क्या है, जैसे कि टेलीफोन नंबर या पते, जो सहायता प्रदान करने में मदद कर सकते हैं।
यह एआई कंपनियों के लिए नीति का एक महत्वपूर्ण बदलाव होगा, अल्टमैन ने कहा, जिन्होंने इस बात पर जोर दिया कि “उपयोगकर्ताओं की गोपनीयता वास्तव में महत्वपूर्ण है।” उन्होंने कहा कि यदि उपयोगकर्ता ने एक आत्महत्या का विचार दिखाया, तो चैटगेट उन्हें “होटल की आत्महत्या को कॉल करने के लिए आमंत्रित करेगा।”
अप्रैल में रेन की मृत्यु के बाद, $ 500 बिलियन की एक कंपनी ने घोषणा की कि वह 18 साल से कम उम्र के उपयोगकर्ताओं के लिए “संवेदनशील सामग्री और जोखिम भरे व्यवहार पर मजबूत सुरक्षात्मक धारियों” को स्थापित करेगी और माता -पिता की अनुमति देने के लिए माता -पिता के नियंत्रण का परिचय देगी “अधिक अंतर्दृष्टि और डिजाइन प्राप्त करने के लिए एक विकल्प, क्योंकि उनके किशोर चैट का उपयोग करते हैं।”
“एक सप्ताह में 15,000 लोग आत्महत्या शुरू करते हैं,” अल्टमैन ने पॉडकास्टर को बताया। “लगभग 10% दुनिया चटप्ट से बात करती है। यह 1,500 लोगों की तरह है जो एक सप्ताह में बात करते हैं, यह मानते हुए कि यह सही है, चटप्ट और अभी भी अंत में आत्महत्या कर रहा है। उन्होंने शायद इसके बारे में बात की। हम शायद अपने जीवन को बचाते हैं। शायद हम कुछ बेहतर नहीं कह सकते हैं। “
आत्महत्या के आंकड़े दुनिया भर में मूल्यांकन प्रतीत होते हैं। विश्व स्वास्थ्य संगठन वह कहता है आत्महत्या से हर साल 720,000 से अधिक लोग मर जाते हैं।
अल्टमैन ने यह भी कहा कि वह आत्महत्या की सलाह लेने के लिए सिस्टम को खेलने वाले कुछ कमजोर लोगों को रोकेंगे, जो एक काल्पनिक कहानी के लिए जानकारी प्राप्त करने का नाटक करेंगे, जो वे लिखते हैं या चिकित्सा अनुसंधान करते हैं।
उन्होंने कहा कि वह “मामूली उपयोगकर्ताओं और शायद उपयोगकर्ताओं के लिए उचित होगा, हमें लगता है कि वे आम तौर पर नाजुक मानसिक साइटों में हैं” “कुछ स्वतंत्रता को दूर करने के लिए”।
“हमें कहना चाहिए, अरे, भले ही आप एक कहानी लिखने की कोशिश कर रहे हों या यहां तक कि अगर आप चिकित्सा अनुसंधान करने की कोशिश कर रहे हैं, तो हम सिर्फ जवाब नहीं देंगे।”
Openi के प्रवक्ता ने Altman की टिप्पणियों को जोड़ने से इनकार कर दिया, लेकिन हाल के सार्वजनिक बयानों से संबंधित, जिसमें “आपातकाल के एक क्लिक तक पहुंच बढ़ाने” और “पहले हस्तक्षेप करने और तीव्र संकट में होने से पहले लोगों को प्रमाणित चिकित्सक से संबंधित करने की प्रतिज्ञा शामिल है।”
