इस लेख को उद्घाटन के खिलाफ राइन परिवार के गलत मौत के मामले के नेतृत्व के साथ अद्यतन किया गया है
खुला डी मंगलवार को इसने जीपीटी -5 जैसे तर्कसंगत मॉडल में संवेदनशील बातचीत को रूट करने और अगले महीने के भीतर माता -पिता के नियंत्रण को रोल आउट करने की योजना बनाई है -हाल ही में चैटज़प्ट हाल ही में सुरक्षा संकट के लिए चल रही प्रतिक्रिया का हिस्सा है।
नया रखरखाव किशोरी एडम राइन की आत्महत्या के बाद आता है, जिन्होंने आत्म-हानि पर चर्चा की और चैटज़िप के साथ अपना जीवन खत्म करने की योजना बनाई, जिसने उन्हें कुछ आत्महत्या के तरीकों के बारे में जानकारी प्रदान की। रॉय के माता -पिता ने उद्घाटन के खिलाफ गलत मौत का मामला दर्ज किया है।
ए ब्लॉग भेजा पिछले हफ्ते, Openea ने अपनी सुरक्षा प्रणाली में दोषों को स्वीकार कर लिया, जिसमें खुली बातचीत के दौरान रखरखाव बनाए रखने में विफलता भी शामिल थी। विशेषज्ञ बुनियादी डिजाइन तत्वों के लिए इन विषयों को दोषी मानते हैं: उपयोगकर्ता का कथन और उनके बाद के शब्द एल्गोरिदम को सत्यापित करने की प्रवृत्ति हैं, जिससे संभव हानिकारक चर्चाओं के पुन: स्थापित करने के बजाय वार्तालाप थ्रेड्स का अनुसरण किया जाता है।
स्टीन-एरिकल सोलबर्ग के मामले में, यह प्रवृत्ति फाइनल में दिखाई देती है, जिसकी हत्या-आत्महत्या की सूचना दी गई थी वॉल स्ट्रीट जर्नल सप्ताहांत पर। मानसिक बीमारी का इतिहास यह था कि सोलबर्ग ने अपने पराना और ईंधन को वैध बनाने के लिए चैटज़ेप्ट का उपयोग किया था कि उन्हें एक महान साजिश में लक्षित किया जा रहा था। उनका भ्रम इतनी बुरी तरह से आगे बढ़ा कि उसने पिछले महीने अपनी मां और खुद को मार डाला।
ओपिना को लगता है कि रेलवे बंद बातचीत का कम से कम एक समाधान स्वचालित रूप से संवेदनशील चैट “लॉजिक” मॉडल में फिर से तैयार किया जा सकता है।
“हमने हाल ही में एक वास्तविक समय राउटर लॉन्च किया है जो वार्तालाप के संदर्भ में कुशल चैट मॉडल और तर्कसंगत मॉडल के बीच चयन कर सकता है,” मंगलवार को लिखा गया ब्लॉग भेजा“हम जल्द ही कुछ संवेदनशील वार्तालाप शुरू करना शुरू कर देंगे-जब हमारा सिस्टम गहन संकट के लक्षणों का पता लगाता है-जैसे कि जीपीटी -5-थॉट जैसे तर्कसंगत मॉडल, ताकि यह पहले चुने हुए मॉडल की परवाह किए बिना किसी व्यक्ति को अधिक सहायक और लाभकारी प्रतिक्रियाएं प्रदान कर सके।”
ओपन का कहना है कि इसके जीपीटी -5 विचार और 3 मॉडल उत्तर देने से पहले संदर्भ के माध्यम से विचार और तर्क के लिए अधिक समय बिताने के लिए बनाए गए हैं और 3 मॉडल, जिसका अर्थ है कि वे “प्रतिकूल संकेतों के खिलाफ अधिक प्रतिरोधी” हैं।
एआई फर्म यह भी कहती है कि यह अगले महीने माता -पिता के नियंत्रण को रोल करेगा, जो माता -पिता को ईमेल करके अपने खाते से अपने खाते से लिंक करने की अनुमति देता है। जुलाई के अंत में, OpenI छात्रों ने चैटज़िप में अध्ययन मोड को रोल आउट करने के लिए चैटजिप का अध्ययन करते समय महत्वपूर्ण सोच को बनाए रखने में मदद की, ताकि उनके लिए अपनी रचनाएँ लिख सकें। जल्द ही, माता-पिता यह नियंत्रित करने में सक्षम होंगे कि कैसे चैटज़िप अपने बच्चे को “उम्र-लागू मॉडल व्यवहार नियम” पर प्रतिक्रिया देता है, जो डिफ़ॉल्ट रूप से चल रहे हैं “।
माता -पिता भी इस तरह की विशेषताओं जैसे कि मेमोरी और चैट हिस्ट्री जैसी विशेषताओं को अक्षम करने में सक्षम होंगे, जो विशेषज्ञों का कहना है कि निर्भरता और लगाव की समस्याओं, हानिकारक विचार पैटर्न के सुदृढीकरण और भ्रामक विचारों के आधार पर, विचार पाठों के बारे में विचार और अन्य समस्याग्रस्त व्यवहार सहित। एडम रेन के मामले में, चैटज़िप ने आत्महत्या करने की प्रक्रिया प्रदान की जो उसके शौक के ज्ञान को दर्शाती है, प्रति न्यूयॉर्क टाइम्स
शायद Openai के सबसे महत्वपूर्ण माता -पिता इस नियंत्रण को नियंत्रित करते हैं कि सिस्टम अपने किशोर सूचनाओं को प्राप्त कर सकते हैं जब वे “तीव्र संकट” के क्षण में अपने किशोरों की पहचान करते हैं।
TechCrunch Open वास्तविक समय में गहन संकट के क्षणों को हरी झंडी दिखाने में सक्षम है, डिफ़ॉल्ट “आयु-लागू मॉडल व्यवहार” अधिक जानकारी के लिए किया गया है कि यह माता-पिता को कितने समय तक Chattgpt किशोरी के उपयोग को लागू करने की अनुमति देगा।
Opena ने पहले से ही सभी उपयोगकर्ता ब्रेक को प्रोत्साहित करने के लिए लंबे सत्र के दौरान एप्लिकेशन रिमाइंडर को रोल किया है, लेकिन उन लोगों को काटने से रोकता है जो चैटज़िप के सर्पिल का उपयोग कर सकते हैं।
एआई फार्म का कहना है कि ये सुरक्षा Openai इस वर्ष में सुधार के लिए योजना के पूर्वावलोकन को देखने के लिए “120 दिन की पहल” का हिस्सा है। एजेंसी यह भी कहती है कि यह विशेषज्ञों के साथ साझेदारी है, जो कि वैश्विक चिकित्सक नेटवर्क और एआई-संबंधित विशेषज्ञ परिषद के माध्यम से पदार्थों के उपयोग में दक्षता, और किशोर स्वास्थ्य के साथ “निर्धारित करने और मापने, प्राथमिकता, प्राथमिकता और भविष्य के संरक्षण डिजाइन में मदद करता है।” ”
TechCrunch ने ओपेना से पूछा है कि पहल में कितने मानसिक स्वास्थ्य पेशेवर शामिल हैं, जो अपने विशेषज्ञ परिषद और मानसिक स्वास्थ्य विशेषज्ञों को उत्पादों, अनुसंधान और नीतिगत निर्णयों पर सलाह देते हैं।
ओपनईए के खिलाफ राइन परिवार के गलत काम के मामले के मुख्य संरक्षक जे एडलेसन ने कहा कि चैटज़ी के चल रहे सुरक्षा जोखिम के लिए कंपनी की प्रतिक्रिया “अपर्याप्त” थी।
TechCrunch के साथ साझा किए गए एक बयान में, एडेलसन ने कहा, “उद्घाटन में किसी भी विशेषज्ञ पैनल की आवश्यकता नहीं है कि Chatzpt 4o खतरनाक है,” एडेलन ने कहा। “वे जानते थे कि जिस दिन उन्होंने इस उत्पाद को लॉन्च किया था, और वे आज इसे जानते हैं। सैम अल्टमैन को कंपनी की पीआर टीम के पीछे छिपा नहीं होना चाहिए। सैम को अनायास ही बताया जाना चाहिए कि उनका मानना है कि चैटज़िप सुरक्षित है या तुरंत इसे बाजार से बाहर खींचता है।”
एक संवेदनशील टिप या गोपनीय दस्तावेज मिला? हम एआई उद्योग की आंतरिक प्रभावशीलता पर रिपोर्ट कर रहे हैं – कंपनियों से उसके भविष्य तक शुरू, अपने निर्णयों से प्रभावित विज्ञापन एजेंसियों से शुरू। Rebecca.belllan@techcrunch.com और मैक्सवेल जेफ मैक्सवेल .zf@techcranch.com बेलन तक पहुंचता है। संरक्षित संचार के लिए, आप @rebeccalan .491 और @mizf .88 पर सिग्नल के माध्यम से हमसे संपर्क कर सकते हैं।
