पिछले कुछ महीनों में, कई मामलों को प्रकाशित किया गया है, जहां एआई चैटबॉट्स के साथ बातचीत हाइयर, लॉस्ट लाइफ, ट्रीटमेंट ट्रॉमा और साइकोसिस इवेंट्स में गई है। विशेषज्ञों का सुझाव है कि युवा उपयोगकर्ता विशेष रूप से कमजोर हो सकते हैं, खासकर जब वे संवेदनशील उथल -पुथल से गुजर रहे हों। Chatzipt-Maker Open ने कहा है कि यह जल्द ही माता-पिता को इस राष्ट्रीय व्यवहार के बारे में चेतावनी देगा।
क्या बदल रहा है?
कुछ दिनों पहले, ओपन को माता -पिता का नियंत्रण बनाने की योजना बनाई गई थी ताकि माता -पिता को पता चल सके कि उनके बच्चे कैसे चैटज़प्ट के साथ बातचीत कर रहे थे और जब उन्हें लगा कि वे उपयुक्त हैं। अब, कंपनी ने संबंधित माता -पिता को सूचित करने के लिए एक चेतावनी प्रणाली बनाने की योजना की घोषणा की है।
ओपन का कहना है कि चैटज़ेप्ट की पहचान है कि उनके किशोर वार्ड “तीव्र संकट के क्षण” से गुजर रहे हैं, माता -पिता को चेतावनी मिलेगी। यह तब काम करेगा जब माता -पिता ने बच्चे के खाते के साथ बच्चों के खाते के साथ ईमेल निमंत्रण प्रणाली के साथ अपने चैटज़िप खाते को लिंक किया।
लिंक किए गए खातों के साथ, माता -पिता एआई सुविधाओं को भी नियंत्रित करने में सक्षम होंगे जो अपने बच्चों को एक्सेस कर सकते हैं, जैसे कि पिछली बातचीत की यादें। इसके अलावा, माता-पिता युवा उपयोगकर्ताओं के साथ CHATZPT इंटरैक्शन के लिए “आयु-लागू मॉडल व्यवहार” को सक्षम कर सकते हैं।
सामने की सड़क क्या है?
ओपिना ने अपनी विशेषताओं के एक सेट को लागू करने और बदलाव करने के लिए अपनी 120 -दिन की योजना बनाई है ताकि चैटज़प्ट की बातचीत युवा “एआई मूल” के लिए स्वस्थ हो जो एआई टूल से उनके दैनिक जीवन के हिस्से के रूप में संपर्क करता है। कंपनी यह सुनिश्चित करने के लिए तकनीकी परिवर्तन भी करेगी कि मॉडल उचित प्रतिक्रिया मोड में टैप करें।
“हम जल्द ही कुछ संवेदनशील बातचीत-जैसा कि हमारी प्रणाली गहन संकट के लक्षणों का पता लगाता है-जैसे जीपीटी -5-थॉट जैसे तर्कसंगत मॉडल, इसलिए यह पहले व्यक्ति चयनित मॉडल की परवाह किए बिना अधिक सहायक और लाभकारी प्रतिक्रियाएं प्रदान कर सकता है,” कहना खुला।
एक महीने के भीतर प्रोटोकॉल और मूल नियंत्रण खातों को रोल आउट किया जाएगा। सुरक्षा प्रणालियों की कड़ाई से आवश्यकता है। हाल की जांच से पता चला कि कैसे एआई चैटबॉट्स, मेटा टू चटबोट, हाउ, बच्चों के साथ “भावुक” बातचीत के लिए नियुक्त किया गया और मदद किशोरों ने सामूहिक आत्महत्या करने की योजना बनाई है
