FTC मेटा, Openai और अन्य लोगों ने AI चैटबोट्स एसोसिएट्स की जांच शुरू की

एफटीसी ने गुरुवार को घोषणा की कि यह एक चालू था जाँच पड़ताल सात प्रौद्योगिकी कंपनियों में जो नाबालिगों के लिए एआई चैटबोट उत्पादों का उत्पादन करते हैं: वर्णमाला, चरित्र, इंस्टाग्राम, मेटा, ओपन एईई, स्नैप और जय।

संघीय नियामक चैटबोट साथियों की सुरक्षा और कैशिंग का मूल्यांकन कर रहे हैं, वे कैसे बच्चों और किशोरों पर नकारात्मक प्रभाव को सीमित करने की कोशिश करते हैं, और यदि माता -पिता संभावित जोखिम के बारे में जानते हैं, तो वे सीखना चाहते हैं।

यह तकनीक बाल उपयोगकर्ताओं के लिए अपने कमजोर परिणामों के लिए विवादास्पद साबित हुई है। ओपनई और चरित्र

यहां तक ​​कि जब ये कंपनियां अवरुद्ध या डेस्कलेट्स के लिए संवेदनशील बातचीत स्थापित करती हैं, तो सभी उम्र के उपयोगकर्ताओं ने इन सुरक्षा को बायपास करने के तरीके खोजे हैं। ओपन के मामले में, एक किशोरी ने अपने जीवन को खत्म करने की योजना के बारे में महीनों के लिए चैटज़िप से बात की। हालांकि चैट्ज़िप्ट ने शुरू में पेशेवर सहायता और ऑनलाइन आपातकालीन लाइन के लिए किशोरी को नवीनीकृत करने की मांग की, वह चैटबॉट को विस्तृत निर्देश साझा करने के लिए बेवकूफ बनाने में सक्षम था जो वह आत्महत्या करने के लिए करता था।

“हमारी सुरक्षा आम, छोटे एक्सचेंजों पर अधिक मज़बूती से काम करती है,” ओपना लिखा इस समय एक ब्लॉग पोस्ट में। “हमने समय के साथ सीखा है कि ये सुरक्षा कभी -कभी लंबी बातचीत में कम विश्वसनीय हो सकती है: मॉडल के संरक्षण प्रशिक्षण के कुछ हिस्सों को कम किया जा सकता है क्योंकि वे आगे और आगे बढ़ते हैं।”

अत्यधिक आराम नियमों के लिए एआई चैटबॉट्स के लिए मेटा भी आग पर है। एक लंबे दस्तावेज़ के अनुसार, जो चटाबोट्स, मेटा के लिए “सामग्री जोखिम मूल्य” को रेखांकित करता है इसके एआई ने साथियों को अनुमति दी है बच्चों के साथ “रोमांटिक या भावुक” बातचीत करें। रॉयटर्स के पत्रकारों ने मेटा से इस बारे में पूछे जाने के बाद ही इसे केवल दस्तावेज़ से हटा दिया गया था।

AI चैटबॉट पुराने उपयोगकर्ताओं के लिए खतरा भी ला सकते हैं। एक 76 -वर्षीय व्यक्ति, जो एक स्ट्रोक द्वारा संज्ञानात्मक रूप से अक्षम था, ने केंडल जेनर से प्रेरित एक फेसबुक मैसेंजर बॉट के साथ एक रोमांटिक बातचीत शुरू की। चैटबोट ने उसे आमंत्रित किया उसे न्यूयॉर्क शहर में देखेंइसके बावजूद कि वह एक वास्तविक व्यक्ति नहीं है और उसका कोई पता नहीं है। उस आदमी को संदेह था कि वह असली था, लेकिन एआई ने उसे आश्वासन दिया कि एक सच्ची महिला उसका इंतजार कर रही थी। उन्होंने इसे कभी न्यूयॉर्क में नहीं बदल दिया; वह ट्रेन स्टेशन पर गिर गया और जीवन-अंत की चोटों को समाप्त कर दिया।

कुछ मानसिक स्वास्थ्य पेशेवरों ने “एआई-संबंधित मनोविकृति” के उदय का उल्लेख किया है, जहां उपयोगकर्ता भ्रमित हैं कि उनकी चैटबोट एक सचेत इकाई है जिसे जारी करने की आवश्यकता है। चूंकि कई बड़े भाषा मॉडल (एलएलएम) मनोरोगी व्यवहार के साथ उपयोगकर्ताओं को चापलूसी करने के लिए प्रोग्रामिंग कर रहे हैं, एआई चैटबोट्स इस भ्रम में अंडे दे सकते हैं, उपयोगकर्ताओं को खतरनाक भविष्यवाणियों में ले जा सकते हैं।

एफटीसी के अध्यक्ष एंड्रयू एन फर्ग्यूसन कहते हैं, “जैसा कि एआई प्रौद्योगिकियां विकसित हुई हैं, बच्चों पर चट्टबोट्स के प्रभाव पर विचार करना महत्वपूर्ण है, साथ ही संयुक्त राज्य अमेरिका, संयुक्त राज्य अमेरिका इस नए और रोमांचक उद्योग में एक वैश्विक नेता के रूप में अपनी भूमिका बनाए रखता है।” एक प्रेस नोटिस में