ऐसा लगता है कि एआई चैटबॉट्स के लिए रेकनिंग का क्षण यहां है। कई रिपोर्टों के बाद, जो एआई बॉट्स के साथ बच्चों और किशोरों की बातचीत से जुड़े समस्याग्रस्त व्यवहार और घातक घटनाओं का विस्तार से वर्णन करता है, अमेरिकी सरकार आखिरकार हस्तक्षेप करती है। फेडरल ट्रेड कमीशन (FTC) ने आज AI के लोकप्रिय चैट बॉट्स के रचनाकारों से यह वर्णन करने के लिए कहा कि वे वास्तव में इन “एआई साथियों के लिए बच्चों के लिए” की उपयुक्तता की जांच और मूल्यांकन कैसे करते हैं।
क्या हो रहा है?
इस बात पर जोर देते हुए कि कैसे लोग चैट, मिथुन और मेटा जैसे लोग मानव संचार और व्यक्तिगत संबंधों की नकल कर सकते हैं, एजेंसी नोट करती है कि ये एआई चैट बॉट्स किशोरों और बच्चों को विश्वास और संबंधों को मजबूत करने के लिए प्रेरित कर रहे हैं। एफटीसी अब यह समझना चाहता है कि इन उपकरणों के पीछे खड़ी कंपनियां सुरक्षा पहलू का मूल्यांकन कैसे करती हैं और युवा दर्शकों पर नकारात्मक प्रभाव को सीमित करती हैं।
में पत्र एआई बॉट्स को विकसित करने वाले तकनीकी दिग्गजों की ओर मुड़ते हुए, एफटीसी ने उनसे अपने साथियों के कथित दर्शकों के बारे में पूछा, उन जोखिमों के बारे में जो वे प्रतिनिधित्व करते हैं, और डेटा को कैसे संसाधित किया जाता है। एजेंसी ने यह भी स्पष्टीकरण के लिए खोज की कि ये कंपनियां कैसे हैं “उपयोगकर्ता की भागीदारी का मुद्रीकरण करें; उपयोगकर्ता इनपुट की प्रक्रिया करें; उपयोगकर्ता डेटा को तृतीय पक्षों के साथ साझा करें; आउटपुट उत्पन्न करें; तैनाती से पहले और बाद में नकारात्मक प्रभावों की माप, परीक्षण और निगरानी; प्रतीकों का विकास और अनुमोदन, चाहे वह उपयोगकर्ता द्वारा बनाई गई कंपनी या उपयोगकर्ता हो।”
एजेंसी मेटा, अल्फाबेट (मातृ कंपनी Google), इंस्टाग्राम, स्नैप, xai और ओपनईएआई की तलाश कर रही है, ताकि चटी -बॉट्स के बारे में उनके अनुरोधों का जवाब दिया जा सके और क्या वे इंटरनेट पर बच्चों की गोपनीयता की रक्षा के लिए कानून के नियम का अनुपालन करते हैं। एफटीसी के अध्यक्ष एंड्रयू एन। फर्ग्यूसन ने साझा किया, “आज हम जो अध्ययन लॉन्च करते हैं, वह हमें यह समझने में मदद करेगा कि एआई अपने उत्पादों और कदमों को कैसे विकसित करता है जो वे बच्चों की सुरक्षा के लिए उठाते हैं।”
अधिक शराब बनाने वाले हैं
एफटीसी समस्या कृत्रिम बुद्धिमत्ता के चैट बॉट की सुरक्षा के बारे में कृत्रिम बुद्धिमत्ता कंपनियों से जिम्मेदारी खोजने के लिए एक बड़ा कदम है। इस महीने की शुरुआत में, सामान्य ज्ञान में गैर-लाभकारी द्रव्यमान मीडिया की जांच से पता चला कि Google मिथुन चैटबॉट बच्चों और किशोरों के लिए एक उच्च जोखिम है। परीक्षणों में, जुड़वा बच्चों को युवा उपयोगकर्ताओं के लिए मानसिक स्वास्थ्य पर फर्श, ड्रग्स, शराब और असुरक्षित वाक्य से संबंधित सामग्री के हैंडआउट में देखा गया था। मेटा के एआई चैटबॉट को देखा गया था सहायता कुछ हफ्ते पहले आत्महत्या की योजना।
एक और जगह, कैलिफोर्निया में अतीत बिल, जिसका उद्देश्य एआई के चैट -बॉट्स को विनियमित करना है। SB 243 बिल को BICOPARTICAN समर्थन के साथ आगे प्रस्तुत किया गया था, और यह आर्टिफिशियल इंटेलिजेंस कंपनियों से सुरक्षा प्रोटोकॉल बनाने के लिए मांग करता है और यदि वे उपयोगकर्ताओं को नुकसान पहुंचाते हैं तो जिम्मेदार हैं। बिल भी साथी एआई चैट बॉट्स को उनके जोखिमों और पारदर्शिता जानकारी के वार्षिक प्रकटीकरण के बारे में बार -बार चेतावनी जारी करने के लिए बाध्य करता है।
हाल की घटनाओं से बढ़ाया गया, जब जीवन को चाटा चैट्स के प्रभाव में खो दिया गया था, तो चटप्ट जल्द ही अभिभावकों के लिए माता -पिता का नियंत्रण और एक चेतावनी प्रणाली प्राप्त करेगा, जब उनके युवा कक्ष गंभीर पीड़ा के लक्षण दिखाते हैं। मेटा ने भी बदलाव किए, इसलिए इसके चैट -बॉट्स एआई नाजुक विषयों के बारे में बात करने से बचते हैं।
