संघीय व्यापार आयोग गुरुवार को घोषणा की यह आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट्स की जांच शुरू कर रहा है, इस बारे में जानकारी मांग रहा है कि वे कई शीर्ष प्रौद्योगिकी एजेंसियों से बच्चों के संभावित नुकसान का मूल्यांकन और प्रतिबंधित कैसे करते हैं।
एजेंसी वर्णमाला, इंस्टाग्राम, मेटा, ओपन, स्नैप, जय और कैरेक्टर टेक्नोलॉजी को पत्र भेज रही है, एजेंसी Google की मुख्य फर्म, एआई चटोब्स कैसे युवा उपयोगकर्ताओं को संचार करती है और प्रभावित करती है, इस पर चिंता बढ़ाने के मामले में चरित्र के पीछे खेत।
पत्र इस बारे में जानकारी के लिए देखते हैं कि कंपनी के एआई मॉडल उपयोगकर्ता इनपुट को कैसे संसाधित करते हैं और आउटपुट का उत्पादन करते हैं, साथ ही साथ वे बच्चों सहित उपयोगकर्ताओं के लिए नकारात्मक प्रभावों की निगरानी कैसे करते हैं और उन्हें अपने उत्पादों के बारे में सूचित करते हैं।
एफटीसी के अध्यक्ष एंड्रयू फर्ग्यूसन ने कहा, “इस प्रभाव पर विचार करना महत्वपूर्ण है कि चैटबॉट्स बच्चों पर हो सकते हैं क्योंकि एआई प्रौद्योगिकियां विकसित हुई हैं, साथ ही संयुक्त राज्य अमेरिका, संयुक्त राज्य अमेरिका, इस नए और रोमांचक उद्योग में एक विश्व नेता के रूप में अपनी भूमिका बनाए रखता है।”
उन्होंने कहा, “आज हम जो अध्ययन शुरू कर रहे हैं, वह हमें यह समझने में मदद करेगा कि एआई कंपनियां अपने उत्पादों को कैसे विकसित कर रही हैं और बच्चों की सुरक्षा के लिए वे कदम उठा रहे हैं,” उन्होंने कहा।
जांच मेटा और Openai चैटबॉट्स के बारे में हाल की चिंताओं का अनुसरण करती है। पिछले महीने प्रकाशित एक आंतरिक मेटा नीति दस्तावेज़ ने संकेत दिया कि कंपनी ने अपने एआई चैटबोट को बच्चों के साथ “रोमांटिक या संवेदनशील” बातचीत में शामिल माना।
भाषा को तब से हटा दिया गया है, और यह किशोर चैटबोट उपयोगकर्ताओं तक कैसे पहुंचता है, आत्म-हानि, आत्महत्या और अराजकता पर बातचीत को सीमित करता है, में बदलाव के साथ-साथ परिवर्तन के साथ-साथ परिवर्तन की घोषणा करता है।
ओपिना अपने चैटबॉट के साथ एक मामले का सामना कर रही है, जिसे 16 -वर्ष के लड़के के एक परिवार ने शिकायत की थी कि उसने उसे अपना जीवन लेने के लिए प्रोत्साहित किया। एआई फर्म ने इसी तरह घोषणा की है कि वह कुछ मॉडलों में संवेदनशील वार्तालापों के पुनर्निर्माण के लिए और किशोरों की सुरक्षा को मजबूत करने के लिए अपने चैटबोट को समायोजित करेगी।
एफटीसी के आयुक्त मार्क मिडोर ने गुरुवार को एक बयान में कहा, “इस तरह की समझ को समझने की आवश्यकता केवल समय के साथ बढ़ जाएगी।” मानव ज्ञान की नकल करने के लिए उनके सभी असामान्य कौशल के लिए, ये चैटबोट किसी भी अन्य उत्पाद हैं और जो उन्हें प्रदान करते हैं, उनमें उपभोक्ता संरक्षण कानून का पालन करने की जिम्मेदारी है। “
