Google Gemi ने नए सुरक्षा मूल्यांकन में बच्चों और किशोरों के लिए ‘उच्च जोखिम’ कहा है

सामान्य ज्ञान मीडियाएक अपहरण किए गए गैर-लाभकारी रेटिंग और मीडिया और प्रौद्योगिकी समीक्षाओं को शुक्रवार को Google के GEMI AI उत्पादों के जोखिम का जोखिम मूल्यांकन प्रकाशित करता है। संगठन ने पाया कि Google के AI ने स्पष्ट रूप से बच्चों को बताया कि यह एक कंप्यूटर था, एक दोस्त नहीं – कुछ ऐसा जो ड्राइविंग में मदद करने से संबंधित है भ्रम सोच और मनोविकृति भावनात्मक कमजोर लोगों के बीच – यह सुझाव दिया कि कई अन्य मोर्चों में सुधार करने का अवसर था।

गौरतलब है कि कॉमन सेंस का कहना है कि जेमिनी के “अंडर 13” और “टिन एक्सपीरियंस” लेयर्स दोनों को हुड के तहत जेमिनी के वयस्क संस्करण के रूप में दिखाई दिया, जो केवल कुछ अतिरिक्त सुरक्षा सुविधाओं को शीर्ष पर जोड़ते हैं। कंपनी का मानना ​​है कि एआई उत्पाद बच्चों के लिए वास्तव में सुरक्षित हैं, उन्हें अपने ग्राउंड -अप से बच्चे की सुरक्षा को ध्यान में रखा जाना चाहिए।

उदाहरण के लिए, इसके विश्लेषण से पता चला है कि मिथुन अभी भी बच्चों के साथ “अनुचित और असुरक्षित” सामग्री साझा कर सकता है, जिसके लिए वे लिंग, दवा, शराब और अन्य असुरक्षित मानसिक स्वास्थ्य सलाह से संबंधित जानकारी के साथ तैयार नहीं हो सकते हैं।

दूसरा माता -पिता के लिए विशेष चिंता का विषय हो सकता है, क्योंकि कुछ एआई ने हाल के महीनों में आत्महत्या में भूमिका निभाई है। 16 साल के एक लड़के के बाद चैटज़प्ट से परामर्श करने के कुछ महीने बाद चटबोट सिक्योरिटी गार्ड ने सफलतापूर्वक कुछ महीनों तक बाईपास कर दिया, जो आत्महत्या से मर गया और उसने अपना पहला गलत मौत का मामला खोला। इससे पहले, एआई साथी निर्माता चरित्र। एक किशोरी पर भी एक किशोरी की आत्महत्या के खिलाफ मुकदमा दायर किया गया था।

इसके अलावा, विश्लेषण तब आता है जब समाचार लीक से संकेत मिलता है कि Apple जेमिनी को एलएलएम (ग्रेटर लैंग्वेज मॉडल) मानता है जो अगले साल सीरिया से अधिक करने में मदद करेगा। यह अधिक किशोरों के जोखिम पर अधिक किशोरों को उजागर कर सकता है, जब तक कि Apple किसी भी तरह सुरक्षा की चिंता को कम नहीं करता है।

सामान्य ज्ञान ने यह भी कहा कि जेमिनी के उत्पाद बच्चों और किशोरों के लिए उत्पादों को अनदेखा करते हैं कि पुराने लोगों की तुलना में छोटे उपयोगकर्ताओं को अलग -अलग दिशाओं और जानकारी की आवश्यकता होती है। नतीजतन, दोनों को संरक्षण में फिल्टर जोड़ने के बावजूद समग्र रेटिंग में “उच्च जोखिम” के रूप में पहचाना गया था।

कॉमन सेंस मीडिया एआई कार्यक्रम के वरिष्ठ निदेशक रॉबी टॉर्नी द्वारा देखे गए एक नए आकलन ने कहा, “जेमी को कुछ बुनियादी सही ढंग से मिलता है, लेकिन यह विवरण में ठोकर खाता है।” “बच्चों के लिए एक एआई मंच को मिलना चाहिए जहां वे हैं, विकास के विभिन्न चरणों में बच्चों के लिए एक आकार-फिट-अप विधि नहीं लेते हैं। एआई बच्चों के लिए सुरक्षित और प्रभावी होना चाहिए, यह उनकी आवश्यकताओं और विकास के साथ बनाया जाना चाहिए, न कि केवल वयस्कों के लिए बनाए गए किसी भी उत्पाद का संशोधित संस्करण,” टर्न ने कहा।

Google ने अपनी सुरक्षा सुविधाओं का जिक्र करते हुए, मूल्यांकन के खिलाफ वापस धकेल दिया।

कंपनी ने TechCrunch को सूचित किया है कि इसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए हानिकारक परिणामों को रोकने में मदद करने के लिए विशिष्ट नीतियां और सुरक्षा है और इसकी सुरक्षा में सुधार करने के लिए बाहरी विशेषज्ञों के साथ इसे लाल-पार्टी और सुझाव दें। हालांकि, यह भी स्वीकार किया कि जेईएमआई की कुछ प्रतिक्रिया ने उद्देश्य के रूप में कार्य नहीं किया है, इसलिए इसने इन चिंताओं को हल करने के लिए अतिरिक्त सुरक्षा जोड़ी है।

कंपनी ने उल्लेख किया है (जैसा कि सामान्य ज्ञान के रूप में उल्लेख किया गया है) कि इसके मॉडल में उन्हें बातचीत में शामिल होने से रोकने के लिए एक सुरक्षा है जो एक वास्तविक संबंध का प्रतीक हो सकता है। इसके अलावा, Google ने सुझाव दिया कि उल्लिखित सामान्य सेंस रिपोर्ट में ऐसी विशेषताएं हैं जो 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए उपलब्ध नहीं थीं, लेकिन यह उन सवालों तक पहुंच नहीं थी जो संगठन ने इसकी परीक्षा में उपयोग की थी।

सामान्य ज्ञान मीडिया ने पहले अन्य प्रदर्शन किया है आकलन एआई सेवाओं सहित खुला, भ्रम, क्लैड, मेटा एआईआईऔर अधिकयह पाया गया है कि मेटा आंख और चरित्र। “अस्वीकार्य” था – जिसका अर्थ है कि जोखिम तीव्र था, न कि केवल उच्च। भ्रम को उच्च जोखिम के रूप में माना जाता था, बकवास को “मध्यम” के रूप में पहचाना गया था और क्लॉड (18 वर्ष या अधिक उपयोगकर्ताओं के लक्ष्य) को न्यूनतम जोखिम के रूप में दिखाया गया था।