कैलिफ़ोर्निया बिल जो कानून के करीब एआई साथी चटबोट को नियंत्रित करेगा

कैलिफोर्निया ने एआई नियंत्रण की ओर एक बड़ा कदम उठाया है। एसबी 243 – एक बिल जो नाबालिगों और कमजोर उपयोगकर्ताओं की सुरक्षा के लिए एआई साथी चैटबॉट को नियंत्रित करेगा – राज्य विधानसभा और सीनेट दोनों ने द्विदलीय समर्थन के साथ पारित किया है और अब गवर्नर गेविन न्यूज डेस्क पर जाते हैं।

समाचार 12 अक्टूबर तक बिल को वीटो करना है या कानून में साइन इन करना है। यदि उन्होंने 1 जनवरी, 2026 को इस पर हस्ताक्षर किए, तो कैलिफोर्निया में एआई चटाबोट ऑपरेटर कैलिफोर्निया में एआई शिष्यों के लिए एआई शिष्यों के लिए सुरक्षा प्रोटोकॉल को लागू करने के लिए कानूनी रूप से जिम्मेदार कंपनियों को बनाए रखने के लिए पहला राज्य बनाते हैं।

बिल विशेष रूप से साथी चैटबॉट्स को रोकने के लिए है, जो कानून को एक एआई प्रणाली के रूप में परिभाषित करता है जो कि अनुकूलित करता है, मानव जैसी प्रतिक्रियाएं प्रदान करता है और उपयोगकर्ता की सामाजिक आवश्यकताओं को पूरा करने में सक्षम आत्म-हानि या यौन रूप से स्पष्ट सामग्री से संबंधित बातचीत में शामिल होता है। बिल को बिल में दोहराए जाने वाले अलर्ट प्रदान करने के लिए प्लेटफॉर्म की आवश्यकता होगी – नाबालिगों के लिए हर तीन घंटे – उन्हें याद दिलाता है कि वे एक एआई चैटबोट से बात कर रहे हैं, एक सच्चे व्यक्ति से नहीं और उन्हें एक ब्रेक लेना चाहिए। यह AI कंपनियों के लिए वार्षिक रिपोर्ट और पारदर्शी आवश्यकताओं को स्थापित करता है जो Openae, Character.ai, और प्रतिकृति सहित भागीदार चैटबोट प्रदान करते हैं, जो 1 जुलाई, 2027 में प्रभावी होगा।

कैलिफ़ोर्निया बिलों को भी अनुमति दी जाएगी जो मानते हैं कि वे वकील राहत, क्षति ($ 1,000 प्रति उल्लंघन तक) और एआई कंपनियों के खिलाफ वकील की फीस के मामले में घायल हो गए थे।

ओपनई के चैटज़ेप्ट के साथ एक लंबी बैठक के बाद आत्मघाती होने के बाद किशोरी एडम राइन की मृत्यु के बाद कैलिफोर्निया विधान सभा में बिल में तेजी आई थी। कानून ने आंतरिक दस्तावेजों को लीक करने का भी जवाब दिया है कि मेटा की चेटियों को बच्चों के साथ “रोमांटिक” और “संवेदनशील” चैट में शामिल होने की अनुमति दी गई थी।

हाल के हफ्तों में, अमेरिकी सांसदों और नियामकों ने नाबालिगों की रक्षा के लिए एआई मंच की गहन जांच का जवाब दिया है। संघीय व्यापार आयोग एआई चैटबॉट यह जांचने की तैयारी कर रहे हैं कि बच्चे बच्चों के मानसिक स्वास्थ्य को कैसे प्रभावित करेंगे। टेक्सास अटॉर्नी जनरल केन पैकस्टन मेटा और चरित्र এদিকে, উভয় জোশ হাওলি হাওলি (আর-মো) এবং এবং सेन एड मार्की (डी-एमए) मेटा ने एक अलग जांच शुरू की है।

पैडिला ने TechCrunch को बताया, “मुझे लगता है कि नुकसान संभव है, जिसका अर्थ है कि हमें जल्दी से आगे बढ़ने की जरूरत है।” “विशेष रूप से नाबालिगों को पता है कि वे किसी भी सच्चे लोगों से बात नहीं कर रहे हैं, ये प्लेटफॉर्म यही कारण हैं कि लोग खुद को चोट पहुंचाने के बारे में सोच रहे हैं या वे संकट में हैं, (और) यह सुनिश्चित करने के लिए कि ये प्लेटफ़ॉर्म उचित संसाधनों से जुड़े हैं ताकि यह सुनिश्चित हो सके कि उनके पास अनुचित प्रदर्शन नहीं है।”

पाडिला एआई एजेंसियों ने भी हर साल संकट सेवाओं में उपयोगकर्ताओं को संदर्भित करके अपने डेटा को साझा करने के महत्व पर जोर दिया, “इसलिए हमारे पास इस समस्या की आवृत्ति के बारे में एक बेहतर विचार है, जो केवल नुकसान या बुरे के बारे में पता है।”

SB23 से पहले एक अधिक शक्तिशाली आवश्यकता थी, लेकिन कई संशोधनों द्वारा हिल गए थे। उदाहरण के लिए, बिल को अनिवार्य रूप से एआई चैटबॉट्स को “वैरिएबल रिवार्ड्स” रणनीतियों या अतिरिक्त सुविधाओं का उपयोग करने से रोकने के लिए आवश्यक था जो अतिरिक्त व्यस्तता को प्रोत्साहित करते हैं। एआई एसोसिएट एजेंसियों जैसे प्रतिकृति और चरित्र जैसे ये तकनीकें, विशेष संदेश, यादें, कहानी लाइनें या दुर्लभ व्यक्तित्व या नए व्यक्तित्व को अनलॉक करने की क्षमता प्रदान करती हैं, जिन्हें आलोचकों को नशे की लत रिवार्ड्स लूप कहा जाता है।

वर्तमान बिल उन प्रावधानों को भी हटा देता है जो ऑपरेटरों के ट्रैकबॉट्स को ट्रैक करने और रिपोर्ट करने के लिए ट्रैकबॉट्स का संचालन करते हैं कि ट्रैकबॉट या उपयोगकर्ता उपयोगकर्ताओं के साथ कितनी बार चर्चा करना शुरू करते हैं।

बेकर टेकक्रांच ने कहा, “बेकर ने टेकक्रंच को बताया,” मुझे लगता है कि यह कुछ भी लागू किए बिना पीड़ितों तक पहुंचने के लिए सही संतुलन को नुकसान पहुंचाता है, जो कंपनियों के लिए असंभव है, क्योंकि यह संभव नहीं है या किसी भी चीज़ के लिए बहुत सारे कागजात नहीं हैं। ”

SB243 एक ऐसे समय में एक कानून की ओर बढ़ रहा है जब सिलिकॉन वैली कंपनियां आगामी मिड-मेलोडी उम्मीदवारों का समर्थन करने के लिए प्रो-ए-ई-राजनीतिक एक्शन समितियों (पीएसी) में लाखों डॉलर का अंतरिक्ष कर रही हैं, जो एआई को नियंत्रित करने के लिए एक प्रकाश-अंतराल प्रणाली के पक्ष में हैं।

यह बिल तब भी आता है जब कैलिफोर्निया में एक और एआई संरक्षण बिल, एसबी 53 वजन, जिसने व्यापक पारदर्शिता की रिपोर्ट की आवश्यकता का आदेश दिया। ओपेनी ने गवर्नर न्यूज को एक खुला पत्र लिखा, उन्हें कम सख्त संघीय और अंतर्राष्ट्रीय ढांचे के लिए बिल छोड़ने के लिए कहा। मेटा, गूगल और अमेज़ॅन जैसी मुख्य प्रौद्योगिकी कंपनियों ने भी एसबी 53 का विरोध किया है। इसके विपरीत, केवल मानवशास्त्रीय का कहना है कि यह एसबी 53 का समर्थन करता है।

पडिला ने कहा, “मैं इस नींव को अस्वीकार करता हूं कि यह शून्य मात्रा में स्थिति है, कि नवाचार और नियंत्रण परस्पर अनन्य हैं,” पडिला ने कहा। “मुझे यह मत बताओ कि हम नहीं चल सकते हैं और गम चबाते हैं हम नवाचार और विकास का समर्थन कर सकते हैं जो हमें लगता है कि स्वस्थ है और फायदे हैं – और इस तकनीक के पास स्पष्ट रूप से लाभ हैं – और साथ ही हम सबसे कमजोर लोगों के लिए उचित सुरक्षा प्रदान कर सकते हैं।”

“हम विधानमंडल और नियामक परिदृश्य की बारीकी से निगरानी कर रहे हैं, और जैसा कि हम इस उभरती हुई जगह के लिए कानून पर विचार करना शुरू करते हैं, हम नियंत्रकों और सांसदों के साथ काम का स्वागत करते हैं,” एक चरित्र।

मेटा के एक प्रवक्ता ने टिप्पणी करने से इनकार कर दिया।

TechCrunch Openai, नृवंशविज्ञान और प्रतिकृति के लिए टिप्पणी करने के लिए पहुंच गया है।