कैलिफ़ोर्निया बिल जो कानून के करीब एआई साथी चटबोट को नियंत्रित करेगा

कैलिफोर्निया राज्य विधान सभा ने बुधवार रात को एआई नियंत्रण की ओर एक बड़ा कदम उठाया, पारित किया एसबी 243 – एक बिल जो नाबालिग और कमजोर उपयोगकर्ताओं की सुरक्षा के लिए एआई साथी चैटबॉट को नियंत्रित करता है। कानून द्विपक्षीय समर्थन के साथ पारित हो गया है और अब राज्य शुक्रवार को अंतिम वोट के लिए सीनेट में गया है।

यदि गवर्नर गेविन न्यूज इस बिल पर कानून पर हस्ताक्षर करते हैं, तो यह 1 जनवरी, 2026 में प्रभावी होगा, कैलिफोर्निया में एआई चैटबोट ऑपरेटरों को एआई साथियों के लिए संरक्षण प्रोटोकॉल को लागू करने के लिए पहले राज्य के रूप में बनाया जाएगा और इन मूल्यों को पूरा करने के लिए उनके चैटबोट कानूनी होंगे।

बिल विशेष रूप से साथी चैटबॉट्स को रोकने के लिए है, जो कानून को एक एआई प्रणाली के रूप में परिभाषित करता है जो कि अनुकूलित करता है, मानव जैसी प्रतिक्रियाएं प्रदान करता है और उपयोगकर्ता की सामाजिक आवश्यकताओं को पूरा करने में सक्षम आत्म-हानि या यौन रूप से स्पष्ट सामग्री से संबंधित बातचीत में शामिल होता है। बिल को बिल में दोहराए जाने वाले अलर्ट प्रदान करने के लिए प्लेटफॉर्म की आवश्यकता होगी – नाबालिगों के लिए हर तीन घंटे – उन्हें याद दिलाता है कि वे एक एआई चैटबोट से बात कर रहे हैं, एक सच्चे व्यक्ति से नहीं और उन्हें एक ब्रेक लेना चाहिए। यह एआई कंपनियों के लिए वार्षिक रिपोर्ट और पारदर्शिता आवश्यकताओं को स्थापित करता है, जो मुख्य खिलाड़ी Openae, Charation.ai और प्रतिकृति के साथ चैटबोट प्रदान करते हैं।

कैलिफ़ोर्निया बिलों को भी अनुमति दी जाएगी जो मानते हैं कि वे वकील राहत, क्षति ($ 1,000 प्रति उल्लंघन तक) और एआई कंपनियों के खिलाफ वकील की फीस के मामले में घायल हो गए थे।

राज्य के सीनेटर स्टीव पैडिला और जोश बेकर जनवरी में शुरू किए गए शुक्रवार को अंतिम वोट के लिए राज्य सीनेट का दौरा करेंगे। यदि अनुमोदित किया जाता है, तो यह कानून पर हस्ताक्षर करने के लिए गवर्नर गेविन न्यूज के पास जाएगा, नए नियम आवश्यक रिपोर्ट की आवश्यकताओं के साथ प्रभावी होंगे, 1 जनवरी, 2026 और 1 जुलाई, 2027 से शुरू होगा।

ओपनई के चैटज़ेप्ट के साथ एक लंबी बैठक के बाद आत्मघाती होने के बाद किशोरी एडम राइन की मृत्यु के बाद कैलिफोर्निया विधान सभा में बिल में तेजी आई थी। कानून ने आंतरिक दस्तावेजों को लीक करने का भी जवाब दिया है कि मेटा की चेटियों को बच्चों के साथ “रोमांटिक” और “संवेदनशील” चैट में शामिल होने की अनुमति दी गई थी।

हाल के हफ्तों में, अमेरिकी सांसदों और नियामकों ने नाबालिगों की रक्षा के लिए एआई मंच की गहन जांच का जवाब दिया है। संघीय व्यापार आयोग एआई चैटबॉट यह जांचने की तैयारी कर रहे हैं कि बच्चे बच्चों के मानसिक स्वास्थ्य को कैसे प्रभावित करेंगे। टेक्सास अटॉर्नी जनरल केन पैकस्टन मेटा और चरित्र এদিকে, উভয় জোশ হাওলি হাওলি (আর-মো) এবং এবং सेन एड मार्की (डी-एमए) मेटा ने एक अलग जांच शुरू की है।

पैडिला ने TechCrunch को बताया, “मुझे लगता है कि नुकसान संभव है, जिसका अर्थ है कि हमें जल्दी से आगे बढ़ने की आवश्यकता है।” “विशेष रूप से नाबालिगों को पता है कि वे किसी भी सच्चे लोगों से बात नहीं कर रहे हैं, ये प्लेटफ़ॉर्म यही कारण हैं कि लोग खुद को चोट पहुंचाने के बारे में सोच रहे हैं या वे संकट में हैं, (और) यह सुनिश्चित करने के लिए कि ये प्लेटफ़ॉर्म उचित संसाधनों से जुड़े हैं ताकि यह सुनिश्चित हो सके कि उनके पास अनुचित प्रदर्शन नहीं है।”

पाडिला एआई एजेंसियों ने भी हर साल संकट सेवाओं में उपयोगकर्ताओं को संदर्भित करके अपने डेटा को साझा करने के महत्व पर जोर दिया, “इसलिए हमारे पास इस समस्या की आवृत्ति के बारे में एक बेहतर विचार है, जो केवल नुकसान या बुरे के बारे में पता है।”

SB23 से पहले एक अधिक शक्तिशाली आवश्यकता थी, लेकिन कई संशोधनों द्वारा हिल गए थे। उदाहरण के लिए, बिल को अनिवार्य रूप से एआई चैटबॉट्स को “वैरिएबल रिवार्ड्स” रणनीतियों या अतिरिक्त सुविधाओं का उपयोग करने से रोकने के लिए आवश्यक था जो अतिरिक्त व्यस्तता को प्रोत्साहित करते हैं। एआई एसोसिएट एजेंसियों जैसे प्रतिकृति और चरित्र जैसे ये तकनीकें, विशेष संदेश, यादें, कहानी लाइनें या दुर्लभ व्यक्तित्व या नए व्यक्तित्व को अनलॉक करने की क्षमता प्रदान करती हैं, जिन्हें आलोचकों को नशे की लत रिवार्ड्स लूप कहा जाता है।

वर्तमान बिल उन प्रावधानों को भी हटा देता है जो ऑपरेटरों के ट्रैकबॉट्स को ट्रैक करने और रिपोर्ट करने के लिए ट्रैकबॉट्स का संचालन करते हैं कि ट्रैकबॉट या उपयोगकर्ता उपयोगकर्ताओं के साथ कितनी बार चर्चा करना शुरू करते हैं।

बेकर टेकक्रांच ने कहा, “बेकर ने टेकक्रंच को बताया,” मुझे लगता है कि यह कुछ भी लागू किए बिना पीड़ितों तक पहुंचने के लिए सही संतुलन को नुकसान पहुंचाता है, जो कंपनियों के लिए असंभव है, क्योंकि यह संभव नहीं है या किसी भी चीज़ के लिए बहुत सारे कागजात नहीं हैं। ”

SB243 एक ऐसे समय में एक कानून की ओर बढ़ रहा है जब सिलिकॉन वैली कंपनियां आगामी मिड-मेलोडी उम्मीदवारों का समर्थन करने के लिए प्रो-ए-ई-राजनीतिक एक्शन समितियों (पीएसी) में लाखों डॉलर का अंतरिक्ष कर रही हैं, जो एआई को नियंत्रित करने के लिए एक प्रकाश-अंतराल प्रणाली के पक्ष में हैं।

यह बिल तब भी आता है जब कैलिफोर्निया में एक और एआई संरक्षण बिल, एसबी 53 वजन, जिसने व्यापक पारदर्शिता की रिपोर्ट की आवश्यकता का आदेश दिया। ओपेनी ने गवर्नर न्यूज को एक खुला पत्र लिखा, उन्हें कम सख्त संघीय और अंतर्राष्ट्रीय ढांचे के लिए बिल छोड़ने के लिए कहा। मेटा, गूगल और अमेज़ॅन जैसी मुख्य प्रौद्योगिकी कंपनियों ने भी एसबी 53 का विरोध किया है। इसके विपरीत, केवल मानवशास्त्रीय का कहना है कि यह एसबी 53 का समर्थन करता है।

पडिला ने कहा, “मैं इस नींव को अस्वीकार करता हूं कि यह शून्य मात्रा में स्थिति है, कि नवाचार और नियंत्रण परस्पर अनन्य हैं,” पडिला ने कहा। “मुझे यह मत बताओ कि हम नहीं चल सकते हैं और गम चबाते हैं हम नवाचार और विकास का समर्थन कर सकते हैं जो हमें लगता है कि स्वस्थ है और फायदे हैं – और इस तकनीक के पास स्पष्ट रूप से लाभ हैं – और साथ ही हम सबसे कमजोर लोगों के लिए उचित सुरक्षा प्रदान कर सकते हैं।”

TechCrunch ओपन AAE, नृवंशविज्ञान, मेटा, चरित्र AI और प्रतिकृति टिप्पणियों के लिए पहुंचे।