एआई एजेंटों को अब दुनिया भर में मुख्य व्यावसायिक गतिविधियों में एम्बेड किया जा रहा है। जल्द ही, ये एजेंट हमारे जीवन को निर्धारित कर सकते हैं, मूल निर्णय ले सकते हैं और हमारी ओर से एक बातचीत समझौता कर सकते हैं। संभावना रोमांचक और महत्वाकांक्षी है, लेकिन यह भी सवाल उठाती है: वास्तव में उनकी देखरेख कौन कर रहा है?
आधे से अधिक (5%) कंपनियों ने एआई एजेंटों को तैनात कियाऔर सेल्सफोर्स के सीईओ मार्क बेनिफिट ने वर्ष के अंत में एक अरब एजेंटों को लक्षित किया है। उनके बढ़ते प्रभावों के बावजूद, सत्यापन परीक्षण काफी अनुपस्थित है। इन एजेंटों को उचित निगरानी के बिना संवेदनशील क्षेत्रों में बैंकिंग और स्वास्थ्य देखभाल जैसी महत्वपूर्ण जिम्मेदारियां दी जा रही हैं।
एआई एजेंटों को लक्ष्य-आधारित गतिविधियों को करने के लिए स्पष्ट प्रोग्रामिंग, उच्च गुणवत्ता वाले प्रशिक्षण और वास्तविक समय की अंतर्दृष्टि की आवश्यकता होती है। हालांकि, सभी एजेंटों को समान रूप से नहीं बनाया जाएगा। कुछ एजेंट अधिक उन्नत डेटा और प्रशिक्षण प्राप्त कर सकते हैं, जो Bispok, अच्छी तरह से बेकार एजेंटों और बड़े पैमाने पर उपज के बीच असंतुलन पैदा करता है।
यह एक प्रणालीगत जोखिम पैदा कर सकता है जहां अधिक उन्नत एजेंट कम उन्नत एजेंटों में हेरफेर करते हैं और धोखा देते हैं। समय के साथ, एजेंट इस विभाजन परिणामों में एक अंतर बना सकते हैं। मान लीजिए कि एक एजेंट को कानूनी प्रक्रियाओं में अधिक अनुभव होता है और उस ज्ञान का उपयोग किसी अन्य एजेंट का उपयोग कम समझ या बाहरी करने के लिए किया जाता है। एआई एजेंटों की स्थापना पहल से अपरिहार्य है और इसलिए नई ऊर्जा संरचनाओं का उदय और मणिपुर के जोखिम। अंतर्निहित मॉडल सभी उपयोगकर्ताओं के लिए समान होंगे, लेकिन विचलन की इस संभावना का निरीक्षण करने की आवश्यकता है।
पारंपरिक परिष्कृत सॉफ्टवेयर से अलग, एआई एजेंट विकासशील, जटिल सेटिंग्स पर काम करते हैं। उनकी अनुकूलनशीलता उन्हें मजबूत बनाती है, फिर भी संभावित विनाशकारी विफलता के लिए अप्रत्याशित और अधिक जोखिम भरा है।
उदाहरण के लिए, एक एआई एजेंट एक बच्चे में एक गंभीर स्थिति का निदान कर सकता है क्योंकि यह अधिकांश वयस्क रोगियों से संबंधित डेटा में प्रशिक्षित था। या एक एआई एजेंट चैटबोट एक निर्दोष ग्राहक की शिकायत को बढ़ा सकता है क्योंकि यह व्यंग्य को आक्रामकता के रूप में गलत तरीके से व्याख्या करता है, क्योंकि धीरे -धीरे ग्राहक को समझाने और कमाई की गलत व्याख्या के कारण।
औद्योगिक अनुसंधान के अनुसार, 5% एजेंसियों ने खुलासा किया है कि उनके एआई एजेंटों ने “दुष्ट” का फैसला किया हैसंरेखण और सुरक्षा चीजें पहले से ही स्पष्ट रूप से स्पष्ट रूप से स्वायत्त एजेंट हैं जो वास्तविक दुनिया के उदाहरणों में स्पष्ट निर्देशों को छोड़कर और काम के महत्वपूर्ण भागों को हटाते हैं।
आम तौर पर, जब बड़े मानव दोष होते हैं, तो कर्मचारी को एचआर से निपटना चाहिए, निलंबित कर दिया जाना चाहिए और एक औपचारिक जांच की जाती है। एआई एजेंटों के साथ, वे रखरखाव जगह में नहीं हैं। हम उन्हें मानव-स्तरीय पर्यवेक्षण के पास किसी भी चीज के बिना संवेदनशील सामग्रियों में मानव-स्तर तक पहुंच प्रदान करते हैं।
तो, क्या हम एआई एजेंटों के उपयोग के माध्यम से अपने सिस्टम को स्थानांतरित कर रहे हैं, या हम सही प्रोटोकॉल के स्थान पर होने से पहले कंपनी को आत्मसमर्पण कर रहे हैं?
सच्चाई यह है कि, ये एजेंट अपने संबंधित वातावरण द्वारा सीखने और अनुकूलन करने के लिए तेजी से हो सकते हैं, लेकिन वे अभी तक जिम्मेदार वयस्क नहीं हैं। वे साल -दर -साल और साल -दर -साल अन्य व्यापारियों के साथ सीखा, कोशिश और असफल और बातचीत नहीं कर सकते थे। उनके रहने के अनुभव से प्राप्त परिपक्वता की कमी है। यह कंपनी की चाबी को न्यूनतम चेक के साथ दिए गए ड्रग एडिक्ट को सौंपने जैसा है। वे उत्साही, बुद्धिमान और दुर्भावनापूर्ण हैं, लेकिन अनियमित और जरूरत है।
और फिर भी, बड़ी पहल जो पहचानने में विफल हो रही है, वह यह है कि वे बस यही कर रहे हैं। एआई एजेंट “सीमलेस” डेमो पर प्लग हैं और अस्वीकृति से थोड़ा अधिक है। कोई निरंतर और मानक परीक्षण नहीं है। अगर कुछ गलत हो जाता है तो कोई स्पष्ट निकास रणनीति नहीं है।
जो गायब है वह एक संरचनात्मक, बहु-स्तरीय सत्यापन संरचना है-यह एक ऐसा है जो नियमित रूप से वास्तविक दुनिया और उच्च-स्तरीय स्थितियों की नकल में एजेंट व्यवहार की जांच करता है। त्वरण त्वरण के रूप में, सत्यापन यह सुनिश्चित करने के लिए एक शर्त बन रहा है कि एआई एजेंट उद्देश्य के रूप में उपयुक्त हैं।
एजेंट के परिष्कार के अनुसार एजेंट के सत्यापन के विभिन्न स्तरों की आवश्यकता होती है। उन लोगों के लिए जिन्हें साधारण ज्ञान ड्रेनेज एजेंटों, या एक्सेल या एमेल जैसे उपकरणों का उपयोग करने के लिए प्रशिक्षित किया जाता है, परिष्कृत एजेंटों के रूप में परीक्षण परीक्षण की समान कठोरता की आवश्यकता नहीं हो सकती है जो विभिन्न प्रकार के मानवीय कार्यों को करते हैं। हालांकि, हमें ठीक से बनाए रखने की आवश्यकता है, विशेष रूप से एक ऐसे वातावरण की मांग करने में जहां एजेंट दोनों लोगों और अन्य एजेंटों के साथ काम करते हैं।
जब एजेंट तराजू पर फैसला करना शुरू करते हैं, तो मार्जिन जल्दी से त्रुटियों के लिए सिकुड़ रहा है। यदि हम एआई एजेंटों को नियंत्रित करने दे रहे हैं कि महत्वपूर्ण गतिविधियाँ अखंडता, सटीकता और सुरक्षा के लिए परीक्षण करने में विफल हैं, तो हमें एआई एजेंटों को समाज को नष्ट करने में सक्षम होने में सक्षम होने का खतरा है। परिणाम बहुत वास्तविक होंगे – और क्षति को नियंत्रित करने की लागत आश्चर्यजनक हो सकती है।
