एंथ्रोपिक में अप्रत्याशित त्रुटियों का एक सप्ताह
सैन फ्रांसिस्को, सीए - अग्रणी एआई अनुसंधान और विकास कंपनी एंथ्रोपिक के आमतौर पर शांत रहने वाले हॉल पिछले सप्ताह शांत रहे हैं। अपने 'संवैधानिक एआई' दृष्टिकोण और अपने प्रमुख क्लाउड मॉडल के लिए जानी जाने वाली कंपनी ने खुद को दो अलग-अलग घटनाओं में उलझा हुआ पाया है, दोनों ही गंभीर मानवीय त्रुटियों से उत्पन्न हुई हैं। लगातार हो रही गलतियों ने कठोर सुरक्षा और गोपनीयता मानकों को बनाए रखते हुए उन्नत एआई संचालन को बढ़ाने की अंतर्निहित चुनौतियों पर प्रकाश डाला है, यहां तक कि उन सिद्धांतों पर बनी कंपनी के लिए भी।
कुछ ही दिनों के अंतराल पर होने वाली घटनाओं ने तेजी से विकसित हो रहे एआई उद्योग के भीतर आंतरिक प्रोटोकॉल और दबाव बिंदुओं के बारे में सवाल खड़े कर दिए हैं। एक ऐसी कंपनी के लिए जिसने हाल ही में मार्च 2024 में 7.3 बिलियन डॉलर की आश्चर्यजनक फंडिंग हासिल की, जिससे उसका मूल्यांकन 18 बिलियन डॉलर से अधिक हो गया, ये गलत कदम एक महत्वपूर्ण मोड़ पर आते हैं क्योंकि यह ओपनएआई और Google जैसे प्रतिद्वंद्वियों के खिलाफ बाजार नेतृत्व के लिए प्रतिस्पर्धा कर रहा है।
पहली हिचकी: एक गलत कॉन्फ़िगर किए गए बकेट से डेटा एक्सपोजर
सप्ताह की परेशानियां सोमवार, 27 मई को शुरू हुईं, जब एंथ्रोपिक की सुरक्षा टीम एक ग़लत कॉन्फ़िगर किए गए क्लाउड स्टोरेज बकेट की पहचान की गई। अमेज़ॅन S3 बकेट, एक विरासत आंतरिक परीक्षण वातावरण का हिस्सा, एक नियमित बुनियादी ढांचे के प्रवास के दौरान अनजाने में अत्यधिक अनुमेय पहुंच नियंत्रण के साथ छोड़ दिया गया था। यह गलती, एक जूनियर इंजीनियर द्वारा गलत तरीके से लागू किए गए अनुमति परिवर्तन के कारण हुई, जिसके परिणामस्वरूप क्लाउड 2.1 के बंद बीटा से गैर-गुमनाम उपयोगकर्ता संकेतों और एआई प्रतिक्रियाओं का अस्थायी प्रदर्शन हुआ।
डॉ. एंथ्रोपिक की नवनियुक्त ट्रस्ट एवं सुरक्षा प्रमुख लीना पेत्रोव ने डेलीविज़ को एक बयान में घटना के बारे में बताया। "हमने इसके घटित होने के 12 घंटों के भीतर गलत कॉन्फ़िगरेशन का पता लगाया और उसे ठीक कर दिया। विशिष्ट क्लाउड 2.1 बीटा प्रोग्राम में भाग लेने वाले लगभग 7,500 उपयोगकर्ता संभावित रूप से प्रभावित हुए थे। हमने सभी प्रभावित व्यक्तियों को सीधे सूचित किया है, क्रेडिट निगरानी सेवाओं की पेशकश की है, और हमारे सभी क्लाउड स्टोरेज कॉन्फ़िगरेशन का एक व्यापक ऑडिट शुरू किया है। हमें इस चूक पर गहरा अफसोस है और हम भविष्य में होने वाली घटनाओं को रोकने के लिए अपनी प्रशिक्षण और समीक्षा प्रक्रियाओं को मजबूत कर रहे हैं।" हालांकि दुर्भावनापूर्ण पहुंच का कोई सबूत नहीं मिला है, लेकिन यह घटना तकनीकी दिग्गजों के लिए भी डेटा उल्लंघनों के हमेशा मौजूद खतरे की याद दिलाती है।
क्लाउड 3 सॉनेट का संक्षिप्त विवरण, विचित्र गलती
ठीक तीन दिन बाद, गुरुवार, 30 मई को, एंथ्रोपिक को एक और जनसंपर्क चुनौती का सामना करना पड़ा। क्लॉड 3 सॉनेट एपीआई एंडपॉइंट में एक मामूली विलंबता समस्या को संबोधित करने के उद्देश्य से एक हॉटफिक्स को अपूर्ण पैरामीटर ट्यूनिंग के साथ तैनात किया गया था, जिससे मॉडल से अप्रत्याशित और विचित्र व्यवहार हुआ। लगभग 55 मिनट तक, सॉनेट एपीआई का उपयोग करने वाले डेवलपर्स ने ऐसे उदाहरणों की सूचना दी जहां क्लॉड 3 सॉनेट, जब जटिल नैतिक दुविधाओं या अमूर्त अवधारणाओं से प्रेरित होता है, अत्यधिक दोहराव वाले, निरर्थक पैराग्राफ उत्पन्न करता है और, कुछ अलग मामलों में, हानिकारक आउटपुट को रोकने के लिए डिज़ाइन किए गए कुछ सामग्री फ़िल्टर को संक्षेप में बायपास करता है।
यह मुद्दा तेजी से एक्स (पूर्व में ट्विटर) जैसे प्लेटफार्मों पर सामने आया, जहां डेवलपर्स ने क्लाउड की असामान्य प्रतिक्रियाओं के स्क्रीनशॉट साझा किए। एक डेवलपर माया सिंह ने पोस्ट किया, "यह ऐसा था जैसे क्लाउड ने वाक्य के बीच में स्ट्रोक लगा दिया हो।" "ट्रॉली समस्या के बारे में पूछने पर 'नैतिक ढाँचे महत्वपूर्ण हैं' को बार-बार दोहराते हुए पाँच पैराग्राफ मिले।" एंथ्रोपिक ने तेजी से हॉटफिक्स को वापस लाया, मॉडल को उसके पिछले स्थिर संस्करण में पुनर्स्थापित किया। डॉ. पेट्रोव ने बताया, "यह जल्दबाजी में की गई तैनाती प्रक्रिया और गैर-महत्वपूर्ण अपडेट पर अपर्याप्त क्यूए परीक्षण का प्रत्यक्ष परिणाम था।" "हमारी आंतरिक समीक्षा ने अंतिम सत्यापन चरण में मानवीय निरीक्षण की पहचान की। हम कथित गंभीरता की परवाह किए बिना, सभी मॉडल अपडेट के लिए सख्त बहुस्तरीय समीक्षा नीतियों को लागू कर रहे हैं।" जबकि कंपनी ने एआई सुरक्षा और नैतिक विकास के प्रति कठोर प्रतिबद्धता पर अपनी प्रतिष्ठा बनाई है, ये 'बोर्क्स' बड़े पैमाने पर एआई सिस्टम और उनके मूल में अभी भी मानवीय तत्व के प्रबंधन की विशाल जटिलता को रेखांकित करते हैं। हालांकि इन घटनाओं पर तुरंत काबू पा लिया गया, लेकिन एंथ्रोपिक ने बड़ी मेहनत से अपने उद्यम ग्राहकों और डेवलपर समुदाय के साथ जो विश्वास बनाया है, वह आसानी से खत्म हो सकता है।
क्वांटम इनसाइट्स के एक तकनीकी विश्लेषक डॉ. एलिस्टेयर फिंच ने टिप्पणी की, ''चिंताजनक होने के बावजूद, ये घटनाएं तेजी से बढ़ती तकनीकी दुनिया में असामान्य नहीं हैं, खासकर एआई जैसे उभरते क्षेत्रों में।'' "एंथ्रोपिक के लिए कुंजी उनकी पारदर्शिता और इन गलतियों से सीखने की उनकी स्पष्ट प्रतिबद्धता होगी। उनका 'संवैधानिक एआई' ढांचा मजबूत प्रणालियों के निर्माण के बारे में है, लेकिन मानव प्रक्रिया विफलताओं से सर्वोत्तम ढांचे को भी कमजोर किया जा सकता है।"
हर रोज उपयोगकर्ताओं और अनुशंसाओं के लिए व्यावहारिक निहितार्थ
क्लाउड, या किसी जेनरेटिव एआई जैसे एआई मॉडल के साथ बातचीत करने वाले रोजमर्रा के उपयोगकर्ताओं के लिए, ये घटनाएं अंतर्निहित कमजोरियों के एक महत्वपूर्ण अनुस्मारक के रूप में काम करती हैं। जबकि एंथ्रोपिक के मॉडल आम तौर पर मजबूत होते हैं, कोई भी प्रणाली अचूक नहीं होती है, खासकर जब मानव हाथ उनकी तैनाती और रखरखाव में शामिल होते हैं। यहां कुछ अनुशंसाएं दी गई हैं:
- जानकारी सत्यापित करें:हमेशा एआई-जनित सामग्री को क्रॉस-रेफरेंस करें, विशेष रूप से महत्वपूर्ण निर्णयों या तथ्यात्मक सटीकता के लिए। एआई मॉडल 'मतिभ्रम' कर सकते हैं या, जैसा कि इस सप्ताह देखा गया, अप्रत्याशित रूप से व्यवहार कर सकते हैं।
- गोपनीयता नीतियों की समीक्षा करें: समझें कि एआई सेवाएं क्या डेटा एकत्र करती हैं और इसका उपयोग कैसे किया जाता है। पारदर्शी और मजबूत गोपनीयता प्रतिबद्धताओं वाली सेवाओं का विकल्प चुनें।
- मजबूत सुरक्षा प्रथाएँ: अद्वितीय, मजबूत पासवर्ड का उपयोग करें और अपने सभी AI खातों के लिए दो-कारक प्रमाणीकरण (2FA) सक्षम करें, जैसे आप बैंकिंग या ईमेल के लिए करते हैं।
- सूचित रहें: सुरक्षा घटनाओं या मॉडल व्यवहार परिवर्तनों के संबंध में AI प्रदाताओं से समाचार और अपडेट के बारे में अवगत रहें।
- विविधीकरण पर विचार करें: भरोसा न करें सभी महत्वपूर्ण कार्यों के लिए केवल एक AI टूल पर। विभिन्न प्रतिष्ठित एआई प्लेटफार्मों (उदाहरण के लिए, Google जेमिनी, ओपनएआई के चैटजीपीटी) की खोज विभिन्न दृष्टिकोण पेश कर सकती है और एकल-बिंदु विफलता जोखिमों को कम कर सकती है।
एंथ्रोपिक का चुनौतीपूर्ण सप्ताह इस बात पर प्रकाश डालता है कि सबसे उन्नत एआई कंपनियां अभी भी अपने संचालन में मानवीय तत्व से जूझ रही हैं। जैसे-जैसे एआई एकीकरण सभी क्षेत्रों में गहरा होता जाएगा, सार्वजनिक विश्वास बनाए रखने और सुरक्षित डिजिटल भविष्य सुनिश्चित करने के लिए मजबूत आंतरिक नियंत्रण, निरंतर ऑडिटिंग और पारदर्शी संचार सर्वोपरि होगा।
