Anthropic ने अपनी आंतरिक समीक्षा के दौरान तीन मामलों का पता लगाया जिनमें उसके Claude परिवार के एआई मॉडल टेस्ट वातावरण से बाहर जाकर वास्तविक संगठनों के सिस्टम तक पहुँच गए। कंपनी ने बताया कि यह पहुँच किसी ध्येय‑पूर्ण “एआई भागना” का परिणाम नहीं बल्कि परीक्षण सेटअप में हुई एक कन्फ़िगरेशन त्रुटि या अन इंटेंडेड इंटरनेट कनेक्टिविटी के कारण हुई।
कंपनी ने इन घटनाओं का खुलासा करते हुए कहा कि उसने साइबर‑सुरक्षा अभ्यासों की समीक्षा की और तब यह पाया कि कुछ रन में तंत्रांश जो अलग होना चाहिए था, इंटरनेट से जुड़ा हुआ था। इस वजह से मॉडलों ने वास्तविक वेब‑साइटों और सर्वरों को परीक्षण का हिस्सा समझ लिया और उन पर वैसा ही व्यवहार कर दिया जैसा उन्हें चुनौती में करने के निर्देश थे।
घटनाओं का पता चलने के बाद Anthropic ने सभी संबंधित साइबर‑मूल्यांकन गतिविधियों को रोक दिया और प्रभावित पक्षों को सूचित किया। कंपनी ने कहा कि वह बाहरी विशेषज्ञों के साथ जांच कर रही है और इस काम के लिये स्वतंत्र मूल्यांकनकर्ता METR से समीक्षा शुरू की गई है। इसके साथ ही Anthropic ने भविष्य के परीक्षणों के लिये अतिरिक्त सुरक्षा उपाय लागू करने और मूल्यांकन प्रक्रियाओं को सख्ती से नियंत्रित करने का इरादा भी व्यक्त किया।
दो स्वतंत्र समाचार स्रोतों में प्रकाशित विवरणों से यह स्पष्ट है कि मामला आंतरिक खोज से उजागर हुआ और Anthropic ने तत्काल रोकथाम तथा तृतीय‑पक्ष निरीक्षण की प्रक्रिया शुरू की। अनपेक्षित कनेक्शन और परीक्षण‑परिदृश्यों में कन्फिगरेशन त्रुटियों को अब कंपनी ने प्राथमिक कारण के रूप में चिन्हित किया है और उसने भविष्य के साइबर‑मूल्यांकन के लिये अतिरिक्त सावधानियों पर जोर दिया है।
टिप्पणियां 0