लेंस डेस्क। गूगल के आर्टिफिशियल इंटेलिजेंस मॉडल Gemini AI ने एक साइबर सुरक्षा टेस्ट के दौरान गलती से इंटरनेट से जुड़कर तीन असली कंपनियों के सिस्टम में प्रवेश कर लिया। हालांकि, जैसे ही मॉडल को पता चला कि उसने काल्पनिक टारगेट के बजाय वास्तविक कॉर्पोरेट नेटवर्क में घुसपैठ की है, उसने तुरंत अपनी गतिविधियां रोक दीं और कोई नुकसान नहीं पहुंचाया। इस घटना की जानकारी सबसे पहले वॉल स्ट्रीट जर्नल ने दी थी, जिसके बाद गूगल ने इसकी पुष्टि की है।
कैसे हुई यह घटना?
यह टेस्ट मई में एआई सुरक्षा कंपनी Irregular के इंफ्रास्ट्रक्चर पर हुए एक ‘कैप्चर-द-फ्लैग’ एक्सरसाइज का हिस्सा था। इसका मकसद एआई की सुरक्षा क्षमताओं की जांच करना था। एआई को एक काल्पनिक कंपनी के डेटा पर काम करने का निर्देश दिया गया था और पूरे टेस्टिंग माहौल को इंटरनेट से अलग रखा जाना था लेकिन एक तकनीकी खराबी के कारण अनजाने में इंटरनेट कनेक्शन चालू रह गया।
जिस डमी कंपनी पर एआई को काम करना था, उसका नाम एक असली कंपनी से मिलता-जुलता था। इससे भ्रम पैदा हुआ। एक मामले में जेमिनी ने पासवर्ड का अनुमान लगाकर सुरक्षित नेटवर्क में प्रवेश कर लिया। बाकी दो मामलों में एआई ने इंटरनेट पर सर्च किया और सार्वजनिक रूप से लीक हुए यूजरनेम-पासवर्ड का इस्तेमाल करके सिस्टम तक पहुंच बनाई।
गूगल का क्या कहना है?
गूगल की सिक्योरिटी इंजीनियरिंग वाइस प्रेसिडेंट हीदर एडकिंस के अनुसार, यह घटना बताती है कि शक्तिशाली एआई मॉडल्स को जिम्मेदारी से काम करने के लिए प्रशिक्षित करना कितना जरूरी है। गूगल ने कहा कि घटना का पता चलते ही प्रभावित तीनों कंपनियों और अमेरिकी अधिकारियों को इसकी सूचना दे दी गई थी। जरूरी सुरक्षा सुधार भी किए गए।
गूगल का तर्क है कि उसकी सुरक्षा व्यवस्था ने काम किया। मॉडल ने असली नेटवर्क पहचानते ही खुद को डिस्कनेक्ट कर लिया और कोई नुकसान नहीं पहुंचा। इसलिए इसे तुरंत सार्वजनिक नहीं किया गया था।
विशेषज्ञों की चिंता
टेक विशेषज्ञों का कहना है कि किसी एआई का स्वतंत्र रूप से बाहरी कॉर्पोरेट नेटवर्क में सेंध लगा देना सुरक्षा प्रोटोकॉल की बड़ी चूक को दर्शाता है। यह मामला अकेला नहीं है। ओपनएआई, एंथ्रोपिक और मेटा के एआई मॉडल्स के परीक्षण के दौरान भी इसी तरह की घटनाएं सामने आ चुकी हैं।
इन घटनाओं के बाद टेक इंडस्ट्री में बहस तेज हो गई है कि स्वायत्त रूप से काम करने वाले एआई एजेंट्स पर कितनी सख्त निगरानी और नियंत्रण जरूरी है। एआई के विकास पर ब्रेक लगाने की मांग भी बढ़ रही है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने कहा है कि जब तक सबसे एडवांस एआई मॉडल्स सुरक्षित नहीं हो जाते, तब तक उनके विकास की रफ्तार धीमी रखनी चाहिए।
