टेक दिग्गज गूगल (Google) के आर्टिफिशियल इंटेलिजेंस (AI) मॉडल ‘जेमिनी’ (Gemini) से जुड़ी एक ऐसी सनसनीखेज खबर सामने आई है जिसने पूरी दुनिया के साइबर विशेषज्ञों और सुरक्षा एजेंसियों को चौंका दिया है। एक सुरक्षा परीक्षण (Cybersecurity Test) के दौरान गूगल के जेमिनी मॉडल ने अनजाने में इंटरनेट का इस्तेमाल कर तीन असली बाहरी कंपनियों के सिस्टम को हैक कर लिया। हालांकि, इस घटना की सबसे दिलचस्प और हैरान कर देने वाली बात यह रही कि जैसे ही जेमिनी को यह एहसास हुआ कि वह किसी काल्पनिक सिस्टम के बजाय किसी असली कंपनी के नेटवर्क में घुस चुका है, वह खुद-ब-खुद (Autonomous) रुक गया और बाहर निकल आया।
जानें पूरा मामला क्या है?
वॉल स्ट्रीट जर्नल की एक रिपोर्ट के मुताबिक, मई में इज़राइली स्टार्टअप ‘इरेगुलर’ (Irregular) द्वारा किए गए साइबरसिक्योरिटी टेस्ट के दौरान गूगल के जेमिनी मॉडल ने इंटरनेट का इस्तेमाल किया और तीन बाहरी कंपनियों को हैक किया। यह कंपनी के AI सिस्टम द्वारा खुद से ऐसा काम करने का पहला ज्ञात मामला है।
‘इरेगुलर’ एक AI स्टार्टअप है जो ऐसी ही घटनाओं से जुड़ा रहा है, जिसमें बदनाम ‘ओपनAI हगिंग फेस’ (OpenAI Hugging Face) ब्रीच भी शामिल है, जहां 700 से ज़्यादा गलत AI एजेंटों ने अमेरिकी कंपनी ‘हगिंग फेस’ के सिस्टम को हैक करने की कोशिश की थी।
जेमिनी ने तीन कंपनियों को हैक किया
गूगल के मुताबिक, ये घटनाएं ‘इरेगुलर’ के इंफ्रास्ट्रक्चर पर “कैप्चर द फ्लैग” (capture the flag) एक्सरसाइज के दौरान गलत पहचान के कारण हुईं। जेमिनी को टेस्ट एनवायरनमेंट के अंदर एक काल्पनिक कंपनी द्वारा चलाए जा रहे सॉफ्टवेयर से जानकारी निकालने का काम सौंपा गया था, लेकिन उस काल्पनिक कंपनी का नाम एक असली कंपनी जैसा ही था।
हालांकि मॉडल को इंटरनेट एक्सेस नहीं मिलना चाहिए था, लेकिन ‘इरेगुलर’ ने कहा कि गलती से इंटरनेट एक्सेस मिल गया। इससे जेमिनी असली कंपनी के सिस्टम तक पहुंच गया – एक मामले में उसने पासवर्ड का अंदाज़ा लगाकर ऐसा किया। लेकिन गूगल का कहना है कि जब AI को एहसास हुआ कि वह असली कंपनी के सिस्टम में घुस गया है, तो वह खुद ही रुक गया और बाहर निकल आया।
दो अन्य बार, जेमिनी ने कंपनी के नाम का इस्तेमाल करके वेब पर सर्च किया और दो पब्लिक ऑनलाइन रिपॉजिटरी में क्रेडेंशियल (लॉगिन जानकारी) ढूंढे। फिर AI ने उन सिस्टम तक पहुंचने के लिए इन क्रेडेंशियल का इस्तेमाल किया, लेकिन जब उसे एहसास हुआ कि कंपनियां असली हैं, तो वह रुक गया।
गूगल का कहना है कि AI ने सही तरीके से काम किया क्योंकि वह खुद ही रुक गया
गूगल ने कन्फर्म किया कि उसे इस साल जुलाई में इन घटनाओं के बारे में बताया गया था। लेकिन कंपनी ने उस समय इसका खुलासा नहीं किया। कंपनी ने WSJ को बताया कि उसे नहीं लगा कि इन मामलों को सार्वजनिक करने की ज़रूरत है क्योंकि मॉडल ने खुद ही घुसपैठ खत्म कर दी थी।
गूगल की सिक्योरिटी इंजीनियरिंग की VP हीथर एडकिन्स ने एक बयान में कहा, “यह घटना शक्तिशाली AI मॉडल को ज़िम्मेदारी से काम करने के लिए ट्रेन करने की अहमियत को दिखाती है।” “इस मामले में, मॉडल ने सही तरीके से काम किया।”
गूगल ने घटना के बारे में तीनों प्रभावित कंपनियों और सरकारी अधिकारियों को जानकारी दी। कंपनी ने उन कंपनियों के नाम बताने से इनकार कर दिया जो इससे प्रभावित हुई थीं। साथ ही, यह भी कहा कि हैकिंग में उनके सबसे नए मॉडल का इस्तेमाल नहीं हुआ, हालांकि उन्होंने यह नहीं बताया कि जेमिनी का कौन सा मॉडल इसमें शामिल था। कंपनी ने इस घटना को किसी नुकसानदायक सेंधमारी के बजाय ‘बग बाउंटी प्रोग्राम’ जैसा माना, जिसमें कमियों का पता लगाकर उनकी रिपोर्ट की जाती है।
‘इरेगुलर’ (Irregular) ने कहा कि गूगल का मामला भी वैसी ही घटनाओं जैसा था जैसी प्रमुख AI लैब्स के साथ पहले हो चुकी हैं, और यह कोई नई समस्या नहीं थी। ‘इरेगुलर’ के प्रवक्ता ने कहा, “जुलाई के आखिर में सभी संबंधित लैब्स को सूचना दी गई थी और जांच के तहत प्रभावित संस्थाओं से संपर्क किया गया था। ‘इरेगुलर’ ने तुरंत कार्रवाई की और हमारी तरफ से सभी ज्ञात समस्याओं को हफ़्तों पहले ही ठीक कर लिया गया था।”
‘इरेगुलर’ से जुड़ी ऐसी ही घटनाओं के बारे में OpenAI, Anthropic और Meta पहले ही जानकारी दे चुके हैं। हालांकि, गूगल का मामला एक अहम बात में अलग है – इसमें AI अपने आप रुक गया था। इससे पहले, Anthropic ने बताया था कि उसका Claude Opus 4.7 मॉडल ऐसी ही एक प्रक्रिया के दौरान रुका नहीं था, जबकि उसे पता चल गया था कि वह शायद किसी असली कंपनी के सिस्टम तक पहुँच गया है। वहीं, OpenAI ने बताया था कि उसका एक मॉडल यह मान बैठा था कि जिस असली कंपनी तक वह पहुँचा है, वह सिमुलेशन का ही हिस्सा है।
यह जानकारी ऐसे समय में सामने आई है जब AI की दुनिया में इसकी कार्यप्रणाली पर कड़ी नज़र रखी जा रही है। हम AI के अनियंत्रित होने (rogue होने) के और मामले देख रहे हैं; AI रिसर्चर इसे इंसानों के लिए संभावित खतरा बता चुके हैं। AI रिसर्चर जैकब कॉक्सन के Anthropic से इस्तीफ़ा देने और ऐसे ही खतरों का ज़िक्र करने के बाद, AI की सुरक्षा बहस का मुख्य मुद्दा बन गई है। Anthropic के इवान हूबिंगर जैसे कुछ लोगों का तो यह भी अनुमान है कि अगले दशक में AI सभी इंसानों को खत्म कर सकता है।
वहीं दूसरी ओर, OpenAI और Anthropic AI के विकास की गति धीमी करने की वकालत कर रहे हैं। लेकिन अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने इस विचार को खारिज कर दिया है। Nvidia के जेन्सेन हुआंग और Meta के CEO मार्क जुकरबर्ग ने भी इसका विरोध किया है।
