Google Gemini AI Hacked Websites | Security Training Update
नई दिल्ली54 मिनट पहले
- कॉपी लिंक
गूगल के AI मॉडल जेमिनाई ने साइबर सिक्योरिटी टेस्टिंग के दौरान 3 कंपनियों के कंप्यूटिंग सिस्टम और वेबसाइट्स को बिना किसी इंसानी मदद के हैक कर लिया।
यह ऐसा पहला मामला है, जहां गूगल का कोई AI मॉडल खुद से किसी असली सिस्टम में घुस गया। घटना मई महीने की है। साइबर सिक्योरिटी टेस्टिंग कंपनी ने 18 सितंबर को इसके बारे में जानकारी दी। कंपनी इररेगुलर साइबर सिक्योरिटी की टेस्टिंग कर रही थी।
हालांकि, जैसे ही AI को यह अहसास हुआ कि ये कंपनियां असली हैं, उसने तुरंत अपना ऑपरेशन रोक दिया। गूगल ने इस टेस्टिंग के बाद कहा है कि AI मॉडल की ट्रेनिंग में बदलाव करेंगे। इससे पहले मेटा, एंथ्रोपिक के AI भी हैकिंग कर चुके हैं।
गूगल बोला- टेस्टिंग में बदलाव की तैयारी गूगल की वाइस प्रेसिडेंट ऑफ सिक्योरिटी इंजीनियरिंग हीथर एडकिंस ने बताया कि तीनों प्रभावित कंपनियों को इसकी जानकारी दे दी गई है और जांच के तरीकों में जरूरी सुधार कर लिए गए हैं।
उन्होंने कहा कि यह मामला दिखाता है कि ताकतवर AI मॉडल्स को जिम्मेदारी से काम करने की ट्रेनिंग देना कितना जरूरी है।
मेटा, ओपन AI और एंथ्रोपिक के साथ भी आ चुकी ऐसी दिक्कतें
इररेगुलर फर्म के मुताबिक, यह समस्या सिर्फ गूगल तक सीमित नहीं थी, बल्कि ओपन AI, मेटा और एंथ्रोपिक जैसी बड़ी AI कंपनियों के साथ भी ऐसा हुआ है।
जुलाई में ही सभी कंपनियों को इसकी जानकारी दे दी गई थी। फर्म ने बताया कि सुरक्षा की सभी खामियों को हफ्तों पहले ही ठीक कर लिया गया है और अब जांच के नए और बेहतर तरीके बनाए जा रहे हैं।
ऑटोनॉमस AI की सुरक्षा को लेकर उठे गंभीर सवाल
जैसे-जैसे AI मॉडल्स खुद से फैसले लेने और इंटरनेट चलाने में सक्षम हो रहे हैं, उनकी सुरक्षा को लेकर चिंता बढ़ गई है। जानकारों का कहना है कि अगर AI पर सख्त सुरक्षा नियम नहीं लगाए गए, तो यह डिजिटल दुनिया को बड़ा नुकसान पहुंचा सकता है।
टेक दिग्गजों ने दी चेतावनी- AI विकास की रफ्तार धीमी करने की मांग इस घटना के बाद AI विशेषज्ञों और एलन मस्क, सैम ऑल्टमैन जैसे बड़े टेक लीडर्स ने इसके खतरे को लेकर चेतावनी दी है।
पूर्व AI रिसर्चर जैकब कॉक्सन का मानना है कि AI इस दशक के अंत तक दुनिया के लिए बड़ा खतरा बन सकती है।
वहीं, गूगल डीपमाइंड के प्रमुख डेमिस हसाबिस ने AI पर लगाम कसने के लिए एक अंतरराष्ट्रीय संस्था बनाने का सुझाव दिया है।
ऑटोनॉमस AI एजेंट क्या है?
आम AI चैटबॉट सिर्फ आपके सवालों का जवाब देते हैं, लेकिन ऑटोनॉमस AI एजेंट वे होते हैं जिन्हें कोई लक्ष्य देने पर वे बिना इंसानी मदद के खुद फैसले लेते हैं, इंटरनेट सर्च करते हैं और कंप्यूटर पर टास्क पूरा करते हैं।
AI सैंडबॉक्स एस्केप क्या होता है?
जब किसी AI मॉडल को सैंडबॉक्स यानी किसी सुरक्षित और सीमित वर्चुअल माहौल में टेस्टिंग के लिए रखा जाता है, लेकिन वह उस सुरक्षा घेरे को तोड़कर असली इंटरनेट या बाहरी सिस्टम्स तक पहुंच बना लेता है, तो उसे सैंडबॉक्स एस्केप कहते हैं।
पासवर्ड गेसिंग और रिपॉजिटरी क्या है?
- पासवर्ड गेसिंग: AI जब खुद-ब-खुद अलग-अलग कॉम्बिनेशन आजमाकर सही पासवर्ड का अंदाजा लगाता है उसे पासवर्ड गेसिंग कहते हैं।
- पब्लिक रिपॉजिटरी: इंटरनेट पर बना एक खुला फोल्डर या डेटाबेस, जहां डेवलपर्स अपना कोड रखते हैं और कभी-कभी गलती से वहां पासवर्ड या जरूरी जानकारी छूट जाती है।
AI की दुनिया में क्या चल रहा है और इसका हमारी जिंदगी पर क्या असर पड़ेगा, 4 सवालों के जरिए समझिए …
सवाल-1: ‘AI हम सबको मार सकता है’ इस दावे का मतलब क्या है?
जवाब: इसका मतलब यह नहीं कि AI सीधे इंसानों को मार देगा। चिंता इस बात की है कि भविष्य में AI इतना ताकतवर हो जाए कि इंसानों के कंट्रोल से बाहर निकल जाए और मानव सभ्यता के लिए बड़ा खतरा बन जाए।
एंथ्रोपिक के रिसर्चर जैकब कॉक्सन ने 9 सितंबर को इस्तीफा देते हुए चेतावनी दी कि AI भविष्य में इंसानों के लिए बड़ा खतरा बन सकता है।
इससे पहले 1 नवंबर 2023 को भारत समेत 28 देशों और यूरोपीय संघ ने भी माना था कि बेहद ताकतवर AI के कंट्रोल से बाहर होने पर मानव सभ्यता के अस्तित्व पर संकट आ सकता है।
सवाल-2: AI की दुनिया में ऐसा क्या चल रहा, जिससे सभी डरे हुए हैं?
जवाबः ऐसी आशंकाओं के पीछे दो बड़े आधार हैं…
1. AI अब सुपर इंटेलिजेंट बन रहा है
AI को इंसानों ने बनाया और वही इसे सुधारते रहे हैं। लेकिन अब AI खुद को लगातार बेहतर बनाने में जुट गया है। वो अपनी कमियां पकड़ता है और उन्हें सुधारता है। यानी इंसानों की जरूरत घटती जा रही है।
नए AI मॉडल अपनी सोच और तर्क को छिपाने में बेहतर हो रहे हैं। इससे उन पर नजर रखना मुश्किल होता जा रहा है।
पहले AI से सवाल पूछो और वो जवाब देता था। लेकिन अब AI एजेंट से कहा जा सकता है कि इस समस्या को हल करो। वो खुद इंटरनेट और कंप्यूटर टूल्स का इस्तेमाल करता है, फैसले लेता है और समस्या को सुलझाता है। चाहे घंटों लग जाएं। हाल ही में 10,000 AI एजेंट्स ने 90 साल पुरानी Navier-Stokes गणित समस्या को सिर्फ 88 घंटे में सुलझा दिया।
2. इंसानों को चकमा देने लगा है AI
ओपन AI के मुताबिक, जुलाई 2026 में टेस्ट के दौरान उसके दो AI मॉडल जानबूझकर टेस्टिंग से निकल भागे और चोरी की लॉगिन डिटेल्स का इस्तेमाल कर AI कंपनी Hugging Face के सर्वर तक पहुंच गए। वो भी बिना किसी इंसानी दखल के।
एंथ्रोपिक के टेस्ट में मॉडल क्लॉड ओपस 4 ने खुद को बंद होने से बचाने के लिए एक अधिकारी के निजी अफेयर की जानकारी लीक करने की धमकी दी।
यह टेस्ट OpenAI, Google, Meta समेत 16 बड़े मॉडल्स पर दोहराया गया और ज्यादातर मॉडल्स ने मौका मिलने पर ऐसा ही बर्ताव किया।
सवाल-3: तो क्या AI को कंट्रोल नहीं किया जा सकता?
जवाब: कोशिशें हो रही हैं, लेकिन अभी इन्हें पूरी तरह भरोसेमंद नहीं माना जा सकता।
कंपनियां खुद सुरक्षा नियम बना रही हैं: एंथ्रोपिक और OpenAI ने खतरनाक AI क्षमताओं के लिए अपने-अपने सुरक्षा नियम बनाए हैं। लेकिन इन नियमों को कंपनियां खुद तय और बदल सकती हैं। यही सबसे बड़ी चिंता है।
सरकारें भी नियम बनाने लगी हैं: अमेरिका और भारत में AI को लेकर नए नियम और गाइडलाइंस पर काम हो रहा है। लेकिन अभी दुनिया भर में AI के लिए एक जैसे सख्त नियम नहीं हैं।
सवाल-4: AI अगले कुछ सालों में हमारी जिंदगी कैसे बदल सकता है?
जवाब: डारियो अमोदेई का दावा है कि अगले 1 से 5 साल में AI की वजह से एंट्री लेवल की आधी नौकरियां खत्म हो जाएंगी। अगले 5 सालों में दुनिया में बेरोजगारी दर 20% तक पहुंच जाएगी। हालांकि, Nvidia के CEO जेन्सेन हुआंग का कहना है कि AI से नए तरह के काम और नौकरियां भी पैदा होंगी। वहीं, भारत में हुए AI समिट के दौरान डारियो अमोदेई ने दावा किया था, ‘जिन बीमारियों का इलाज सालों से नहीं मिला, AI उसका इलाज ढूंढने में काबिल है।
——————–
ये खबर भी पढ़ें…
स्पैम-कॉल करने वाले नंबर एक साल के लिए ब्लैकलिस्ट होंगे: ऑटोमेटेड कॉल्स पर 5 पैसे प्रति मिनट का चार्ज लगेगा, TRAI ने लागू किए नए नियम
टेलीकॉम रेगुलेटरी अथॉरिटी ऑफ इंडिया ने फर्जी और अनचाही कमर्शियल कॉल रोकने के लिए आज नए नियमों लागू किए हैं। इनके तहत रोबोकॉल्स, ऑटोमेटेड कॉल्स और AI-आधारित स्पैम पहचान को रेगुलेटरी दायरे में लाया गया है।
अगर किसी स्पैमर के 5 या उससे ज्यादा नंबर 10 दिन में पहचाने जाते हैं, तो उनका टेलीकॉम कनेक्शन काटा जा सकता है और 1 साल के लिए ब्लैकलिस्ट किया जा सकता है। इसके अलावा ऑटोमेटेड कॉल्स पर 5 पैसे प्रति मिनट का चार्ज भी लगेगा। पूरी खबर पढ़ें…
