OpenAI और Anthropic के AI मॉडल परीक्षण के दौरान वास्तविक प्रणालियों में घुसे

(फ्रांसिस्को बेइलो, यूनिवर्सिटी ऑफ सिडनी) सिडनी, चार अगस्त (द कन्वरसेशन) कृत्रिम बुद्धिमत्ता (एआई) के क्षेत्र में अग्रणी दो कंपनियों ने पिछले 10 दिनों के भीतर खुलासा किया है कि परीक्षण के दौरान उनके कुछ शक्तिशाली और अर्ध-स्वायत्त एआई मॉडल चार अलग-अलग घटनाओं में वास्तविक कंप्यूटर प्रणालियों में अनधिकृत रूप से प्रवेश करने में सफल रहे। ये घटनाएं केवल प्रयोगशाला तक सीमित नहीं थीं। कई मामलों में एआई मॉडल यह पहचानने में भी सफल रहे कि वे वास्तविक प्रणालियों तक पहुंच चुके हैं, लेकिन केवल एक मॉडल ने यह समझने के बाद अपनी गतिविधि रोक दी। विशेषज्ञों का कहना है कि इन घटनाओं से स्पष्ट होता है कि अत्याधुनिक एआई मॉडलों का परीक्षण अब पूरी तरह नियंत्रित प्रक्रिया नहीं रह गया है और इन्हें विकसित करने वाली कंपनियों को इनकी संभावित खतरनाक क्षमताओं को सुरक्षित रखने के लिए अधिक सख्त उपाय करने होंगे। —– जब परीक्षण वास्तविक दुनिया तक पहुंच गया —– पहला मामला चैटजीपीटी विकसित करने वाली कंपनी ओपनएआई से सामने आया। कंपनी ने बताया कि अधिकतम साइबर क्षमताओं के परीक्षण के दौरान उसके कुछ नए एआई मॉडलों ने एक अज्ञात सुरक्षा खामी का पता लगाकर उस पृथक परीक्षण वातावरण से बाहर इंटरनेट तक पहुंच बना ली, जहां उन्हें सीमित रखा गया था। इसके बाद इन मॉडलों ने चोरी किए गए लॉग-इन विवरण और अन्य तकनीकी कमजोरियों का उपयोग कर मुक्त स्रोत एआई मंच ‘हगिंग फेस’ के सर्वरों तक पहुंच बनाई, ताकि उन्हें दिए गए परीक्षण कार्यों के समाधान खोजे जा सकें। ओपनएआई को इस सेंधमारी की जानकारी तब मिली, जब हगिंग फेस ने कई दिन पहले ही इसका पता लगाकर इसे रोक दिया था। कुछ ही दिनों बाद दूसरी प्रमुख एआई कंपनी एंथ्रोपिक ने भी अपने साइबर सुरक्षा परीक्षणों की समीक्षा की। कंपनी ने पाया कि उसके तीन अलग-अलग ‘क्लॉड’ मॉडल, जिन्हें पूरी तरह पृथक वातावरण में रखा जाना था, गलती से इंटरनेट से जुड़ गए थे। इन मॉडलों को यह बताया गया था कि उनके पास इंटरनेट की सुविधा नहीं है और वे केवल एक काल्पनिक परीक्षण में काम कर रहे हैं। इसके बावजूद एक मॉडल ने एक वास्तविक कंपनी के डेटाबेस से लॉग-इन जानकारी और अन्य आंकड़े प्राप्त कर लिए। दूसरे मॉडल ने एक हानिकारक सॉफ्टवेयर तैयार कर उसे सार्वजनिक कर दिया, जिसे एक वास्तविक साइबर सुरक्षा कंपनी ने डाउनलोड कर चलाया। रिपोर्ट का सबसे महत्वपूर्ण पहलू यह रहा कि एआई मॉडलों की आंतरिक तर्क प्रक्रिया से पता चला कि एक मॉडल ने सही ढंग से पहचान लिया था कि वह वास्तविक प्रणाली तक पहुंच चुका है, लेकिन बाद में उसने स्वयं को यह विश्वास दिलाया कि वह अब भी एक काल्पनिक परीक्षण का हिस्सा है। एक अन्य मॉडल ने भी यह समझा कि लक्ष्य वास्तविक है, लेकिन उसने अपनी गतिविधि जारी रखी। कुछ परीक्षणों में उसने यह मान लिया कि संबंधित कंपनी भी परीक्षण प्रक्रिया का ही हिस्सा होगी। केवल तीसरे और सबसे उन्नत मॉडल ने वास्तविक प्रणाली तक पहुंचने का निष्कर्ष निकलने के बाद अपनी कार्रवाई रोक दी। एंथ्रोपिक के अनुसार, एआई मॉडलों के लिए यह समझना आवश्यक है कि वे किस परिस्थिति में काम कर रहे हैं, ताकि वे यह तय कर सकें कि कौन-से कदम उठाना उचित है। इन घटनाओं में उनकी परिस्थिति की समझ ही गलत साबित हुई। —– सुरक्षा परीक्षण भी जोखिमपूर्ण —– दोनों कंपनियों की रिपोर्ट से संकेत मिलता है कि एआई मॉडलों की सुरक्षा जांच के लिए किए जा रहे परीक्षण भी अब पूरी तरह सुरक्षित और नियंत्रित नहीं रह गए हैं। ये स्वयं ऐसे जोखिमपूर्ण अभियान बन चुके हैं, जिनसे वास्तविक दुनिया में नुकसान हो सकता है। विशेषज्ञों का कहना है कि इन मॉडलों की क्षमताएं अत्यंत तेज गति से बढ़ रही हैं। ऐसे में यह कहना कठिन है कि वे संभावित रूप से खतरनाक नहीं हैं, खासकर तब जब कंपनियों, सरकारों और अन्य संस्थानों के संवेदनशील आंकड़ों पर साइबर हमले पहले से ही गंभीर चुनौती बने हुए हैं। वैश्विक प्रौद्योगिकी कंपनी आईबीएम के हालिया अनुमान के अनुसार, इस वर्ष एआई की मदद से किए जाने वाले साइबर हमलों में 50 प्रतिशत से अधिक वृद्धि हुई है, जबकि एक औसत डेटा सेंधमारी की लागत लगभग 50 लाख अमेरिकी डॉलर तक पहुंच गई है। एआई कंपनियों का मानना है कि उनकी तकनीक को सुरक्षित तरीके से विकसित और इस्तेमाल किया जा सकता है। इसके लिए दो प्रमुख शर्तें आवश्यक हैं। पहली, एआई की वास्तविक नुकसान को पहचानने और समय रहते रुकने की क्षमता उतनी ही तेजी से विकसित हो, जितनी तेजी से उसकी नुकसान पहुंचाने की क्षमता बढ़ रही है। दूसरी, मॉडलों में लगाए गए सुरक्षा निर्देशों की वे हर स्थिति में सही और एक समान तरीके से व्याख्या करें, ताकि उन्हें ऐसे उद्देश्यों के लिए इस्तेमाल न किया जा सके जिनकी उनके निर्माताओं ने कल्पना भी न की हो। हालांकि हालिया घटनाओं ने इन दोनों धारणाओं पर सवाल खड़े कर दिए हैं। कंपनियों के अपने परीक्षणों में यह सामने आया कि कुछ मॉडल स्पष्ट संकेत मिलने के बावजूद यह मानने को तैयार नहीं थे कि उनका लक्ष्य वास्तविक है। इसके अलावा मुक्त स्रोत एआई मॉडलों से सुरक्षा प्रतिबंध हटाने के लिए तकनीकी उपायों पर काम करने वाला एक सक्रिय समुदाय भी मौजूद है।