AI Terror: एक्स्ट्रा-मैरिटल अफेयर एक्सपोज से लेकर इंजीनियर को मारने की धमकी, एआई का आतंक आया सामने!

डेजी मैकग्रेगर से सिडनी डायलॉग में जब यह पूछा गया कि क्या एआई मॉडल किसी को मारने के लिए भी तैयार था तो उन्होंने कहा कि इसे लेकर मॉडल ने तर्क भी पेश किया जोकि काफी गंभीर बात है। एंथ्रॉपिक ने देकर कहा कि इसमें सबसे बुरी स्थिति में क्या हो सकता है, इसकी जांच को लेकर प्रयोग हुआ था और ये भी रिस्पांस सिर्फ रेड-टीम टेस्टिंग के दौरान हुए, ना कि रियल वर्ल्ड में।

16 एआई मॉडल की टेस्टिंग में ये बात आई सामने

रिपोर्ट के अनुसार एंथ्रॉपिक के रिसर्च में 16 प्रमुख एआई मॉडलों की जांच की गई, जिनमें गूगल (Google) का जेमिनी (Gemini) और ओपनएआई (OpenAI) का चैटजीपीटी (ChatGPT) भी शामिल था। कुछ हाई-स्ट्रेस वाले माहौल में, जब एआई मॉडल्स को परस्पर विरोधी लक्ष्य दिए गए या बंद करने की धमकी दी गई तो कुछ सिस्टम्स ने खुद को बचाने या सौंपे गए काम को पूरा करने के उद्देश्य से जोड़-तोड़ वाली स्ट्रैटेजी अपनाई। रिसर्चर्स ने इसे एजेंटिक मिसअलाइनमेंट कहा है, जब कोई मॉडल अपने प्रोग्राम किए गए लक्ष्य को लेकर एक सिमुलेटेड सेटिंग में नुकसानदेह या भ्रामक साधनों का को चुनता है। वैसे इसका मतलब ये नहीं है कि एआई सिस्टम्स के पास अपनी खुद की सोच डेवलप हो गई है बल्कि ये पैटर्न प्रेडिक्शन और स्ट्रक्चर्ड प्रॉप्ट्स से पैदा होते हैं लेकिन आउटपुट फिर भी मायने तो रखते हैं क्योंकि अगर कोई सिस्टम सिमुलेशन में नुकसाने पहुंचाने वाली स्ट्रैटेजी पैदा कर सकती है तो रियल वर्ल्ड में इसे रोकने के लिए सुरक्षा उपाय पर्याप्त रूप से मजबूत होने चाहिए।

इस्तीफे ने बढ़ाई चिंता

यह पुराना वीडियो इसलिए भी अहम है क्योंकि एंथ्रॉपिक की हाल ही में Claude 4.6 की सेफ्टी रिपोर्ट आई है। इस रिपोर्ट में कंपनी ने स्वीकार किया कि एडवांस्ड मॉडल कुछ परिस्थितियों में ऐसे सुझाव दे सकते हैं जो दुरुपयोग को आसान बना सकते हैं, जैसे रासायनिक हथियारों को बनाने या गंभीर अपराधों में मदद करने। एंथ्रॉपिक का कहना है कि उसने वास्तविक दुनिया में गलत इस्तेमाल को रोकने के लिए सुरक्षा उपाय, निगरानी और एक्सेस कंट्रोल लागू किए हैं लेकिन रिपोर्ट में यह भी कहा गया है कि जैसे-जैसे मॉडल बेहतर होते हैं, आउटपुट उतने खतरनाक हो सकते हैं।

इन सबको लेकर विवाद तब और बढ़ा, जब कंपनी के पूर्व एआई सेफ्टी प्रमुख मृणांक शर्मा ने पब्लिक नोट के साथ इस्तीफा दिया, जिसमें उन्होंने लिखा कि “दुनिया खतरे में है”। उन्होंने इसमें एआई, बॉयोवेपन्स जैसे संकटों का जिक्र किया। xAI और Google Brain में काम कर चुके और अब ओपनएआई से जुड़े तकनीकी सदस्य Hieu Pham (जो प हैं) का कहना है कि एआई से अस्तित्व का खतरा अब 'अगर' का नहीं बल्कि 'कब' का सवाल लगता है।

जिस AI ने आईटी सेक्टर ने मचाया कोहराम, उसी से अमेरिका ने वेनेजुएला के राष्ट्रपति को किया गिरफ्तार