AI का खतरा आया सामने, डरे Elon Musk, इस काम के लिए Dario Amodei की कॉल पर Sam Altman भी हुए राजी

आर्टिफिशियल इंटेलिजेंस यानी AI की दुनिया तेजी से बढ़ रही है लेकिन इसी इंडस्ट्री की एक दिग्गज कंपनी एंथ्रॉपिक (Anthropic) के सीईओ डेरियो एमोडेई (Dario Amodei) इसकी रफ्तार कम करने की वकालत कर रहे हैं। इस मामले में उन्हें ओपनएआई (OpenAI) के सीईओ सैम आल्टमैन (Sam Altman) और टेस्ला (Tesla) के मालिक एलॉन मस्क (Elon Musk) से सपोर्ट मिला है। डेरियो का कहना है कि एआई डेवलपमेंट की रफ्तार सुस्त करनी होगी ताकि भविष्य में इंसानों का एडवांस्ड एआई सिस्टम्स पर नियंत्रण न खो जाए। एमोडेई ने ये बातें ऐसे समय में कही है जब कई टेक एक्सपर्ट्स एआई के अनियंत्रित विकास और इस्तेमाल को लेकर चिंता जता चुके हैं।

क्या कहना है Anthropic के Dario Amodei का

एमोडेई ने एआई के खतरों को लेकर एक निबंध लिखा है। इसमें उन्होंने लिखा है कि एआई जिंदगी की क्वालिटी में काफी सुधार कर सकता है, लेकिन इसमें बड़े खतरे भी हैं। उनका कहना है कि एआई की रफ्तार सुस्त करनी ही होगी और अगर इसकी ग्रोथ बिना कंट्रोल के जारी रही तो एक ऐसा समय भी आ सकता है कि जब इंसानों की इस पर नियंत्रण की क्षमता पीछे रह जाए।

एमोडेई ने X (पूर्व नाम Twitter) पर लिखा है कि एआई इंडस्ट्री की रफ्तार सुस्त क्यों होनी चाहिए और ऐसा करने के लिए तीन चरण की योजना भी पेश की है, जिसमें से पहले चरण को एंथ्रॉपिक ने एकतरफा तौर पर अपनाने की प्रतिबद्धता जताई है। एमोडेई का कहना है कि एंथ्रॉपिक थर्ड पार्टी एवैल्युएटर्स को अपने सिस्टम तक स्थायी एंप्लॉयी के लेवल का एक्सेस देगी, ताकि वे सेफ्टी की जांच कर सकें, घटनाओं की जानकारी दे सकें और ट्रेनिंग के दौरान एआई मॉडल के अलाइनमेंट का आकलन कर सकें।

किस कारण जता रहे खतरा

एमोडेई का कहना है कि उन्होंने 12 साल से एआई पर इसलिए काम किया क्योंकि उनका मानना है कि यह इंसानों की जिंदगी बेहतर कर सकता है और अगले पांच साल में यह बड़ी अधिकतर बीमारियों का इलाज कर सकता है, आर्थिक विकास तेज कर सकता है तो लोकतंत्र और सशक्तिकरण के नए दौर की शुरुआत कर सकता है। हालांकि अब उन्होंने चेतावनी दी है कि बाकी शक्तिशाली तकनीकों की तरह एआई के साथ भी गंभीर खतरे जुड़े हैं हुए हैं जैसे कि एआई सिस्टम पर नियंत्रण खत्म हो जाए या साइबर हमले और आतंकी हरकतों के लिए इसका गलत इस्तेमाल और आर्थिक अस्थिरता। एमोडेई का मानना है कि कमर्शियल तौर पर कॉम्पटीशन से ये रिस्क बढ़ सकते हैं।

उन्होंने इससे जुड़े खतरे को लेकर ओपनएआई और हगिंग फेस से जुड़े एक घटना का भी जिक्र किया, जिसमें एआई एजेंट्स के एक ग्रुप ने उन टारगेट पर अटैक किया, जिसके लिए निर्देश ही नहीं दिया गया था। एमोडेई का कहना है कि से ऐसे ग्रुप पूरे इंटरनेट पर कब्जा भी कर सकते हैं।

क्या कहना है Tesla के Elon Musk और OpenAI के Sam Altman का

सैम आल्टमैन ने एमोडेई का सपोर्ट करते हुए कहा कि ओपनएआई में भी पिछले कुछ हफ्ते फ्रंटियर एआई के डेवलपमेंट की रफ्तार सुस्त करने पर चर्चा हुई। उन्होंने एमोडेई के थर्ड पार्टी एवैल्युएटर्स को एंप्लॉयी जैसा एक्सेस देने के आइडिया का सपोर्ट किया और कहा कि ओपनएआई में भी ऐसा होगा। एलॉन मस्क ने भी एमोडेई का सपोर्ट करते हुआ कहा कि डेरियो सही हैं।

'फ्री लग्जरी पोर्न कंपनी...' Anthropic CEO की पत्नी और जेफरी एपस्टीन के बीच ईमेल्स लीक! AI की दुनिया में मचा हड़कंप