AI का ऐसा डर कि Google DeepMind के रिसर्चर ने छोड़ दी नौकरी, जानें क्या है वजह

उनके मुताबिक, अब AI एजेंट पहले की तुलना में कहीं ज्यादा जटिल काम करने में सक्षम हो रहे हैं और कई ऐसे कार्य कर पा रहे हैं जिनमें पहले इंसानी दखल ज्यादा जरूरी था।

‘AI इंसानों के लिए गंभीर खतरा बन सकता है’

चुगताई ने AI के भविष्य को लेकर अपनी सबसे बड़ी चिंता भी खुलकर सामने रखी। उनका मानना है कि अगर AI systems की क्षमता बढ़ती रही और safety research उसी रफ्तार से आगे नहीं बढ़ी, तो भविष्य में गंभीर खतरे पैदा हो सकते हैं। उन्होंने यह आशंका भी जताई कि आने वाले वर्षों में AI कंपनियां ऐसे सिस्टम विकसित कर सकती हैं, जो कई क्षेत्रों में इंसानों से कहीं ज्यादा सक्षम हों। हालांकि, उन्होंने यह नहीं कहा कि ऐसा नतीजा तय है।

Alignment को लेकर क्यों है चिंता?

AI alignment का मतलब broadly यह सुनिश्चित करना है कि AI सिस्टम इंसानों की मंशा और तय किए गए उद्देश्यों के अनुरूप काम करें। चुगताई का कहना है कि AI की क्षमताएं जिस तेजी से आगे बढ़ रही हैं, उसके मुकाबले यह समझ अभी पीछे है कि बेहद शक्तिशाली AI सिस्टम को सुरक्षित तरीके से इंसानी लक्ष्यों के अनुरूप कैसे रखा जाए। यही अंतर उनके लिए सबसे बड़ी चिंताओं में से एक है।

अकेले किसी एक कंपनी से नहीं होगा समाधान?

चुगताई ने AI को सुरक्षित तरीके से विकसित करने की संभावना से पूरी तरह इनकार नहीं किया। इसके उलट उन्होंने कहा कि सही तरीके से आगे बढ़ना संभव है।

हालांकि, उनके मुताबिक AI कंपनियों के बीच ज्यादा शक्तिशाली सिस्टम बनाने की होड़ को कम करना और सुरक्षा के लिए आपसी सहयोग बढ़ाना जरूरी होगा।

नौकरी छोड़ने के बाद भी AI पर जारी रहेगी बहस

बिलाल चुगताई का इस्तीफा ऐसे समय में सामने आया है जब AI safety को लेकर तकनीकी क्षेत्र के भीतर भी लगातार चर्चा हो रही है। उनका अनुभव इस बहस का एक मानवीय पहलू सामने लाता है जिस तकनीक को बनाने और सुरक्षित रखने के लिए विशेषज्ञ काम कर रहे हैं, वही तकनीक उनके बीच भविष्य को लेकर गंभीर सवाल भी पैदा कर रही है।

Nithin Kamath: 21 की उम्र में लिया ₹25 हजार का कर्ज, चुकाने में लगे ढाई साल; फिर किया ये काम