ChatGPT पर लगेगा पैरेंटल कंट्रोल, OpenAI ने बच्चों की सुरक्षा को लेकर उठाया सख्त कदम

OpenAI ने बड़ा फैसला लेते हुए अपने चैटबॉट पर पैरेंटल कंट्रोल लगाने का फैसला किया है। यह मामला ऐसे समय में आया, जब OpenAI के चैटबॉट ChatGPT पर आरोप लगा है कि इस टूल ने 16 साल के बच्चे को आत्महत्या करने के लिए उकसाया है। दरअसल, एक लड़के के माता-पिता ने ChatGPT को मौत का जिम्मेदार ठहराते हुए मुआवजे की मांग की है। साथ ही ChatGPT से पैरेंटल कंट्रोल लगाने की बात भी कही है। अब आइए जानते हैं क्या है पूरा मामला?

Open AI के ChatGPT पर हाल-फिलहाल में कई गंभीर आरोप लगे हैं। अब इस AI टूल पर एक और गंभीर आरोप लगा है। ताजा मामला एक 16 साल के बच्चे से जुड़ा हुआ है, जिसे ChatGPT ने आत्महत्या के लिए उकसाया। लड़के के माता-पिता ने ChatGPT को मौत का जिम्मेदार ठहराया और मुआवजे की मांग की। साथ ही ChatGPT से पैरेंटल कंट्रोल लगाने की बात भी कही। इस मामले पर संवेदनशीलता दिखाते हुए OpenAI ने अपने चैटबॉट पर पैरेंटल कंट्रोल लगाने का फैसला किया। बता दें कि यह नियंत्रण 13 साल और इससे अधिक उम्र के टीनएजर्स के लिए है। फिलहाल पैरेंटल कंट्रोल की सुविधा अगले महीने से शुरू होने वाली है।

बच्चों के अकाउंट से कनेक्ट हो पाएंगे पैरेंट्स

टेक रडार की रिपोर्ट के मुताबिक, माता-पिता अब अपने बच्चों के ChatGPT अकाउंट से अपना अकाउंट कनेक्ट कर सकेंगे, साथ ही कुछ फीचर्स को लिमिट कर पाएंगे। अगर बच्चा इमोशनली परेशान है तो कनेक्ट अकाउंट की वजह से पैरेंट्स को तुरंत सूचना मिलेगी। यह तरीका OpenAI की तरफ से इसलिए अपनाया गया है क्योंकि कंपनी ने माना है कि टीनएजर्स ChatGPT का यूज सिर्फ सवाल पूछने के लिए ही नहीं, बल्कि कभी-कभी दोस्त की तरह बात करने के लिए भी करते हैं। ऐसे में कुछ बच्चे AI को अपनी परेशानियां बताते हैं। लेकिन ऐसी परिस्थिति में यूजर को ChatGPT सही से संभाल नहीं पाता। जिस वजह से पैरेंट्स को इससे कनेक्ट कर दिया जाएगा।

पैरेंट्स को तुरंत मिलेगा अलर्ट

यह सुविधा अगले महीने से रोल आउट की जाएगी। अगर माता-पिता अपने बच्चों के ChatGPT अकाउंट से अपना अकाउंट कनेक्ट कर लेते हैं तो वह ये तय कर पाएंगे कि किस सर्च हिस्ट्री को सेव करना है किसे नहीं। इसके अलावा, AI मेमोरी का इस्तेमाल करना चाहिए या नहीं। इससे यह होगा की जब भी बच्चा चैटबॉट से इमोशनल या डिप्रेशन जैसी बातें करेगा तो पैरेंट्स को तुरंत अलर्ट मिल जाएगा। हालांकि, आपको ये बता दें कि हर बातचीत पर नजर नहीं रखी जाएगी, सिर्फ जरूरी हालात में ही अलर्ट भेजा जाएगा।

OpenAI ने बनाया एक्सपर्ट काउंसिल

नई सुविधाओं को बेहतर बनाने, डिप्रेशन की तरफ बढ़ रहे बच्चों को पहचानने और उनकी मदद करने के लिए OpenAI ने एक एक्सपर्ट काउंसिल भी बनाया है, जिसका नाम Expert Council on Well-Being and AI रखा गया है। इसमें 250 से ज्यादा डॉक्टर और मेंटल हेल्थ एक्सपर्ट्स हैं। इस काउंसिल के जरिए एक्सपर्ट्स मदद करेंगे कि AI कैसे बच्चों की परेशानी को पहचाने, जवाब दे और जरूरत पड़ने पर माता-पिता को अलर्ट करे।

OpenAI ने बनाया खास मॉडल

OpenAI ने डिप्रेशन से गुजर रहे बच्चों के लिए एक खास तरह का मॉडल बनाया है, जो मेंटल हेल्थ से जुड़ी बातचीत को डील करेगा। इसको ऐसे समझें की जैसे एक बच्चा है जो डिप्रेशन में है, उदास है और खुद को नुकसान पहुंचाने की बात कर रहा है, तो यह मॉडल उसकी बात को समझकर फिर सावधानी से उसका जवाब देगा। इसे डिलिबरेटिव एलाइनमेंट नाम की तकनीक से बनाया गया है, जो खतरनाक सवालों को टालने और सही जवाब देने में मदद करता है।

यह भी पढ़ें: Microsoft का अमेरिकी एजेंसियों को तोहफा, क्लाउड सेवाओं पर दी भारी छूट