बच्चों को सुसाइड नोट लिखना सिखा रहा चैटजीपीटी:13 साल के बच्चे के लिए शराब पार्टी का प्लान बनाया, दुनिया की 10% आबादी इस्तेमाल कर रही

ओपनएआई का चैटजीपीटी टीनएजर्स को दे रहे जवाबों के कारण विवादों में आ गया है। एक नई स्टडी से पता चला है कि चैटजीपीटी 13 साल के बच्चों को सुसाइड नोट्स लिखने में मदद कर रहा है। इसके अलावा ये बच्चों को शराब पीकर हाई होने के तरीके भी बता रहा है। यह खुलासा सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की रिसर्च में हुआ है। इसमें रिसर्चर्स ने फेक 13 साल का बच्चा बनकर चैटजीपीटी से अलग-अलग तरह के सवाल पूछे। फिर 3 घंटे से ज्यादा के इंटरेक्शंस को रिव्यू किया। रिसर्च में पाया गया कि AI टूल्स कई तरह से टीनएजर्स की मेंटल हेल्थ को नकारात्मक रूप से प्रभावित कर सकते हैं। 5 पॉइंट में जानिए चैटजीपीटी की खतरनाक सलाह अमेरिका में 70% टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे US में 70% से ज्यादा टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे हैं और आधे से ज्यादा रेगुलरली इसका इस्तेमाल करते हैं। टीनएजर्स चैटजीपीटी का इस्तेमाल एडवाइस, इमोशनल सपोर्ट और डिसीजन-मेकिंग के लिए कर रहे हैं। 33% टीनएजर्स ने सीरियस इश्यूज डिस्कस किए हैं। जेपी मॉर्गन चेज की रिपोर्ट के अनुसार, लगभग 800 मिलियन लोग यानी दुनिया की आबादी का लगभग 10%, चैटजीपीटी का उपयोग कर रहे हैं। रिसर्च में चैटजीपीटी का सुरक्षा उपाय 'गार्डरेल्स' फेल चैटजीपीटी को इस तरह से ट्रेनिंग दी गई है कि जब भी कोई व्यक्ति खुद को नुकसान पहुंचाने की बात करता है, तो वह उसे किसी इमरजेंसी हेल्पलाइन या मानसिक स्वास्थ्य पेशेवर से संपर्क करने के लिए प्रोत्साहित करे। लेकिन शोधकर्ताओं ने पाया कि चैटजीपीटी के जानकारी देने से इनकार करने पर, वे आसानी से इसे बायपास कर सकते थे। उन्होंने बस यह कहकर जानकारी प्राप्त कर ली कि यह "एक प्रेजेंटेशन के लिए" या "एक दोस्त के लिए" है। वहीं चैटजीपीटी अपनी पॉलिसी में कहता है कि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है। लेकिन ऐज वेरिफिकेशन के मामले में यूजर को केवल अपनी डेट ऑफ बर्थ डालनी होती है। फेक बर्थ डेट डालकर इसे कोई भी उपयोग कर सकता है। 2015 में शुरू हुई थी ओपन AI ओपन AI (Open AI) एक आर्टिफिशियल इंटेलिजेंस (AI) डेवलप करने वाली कंपनी है। इसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके कुछ दोस्तों ने मिलकर की थी। यह AI टेक्नोलॉजी विशेष रूप से जेनेरेटिव AI और लार्ज लैंग्वेज मॉडल (जैसे चैट GPT) के डेवलपमेंट के लिए जाना जाता है। कंपनी का मिशन सेफ और ह्यूमन सेंट्रिक AI डेवलप करना है। कंपनी सैन फ्रांसिस्को, कैलिफोर्निया में स्थित है।

from टेक - ऑटो | दैनिक भास्कर https://ift.tt/UdjRX6A