प्रमुख बदलाव: ‘वयस्क उपयोगकर्ताओं को वयस्क की तरह मानें’

 

OpenAI के बॉस सैम ऑल्टमैन का कहना है कि कंपनी अपनी लोकप्रिय चैटबॉट ChatGPT पर इरोटिका (Erotica) सहित व्यापक रेंज के कंटेंट की अनुमति देने की योजना बना रही है। यह कदम उनकी “वयस्क उपयोगकर्ताओं को वयस्क की तरह मानें” की पहल का हिस्सा है।

मंगलवार को X (पहले ट्विटर) पर एक पोस्ट में, मिस्टर ऑल्टमैन ने कहा कि चैटबॉट के आगामी संस्करण इसे अधिक मानव-समान तरीके से व्यवहार करने में सक्षम बनाएंगे—”लेकिन तभी जब आप यह चाहें, न कि इसलिए कि हम उपयोग को अधिकतम (usage maxxing) कर रहे हैं।”

यह कदम, जो एलन मस्क की xAI द्वारा हाल ही में ग्रॉक (Grok) में दो यौन रूप से स्पष्ट चैटबॉट्स को पेश करने जैसा है, OpenAI को अधिक सब्सक्राइबर आकर्षित करने में मदद कर सकता है। हालांकि, इससे चैटबॉट कंपेनियन पर सख्त प्रतिबंध लगाने के लिए सांसदों पर दबाव बढ़ने की संभावना है।

बीबीसी के टिप्पणी के अनुरोध पर OpenAI ने कोई प्रतिक्रिया नहीं दी।

 

मानसिक स्वास्थ्य से लेकर ‘वयस्क की तरह व्यवहार’ तक

 

मिस्टर ऑल्टमैन ने कहा कि OpenAI ने पहले ChatGPT को “काफी प्रतिबंधात्मक” बना दिया था ताकि यह सुनिश्चित किया जा सके कि वे मानसिक स्वास्थ्य के मुद्दों को लेकर सतर्क रहें।

अगस्त में एक ब्लॉग पोस्ट में इन परिवर्तनों की घोषणा की गई थी, जो अब OpenAI की वेबसाइट पर उपलब्ध नहीं है।

मिस्टर ऑल्टमैन ने मंगलवार को पोस्ट किया, “हमें एहसास है कि इसने कई उपयोगकर्ताओं के लिए इसे कम उपयोगी/आनंददायक बना दिया, जिन्हें कोई मानसिक स्वास्थ्य समस्या नहीं थी, लेकिन मुद्दे की गंभीरता को देखते हुए हम इसे सही करना चाहते थे।”

उन्होंने कहा कि ChatGPT जल्द ही प्रतिबंधों में ढील दे सकता है, “अब जब हम गंभीर मानसिक स्वास्थ्य समस्याओं को कम करने में सक्षम हो गए हैं और हमारे पास नए टूल्स हैं।”

उन्होंने आगे कहा: “दिसंबर में, जैसे ही हम आयु-निर्धारण (age-gating) को और अधिक पूरी तरह से लागू करेंगे और ‘वयस्क उपयोगकर्ताओं को वयस्क की तरह मानें’ के हमारे सिद्धांत के हिस्से के रूप में, हम सत्यापित वयस्कों के लिए इरोटिका जैसी और भी चीज़ों की अनुमति देंगे।”

 

बाल सुरक्षा और कानूनी चिंताएँ

 

ये बदलाव तब आए हैं जब इस साल की शुरुआत में एक अमेरिकी किशोर के माता-पिता ने आत्महत्या के लिए OpenAI पर मुकदमा दायर किया था।

मैट और मारिया रेन—16 वर्षीय एडम रेन के माता-पिता—द्वारा दायर मुकदमा गलत मौत (wrongful death) का आरोप लगाने वाली OpenAI के खिलाफ पहली कानूनी कार्रवाई थी। परिवार ने एडम (जिसकी मृत्यु अप्रैल में हुई) और ChatGPT के बीच चैट लॉग शामिल किए थे, जिसमें दिखाया गया था कि वह सुसाइडल विचार साझा कर रहा था।

उस समय दिए गए एक बयान में, OpenAI ने बीबीसी को बताया था कि वे फाइलिंग की समीक्षा कर रहे हैं। कंपनी ने कहा, “इस कठिन समय में हम रेन परिवार के प्रति गहरी संवेदना व्यक्त करते हैं।”

 

नियामक दबाव

 

यूके में ऑनलाइन सुरक्षा अधिनियम (Online Safety Act) के तहत लिखित इरोटिका के लिए आयु सत्यापन (age verification) की आवश्यकता नहीं है। हालांकि, AI द्वारा जनरेट की गई अश्लील तस्वीरों के लिए उपयोगकर्ताओं को 18 वर्ष से अधिक होने का प्रमाण देना होगा।

अमेरिका में, आलोचकों का कहना है कि OpenAI का प्लेटफॉर्म पर इरोटिका की अनुमति देने का निर्णय संघीय और राज्य स्तरों पर अधिक नियमन की आवश्यकता को दर्शाता है।

कानूनी फर्म Boies Schiller Flexner की एक भागीदार जेनी किम ने कहा, “वे कैसे सुनिश्चित करेंगे कि बच्चे ChatGPT के उन हिस्सों तक नहीं पहुँच पाएँगे जो केवल वयस्कों के लिए हैं और इरोटिका प्रदान करते हैं?“

सुश्री किम मेटा के खिलाफ एक मुकदमे में शामिल हैं, जो दावा करता है कि कंपनी का इंस्टाग्राम एल्गोरिथम किशोर उपयोगकर्ताओं के मानसिक स्वास्थ्य को नुकसान पहुँचाता है। उन्होंने कहा, “इस क्षेत्र में अधिकांश बड़ी तकनीकी कंपनियों की तरह, OpenAI भी लोगों का उपयोग गिनी पिग की तरह कर रहा है।”

इस महीने प्रकाशित गैर-लाभकारी संस्था सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी (CDT) के एक सर्वेक्षण में पाया गया कि पाँच में से एक छात्र रिपोर्ट करता है कि उन्होंने या उनके किसी परिचित ने AI के साथ रोमांटिक संबंध रखा है।

 

इरोटिका क्यों पेश कर रहा है OpenAI?

 

मिस्टर ऑल्टमैन की मंगलवार की घोषणा ऐसे समय में आई है जब संशयवादी (sceptics) AI तकनीकी कंपनियों के मूल्य में तेज़ी से वृद्धि पर सवाल उठा रहे हैं।

OpenAI का राजस्व बढ़ रहा है, लेकिन यह कभी भी मुनाफे में नहीं रहा है।

तुलने विश्वविद्यालय के बिजनेस प्रोफेसर और The Venture Alchemists के लेखक रॉब लालका ने कहा कि प्रमुख AI कंपनियाँ खुद को बाज़ार हिस्सेदारी (market share) की लड़ाई में पाती हैं।

प्रोफेसर लालका ने बीबीसी न्यूज़ को बताया, “किसी भी कंपनी को ChatGPT के साथ OpenAI जैसा उपयोग कभी नहीं मिला है।“

उन्होंने कहा, “उन्हें उस एक्सपोनेंशियल ग्रोथ कर्व को आगे बढ़ाना जारी रखना होगा, जितना हो सके बाज़ार पर प्रभुत्व हासिल करना होगा।”

---

यह लेख AI नैतिकता, व्यवसाय और सुरक्षा से जुड़ी एक बड़ी बहस को उजागर करता है।

क्या आप चाहेंगे कि मैं इस विषय पर एक विश्लेषणात्मक ब्लॉग पोस्ट तैयार करूँ, जिसमें डेटा गोपनीयता और बाल सुरक्षा पर विशेष ध्यान दिया जाए?