Bettmann
मार्टिन लूथर किंग जूनियर के ट्रस्ट (estate) के अनुरोध के बाद, OpenAI ने अपने आर्टिफिशियल इंटेलिजेंस (AI) ऐप सोरा (Sora) को डॉ. मार्टिन लूथर किंग जूनियर को दर्शाने वाले डीपफेक वीडियो बनाने से रोक दिया है।
कंपनी ने स्वीकार किया कि वीडियो जेनरेटर ने नागरिक अधिकार प्रचारक के बारे में “अपमानजनक (disrespectful)” कंटेंट बनाया था।
सोरा अमेरिका में अपनी अति-यथार्थवादी (hyper-realistic) वीडियो बनाने की क्षमता के कारण वायरल हो गया है, जिसके चलते लोग दिवंगत मशहूर हस्तियों और ऐतिहासिक हस्तियों के विचित्र और अक्सर आपत्तिजनक (offensive) दृश्यों को साझा कर रहे हैं।
OpenAI ने कहा कि वह “ऐतिहासिक हस्तियों के लिए सुरक्षा उपायों को मज़बूत करने” तक डॉ. किंग की छवियों को रोकेगा—लेकिन यह अन्य हाई-प्रोफाइल व्यक्तियों के क्लिप बनाना जारी रखने की अनुमति देता है।
यह दृष्टिकोण विवादास्पद साबित हुआ है, क्योंकि राष्ट्रपति जॉन एफ. कैनेडी, महारानी एलिजाबेथ द्वितीय और प्रोफेसर स्टीफन हॉकिंग जैसी हस्तियों के वीडियो ऑनलाइन व्यापक रूप से साझा किए गए हैं।
इसने रॉबिन विलियम्स की बेटी ज़ेल्डा विलियम्स को लोगों से उनके पिता, जो 2014 में गुजर गए थे, के AI-जनरेटेड वीडियो भेजना बंद करने के लिए सार्वजनिक अपील करने पर मजबूर किया।
दिवंगत डॉ. किंग की बेटी बर्नीस ए. किंग ने बाद में इसी तरह की सार्वजनिक अपील की, ऑनलाइन लिखा: “मैं अपने पिता के संबंध में सहमत हूँ। कृपया रुक जाएँ।“
नागरिक अधिकार प्रचारक को दर्शाने वाले AI-जनरेटेड वीडियो में कुछ ऐसे थे जिन्होंने उनके कुख्यात “आई हैव ए ड्रीम” भाषण को विभिन्न तरीकों से एडिट किया, जिसमें वाशिंगटन पोस्ट ने रिपोर्ट किया कि एक क्लिप में उन्हें नस्लवादी आवाज़ें निकालते हुए दिखाया गया था।
वहीं, सोरा ऐप पर और सोशल मीडिया पर साझा किए गए अन्य वीडियो में डॉ. किंग और साथी नागरिक अधिकार प्रचारक मैल्कम एक्स को आपस में लड़ते हुए दिखाया गया था।
[X कंटेंट की अनुमति दें? यह लेख X द्वारा प्रदान की गई सामग्री शामिल करता है। हम अनुरोध करते हैं कि इससे पहले कि कुछ भी लोड हो, आप अपनी अनुमति दें, क्योंकि वे कुकीज़ और अन्य प्रौद्योगिकियों का उपयोग कर सकते हैं। स्वीकार करने से पहले आप और पढ़ना चाह सकते हैं। इस सामग्री को देखने के लिए ‘स्वीकार करें और जारी रखें’ चुनें। स्वीकार करें और जारी रखें]
‘मुफ्त भाषण के हित’ और नैतिकता
AI नैतिक विशेषज्ञ और लेखिका ओलिविया गैम्बेलिन ने बीबीसी को बताया कि OpenAI द्वारा डॉ. किंग की छवि के आगे के उपयोग को सीमित करना “एक अच्छा कदम है।”
लेकिन उन्होंने कहा कि कंपनी को शुरुआत से ही उपाय करने चाहिए थे—न कि ऐसी तकनीक को रोल आउट करने के लिए “आग की नली (firehose) द्वारा परीक्षण और त्रुटि” वाला दृष्टिकोण अपनाना चाहिए था।
उन्होंने कहा कि मृतक ऐतिहासिक हस्तियों के डीपफेक बनाने की क्षमता न केवल उनके प्रति “सम्मान की कमी” को दर्शाती है, बल्कि लोगों की वास्तविक और नकली सामग्री की समझ के लिए भी खतरा पैदा करती है।
उन्होंने कहा, “यह इतिहास के पहलुओं को फिर से लिखने की कोशिश के बहुत करीब है।“
कौन संरक्षित होगा, कौन नहीं?
डीपफेक का उदय—ऐसे वीडियो जिन्हें AI टूल या अन्य तकनीक का उपयोग करके बदला गया है ताकि कोई व्यक्ति उस तरह से बोलता या व्यवहार करता हुआ दिखाई दे जैसा उसने नहीं किया था—ने चिंताएँ पैदा की हैं कि उनका उपयोग भ्रामक जानकारी (disinformation), भेदभाव या दुर्व्यवहार फैलाने के लिए किया जा सकता है।
OpenAI ने शुक्रवार को कहा कि हालांकि उनका मानना है कि “ऐतिहासिक हस्तियों को दर्शाने में मुफ्त भाषण के मज़बूत हित हैं,” फिर भी उन्हें और उनके परिवारों को उनकी छवि पर नियंत्रण होना चाहिए।
कंपनी ने कहा, “अधिकृत प्रतिनिधि या ट्रस्ट के मालिक अनुरोध कर सकते हैं कि सोरा कैमियो (cameos) में उनकी छवि का उपयोग न किया जाए।“
जनरेटिव AI विशेषज्ञ हेनरी एज्डर ने कहा कि यह दृष्टिकोण, हालांकि सकारात्मक है, “यह सवाल उठाता है कि सिंथेटिक पुनरुत्थान (synthetic resurrection) से किसे सुरक्षा मिलती है और किसे नहीं।”
उन्होंने कहा, “डॉ. किंग के ट्रस्ट ने सही मायने में इस मुद्दे को OpenAI के सामने उठाया, लेकिन कई मृतक व्यक्तियों के पास उनका प्रतिनिधित्व करने के लिए प्रसिद्ध और सुसम्पन्न ट्रस्ट नहीं होते हैं।“
“अंततः, मेरा मानना है कि हम ऐसी स्थिति से बचना चाहते हैं जहाँ जब तक हम बहुत प्रसिद्ध न हों, समाज यह स्वीकार कर ले कि हमारे मरने के बाद हमें किस तरह दर्शाया जाता है, इस पर सबका अधिकार है।”
OpenAI ने अक्टूबर की शुरुआत में बीबीसी को एक बयान में बताया था कि उसने “दुरुपयोग को रोकने के लिए सुरक्षा की कई परतें” बनाई हैं।
और उन्होंने कहा कि वे सार्वजनिक हस्तियों और सामग्री मालिकों के साथ “सीधे संवाद” में हैं ताकि “वे क्या नियंत्रण चाहते हैं” इस पर प्रतिक्रिया एकत्र कर सकें, ताकि इसे बाद के बदलावों में दर्शाया जा सके।
