Social Media Deepfake AI Content Rules: 3-Hour Removal & Labels

सोशल मीडिया प्लेटफॉर्म्स जैसे X (ट्विटर), यू-ट्यूब, स्नैपचैट और फेसबुक को आज से अपने प्लेटफॉर्म पर शेयर किए जाने वाले AI (आर्टिफिशियल इंटेलिजेंस) कंटेंट पर लेबल लगाना होगा। इसके साथ ही अगर कोई डीपफेक वीडियो-फोटो अपलोड होता है, तो उसे 3 में हटाने होगा।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने इसके लिए IT रूल्स 2021 में बदलाव किया है। मंत्रालय ने 10 फरवरी को नोटिफिकेशन जारी कर प्लेटफॉर्म्स को नए नियमों का पालन करने के आदेश जारी किए थे।

नए नियम डीपफेक और AI से बने कंटेंट को लेबल और ट्रेस करने के लिए हैं। अब AI कंटेंट में साफ लिखना होगा कि यह असली नहीं, AI की मदद से बनाया गया है। इससे मिस इनफॉर्मेशन और चुनावी धांधली जैसी समस्याओं पर लगाम लगेगी।

पीएम बोले- कंटेंट पर ‘ऑथेंटिसिटी लेबल’ की जरूरत

पीएम ने AI समिट के दौरान सुझाव दिया कि जैसे खाने के सामान पर ‘न्यूट्रिशन लेबल’ होता है, वैसे ही डिजिटल कंटेंट पर भी स्पष्ट लेबल होना चाहिए। इससे लोगों को पता चल सकेगा कि क्या असली है और क्या एआई द्वारा बनाया गया (फैब्रिकेटेड) है।

सभी AI ऑडियो-वीडियो में लेबल लगाना होगा

नए रूल 3 (3) के तहत, जो भी सोशल मीडिया प्लेटफॉर्म AI कंटेंट जैसी ‘सिंथेटिकली जेनरेटेड इंफॉर्मेशन’ क्रिएट करेगा, उसे हर ऐसे कंटेंट पर प्रॉमिनेंट लेबल लगाना होगा। परमानेंट यूनिक मेटा डेटा/आइडेंटिफायर एम्बेड भी करना पड़ेगा।

ये लेबल विजुअल में कम से कम 10% एरिया कवर करेगा या ऑडियो में पहले 10% टाइम में सुनाई देगा। मेटाडेटा को कोई चेंज, हाइड या डिलीट नहीं कर पाएगा। प्लेटफॉर्म्स को टेक्निकल तरीके अपनाने पड़ेंगे ताकि अपलोड होने से पहले ही चेक हो जाए कि ये AI वाला है या नहीं।

नवंबर में रश्मिका मंदाना का डीपफेक वीडियो वायरल हुआ था।

सचिन तेंदुलकर का डीपफेक वीडियो, जिसमें वे गेमिंग ऐप को प्रमोट करते दिखे थे।

नए IT नियमों में ये 3 बदलाव भी

• लेबल हटाना या छिपाना अब मुमकिन नहीं : सोशल मीडिया कंपनियां अब AI लेबल या उसके मेटाडेटा (पहचान की जानकारी) को हटाने या छिपाने की इजाजत नहीं दे सकतीं। एक बार लेबल लग गया, तो उसे वैसे ही रखना होगा।
• गंदे और भ्रामक कंटेंट पर लगाम : सरकार ने टेक कंपनियों को निर्देश दिया है कि वे ऐसे ऑटोमेटेड टूल्स (सॉफ्टवेयर) इस्तेमाल करें, जो AI के जरिए बनाए गए गैर-कानूनी, अश्लील या धोखाधड़ी वाले कंटेंट को रोक सकें।
• हर 3 महीने में चेतावनी देना अनिवार्य : कंपनियों को हर 3 महीने में कम से कम एक बार अपने यूजर्स को वॉर्निंग देनी होगी। उन्हें बताना होगा कि अगर उन्होंने AI का गलत इस्तेमाल किया या नियम तोड़े, तो उन्हें सजा या जुर्माना भुगतना पड़ सकता है।

यूजर्स और इंडस्ट्री पर क्या असर पड़ेगा?

यूजर्स अब फेक कंटेंट आसानी से पहचान सकेंगे। मिस-इनफॉर्मेशन कम होगी, लेकिन क्रिएटर्स को एक्स्ट्रा स्टेप्स लेने पड़ेंगे, जैसे लेबल लगाना।

इंडस्ट्री के लिए चैलेंज ये होगा कि उन्हें मेटाडेटा और वेरिफिकेशन के लिए टेक इन्वेस्टमेंट करना होगा, जो ऑपरेशंस को थोड़ा महंगा कर सकता है। ओवरऑल, ये AI मिसयूज रोकने में मददगार साबित होगा।

मंत्रालय ने इन नियमों पर क्या कहा?

सूचना प्रौद्योगिकी मंत्रालय ने साफ कहा कि ये स्टेप ‘ओपन, सेफ, ट्रस्टेड और अकाउंटेबल इंटरनेट’ बनाने के लिए है। यह जनरेटिव AI से आने वाली मिस-इनफॉर्मेशन, इम्पर्सनेशन और इलेक्शन मैनिपुलेशन जैसी रिस्क्स को हैंडल करेगा। इससे इंटरनेट ज्यादा भरोसेमंद बनेगा।

क्या है डीपफेक?

डीपफेक एक तरह की फेक वीडियो होती है, जिसमें किसी शख्स के चेहरे, आवाज और एक्सप्रेशन बदले जाते हैं। AI टूल्स के जरिए एडिटिंग इतनी सफाई से होती है कि सही और फेक वीडियो में पहचान कर पाना काफी मुश्किल होता है।

—————————

ये खबर भी पढ़ें…

X ने अश्लील AI कंटेंट पर सरकार को जवाब सौंपा:आईटी मंत्रालय जांच कर रहा, महिलाओं की आपत्तिजनक तस्वीरें क्रिएट कर शेयर करने का आरोप

दुनिया के सबसे अमीर कारोबारी इलॉन मस्क के AI चैटबॉट ग्रोक (Grok) के जरिए महिलाओं और बच्चों की अश्लील तस्वीरें बनाने के मामले में भारत सरकार को अपना जवाब सौंप दिया है। आईटी मंत्रालय ने 2 दिसंबर को मस्क की कंपनी को बुधवार शाम 5 बजे तक का समय दिया था।

न्यूज एजेंसी के मुताबिक, कंपनी ने एक्शन टेकन रिपोर्ट दाखिल कर दी है, जिसकी मंत्रालय जांच कर रहा है। सरकार ने चेतावनी दी थी कि अगर AI टूल्स के गलत इस्तेमाल पर कड़े कदम नहीं उठाए गए, तो X को भारतीय कानूनों के तहत मिल रही कानूनी सुरक्षा खत्म कर दी जाएगी। पूरी खबर पढ़ें…

दैनिक भास्कर को Google पर पसंदीदा सोर्स बनाएं ➔