डीपफेक(DeepFake) सिंथेटिक मीडिया को व्यक्त करता है।
इसमें आमतौर पर आर्टिफिशियल इंटेलिजेंस और डीप लर्निंग तकनीकों का उपयोग करके बनाई गई इमेजेस एवं वीडियो शामिल हैं।
• यह “डीप लर्निंग” और “फेक” का संयोजन है। डीप लर्निंग, मशीन लर्निंग का एक सब-सेट है।
इसमें कई लेयर्स वाले न्यूरल नेटवर्क शामिल हैं।
डीप-फेक(DeepFake) कैसे काम करता है:
• यह ऑडियो और विजुअल कंटेंट का विश्लेषण एवं संश्लेषण करने के लिए जेनरेटिव एडवर्सरियल नेटवर्क (GAN) का उपयोग करता है।
• GAN में दो भाग होते हैं-
जेनरेटर: यह वीडियो या ऑडियो क्लिप जैसा फेक कंटेंट निर्मित करता है।
डिस्क्रिमिनेटरः यह फेक कंटेंट को रियल कंटेंट से अलग करने का प्रयास करता है।
डीप-फेक के उपयोग हैं:
• फिल्मों और टीवी शो में वास्तविक एवं सटीक डबिंग में;
• चिकित्सा, विमानन जैसे क्षेत्रकों में ट्रेनिंग सिमुलेशन में;
• पेशेवरों को उनके कौशल और निर्णय लेने की क्षमताओं को बेहतर बनाने में मदद करने में आदि।
डीप-फेक(DeepFake) से जुड़े मुद्दे:
• राजनीतिक धोखाधड़ीः
गलत सूचना फैलाने, प्रसिद्ध हस्तियों को बदनाम करने आदि से लोकतांत्रिक प्रक्रियाओं की शुचिता के समक्ष बड़ा खतरा उत्पन्न हो गया है।
• महिलाओं के उत्पीड़न का जरियाः
प्रतिशोध के लिए महिलाओं का अश्लील चित्रण, प्रतिरूपण (Impersonation), मानहानि, ऑनलाइन उत्पीड़न आदि।
• सुरक्षा संबंधी जोखिमः
फेशियल रिकॉग्निशन या वॉयस ऑथेंटिकेशन जैसे संवेदनशील डेटा को अनधिकृत रूप से प्राप्त करके डीपफेक के जरिए सुरक्षा एजेंसियों को धोखा दिया जा सकता है।
• कानूनी मुद्देः
फर्जी साक्ष्य तैयार करने, बौद्धिक संपदा अधिकारों का उल्लंघन करने और सहमति प्राप्त करने में।
• नैतिक मुद्देः हेरफेर, दुष्प्रचार, विश्वास में कमी आदि।
डीपफेक के खिलाफ किए गए उपाय:
• भारत में:
• सूचना प्रौद्योगिकी (IT) अधिनियम, 2000 की धारा 66D किसी भी संचार उपकरण का उपयोग करके प्रतिरूपण के माध्यम से धोखाधड़ी करने के लिए सजा का प्रावधान करती है।
• प्रतिरूपण (impersonation) बुरी नियत से किसी अन्य व्यक्ति की विशेषताओं, जैसे उसके व्यवहार, भाषण, चेहरा या अभिव्यक्ति की नकल करना है।
• सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 डीपफेक के संदर्भ में कुछ नियम निर्धारित करते हैं।
इसके नियम 3(1)(b) व 3(2)(b) सोशल मीडिया मध्यवर्तियों को अश्लील, धोखा देने वाले और गुमराह करने वाले कंटेंट को होस्ट न करने के लिए नियमों का पालन करने का आदेश देते हैं।
वैश्विक स्तर पर:
• बैल्चले घोषणा पत्र: इसमें अधिक व्यापक रूप से एवं सहयोग के आधार पर AI के जोखिमों को दूर करने और,
इससे जुड़ी जिम्मेदारियों को निभाने में वैज्ञानिक सहयोग पर अधिक ध्यान केंद्रित किया गया है।