What is a deepfake

अभी जो video आप ने देखा वो बिल्कुल भी असली नहीं हैं जो की एक Deepfake Video है जो की Computer द्वारा जनरेन्ट किया गया हैं। अब ऐसा संभव कैसे हैं की कोई video record नहीं किया गया हो और वो विडिओ हमारे सामने हैं और एक इंसान बोल रहा हैं लेकिन वो एक actual video नहीं हैं वो घटना कभी घटी ही नहीं हैं।

कुछ recent past में फोटो editing बहुत ही popular हुई हैं recent past मतलब कुछ ही समय पहले हम फोटो को edit करके बहुत ही कमाल के effect achieve(प्राप्त) कर सकते हैं, यानी की मान लो की एक इंसान के सर पर बाल नहीं हैं तो फोटो को एडिट करके सर पर बाल लगा सकते हैं एक इंसान का skin tone change कर सकते हो, may be मोटे से पतला कर सकते हो ये सारी चीजे possible हुई लेकिन उस को एक इंसान के द्वारा manually करना पड़ता हैं यानी एक इंसान को बैठ कर खुद को edit करना पड़ता हैं।

लेकिन आज यही चीज संभव हैं Machine learning के द्वारा यानी की आप लोग एक machine को trained कर सकते हो की हर एक freme को किस तरह से Edit (एडिट) किया जा सकता हैं, ऐसे एक deepfake freme तैयार की जा सकती हैं यानी की आप एक फोटो दोंगे या एक video दोगे और विडिओ 2 दोगे और आप कहोगे की विडिओ 1 को विडिओ 2 मे लगा कर encode कर दो यानी की विडिओ 1 का face विडिओ 2 मे लगा दो और ये possible हो पाएगा और ये result इतने Amazing होते हैं की सब लोगों को चौका देते हैं।

क्योंकी आज के  time में हमारे पास हार्डवेयर इतने अच्छे हैं की हम बहुत अच्छी तरह से training कर सकते हैं अपने मॉडल के साथ इस की वजह से ये चीज संभव हो पाई हैं

What is a deepfake and how does it work?

"Deepfake (डीपफेक)" शब्द underlying technology "Deep learning" से आया है, जो AI का एक रूप है। deep learning(डीप लर्निंग) एक तरह की algorithms(एल्गोरिदम) होती हैं, जो एक machine खुद को सिखाती हैं कि डेटा के बड़े सेट दिए जाने पर समस्याओं को कैसे solve किया जाए,
realistic दिखने वाले fake media बनाने के लिए विडिओ और digital content में face को swap करने के लिए उपयोग किया जाता है।

Deepfake (डीपफेक) बनाने के लिए कई तरीके हैं, लेकिन सबसे आम deep neural network के उपयोग पर निर्भर करता है जिसमें autoencoders शामिल होते हैं जो face-swapping (फेस-स्वैपिंग) technique (तकनीक) को नियोजित करते हैं। Deepfake (डीपफेक) के आधार के रूप में उपयोग करने के लिए आपको पहले एक target video की आवश्यकता होती है और फिर उस व्यक्ति के वीडियो clips का एक collection जिसे आप target में insert चाहते हैं।

videos पूरी तरह से unrelated हो सकते हैं; for example , target किसी Hollywood movie, की clip हो सकता है, और जिस व्यक्ति को आप film में सम्मिलित करना चाहते हैं, उसके वीडियो YouTube से random रूप से डाउनलोड किए गए clipहो सकते हैं।

autoencoder (ऑटोएन्कोडर) एक Deep Learning AI का program है जिसे वीडियो clip का अध्ययन करने के लिए यह understand के लिए काम किया जाता है कि व्यक्ति variety of angles और environmental conditions से कैसा दिखता है, और फिर सामान्य विशेषताओं को find करके उस व्यक्ति को target वीडियो में व्यक्ति पर मैप करता है।

एक अन्य प्रकार की Machine Learning (मशीन लर्निंग) को mix में जोड़ा जाता है, जिसे Generative Adversarial Networks (GANs) के रूप में जाना जाता है, जो कई rounds के भीतर Deepfake में किसी भी flaws(कमिया) का पता लगाता है और उसे improves है, जिससे Deepfake Detectors (डीपफेक डिटेक्टरों) के लिए उन्हें Decode (डिकोड) करना कठिन हो जाता है।

Generative Adversarial Networks (GANs) का उपयोग Deepfake बनाने के लिए एक popular method के रूप में भी किया जाता है, जो "learn" के लिए बड़ी मात्रा में डेटा के अध्ययन पर निर्भर करता है कि वास्तविक चीज़ों की नकल करने वाले नए examples को कैसे develop किया जाए, with painfully accurate results

कई App और softwares beginners के लिए भी Deepfake बनाना आसान बनाते हैं, जैसे कि Chinese app Zao , DeepFace Lab, FaceApp (जो built-in AI techniques के साथ एक Photo editing app है), Face Swap, और DeepNude ये एक विशेष रूप से खतरनाक App हैं इसे तब हटा दिया गया जब इस से महिलाओं की नकली नग्न तस्वीरें बनाईं।

software development (सॉफ्टवेयर डेवलपमेंट) open source community(ओपन सोर्स कम्युनिटी) GitHub पर बड़ी मात्रा में Deepfake softwares(डीपफेक सॉफ्टवेयर्स) मिल सकते हैं। इनमें से कुछ का softwares उपयोग entertainment purposes के लिए किया जाता है - यही कारण है कि deepfake creation को outlawed (गैरकानूनी) नहीं बनाया गया है

कई experts का मानना ​​​​है कि, future में, Deepfakes और अधिक sophisticated हो जाएगा क्योंकि technology आगे develops होती जा रही है और जनता के लिए election interference, political tension और additional criminal activity से संबंधित अधिक गंभीर खतरे पेश कर सकती है।

How are deepfakes used?

जब विश्वसनीय और realistic दिखने वाले synthetic video बनाने के लिए face को automatically swap करने की क्षमता में कुछ interesting benign applications हैं (जैसे cinema और Gaming में), यह स्पष्ट रूप से कुछ परेशान करने वाले Applications के साथ एक dangerous technology है।

deepfakes के लिए सबसे पहले real-world applications में से एक, वास्तव में, synthetic pornography बनाना था।

2017 में, एक reddit नाम के यूजर ने "deepfakes" porn के लिए एक मंच बनाया जिसमें face-swapped करने वाले actors थे। उस समय से, porn (particularly revenge porn) ने बार-बार news बनाई है, जिससे celebrities और prominent figures.की प्रतिष्ठा को गंभीर रूप से नुकसान पहुंचा है । Deeptrace की एक रिपोर्ट के अनुसार, 2019 में ऑनलाइन पाए गए deepfakes वीडियो में से 96 फीसदी pornography के है।

politics (राजनीति) में भी Deepfake video (डीपफेक वीडियो) का इस्तेमाल किया गया है। उदाहरण के लिए, 2018 में, Belgian political party ने Donald Trump (डोनाल्ड ट्रम्प) का एक वीडियो जारी किया जिसमें Belgian (बेल्जियम) को Paris climate agreement से हटने का आह्वान किया गया था। जबकि Donald Trump (डोनाल्ड ट्रम्प) ने कभी वह भाषण नहीं दिया, हालांकि - यह एक Deepfake video था। misleading videos बनाने के लिए Deepfake का यह पहला use नहीं था, और tech-savvy (तकनीक-प्रेमी) political experts (राजनीतिक विशेषज्ञ) भविष्य में fake news की लहर के लिए तैयार हैं, जिसमें वास्तविक रूप से realistic deepfakes शामिल हैं।