OpenAI अब C2PA (Coalition for Content Provenance and Authenticity) नाम के एक ओपन स्टैंडर्ड को अपनाने जा रहा है। यह एक तकनीकी फ्रेमवर्क है जो मीडिया फाइलों में cryptographically verifiable metadata जोड़ने की सुविधा देता है।
AI से बनी तस्वीरों के मामले में इस मेटाडेटा में आम तौर पर यह जानकारी हो सकती है:
C2PA सिर्फ AI के लिए नहीं है। कैमरा निर्माता, न्यूज़ संगठन और सॉफ्टवेयर कंपनियां भी इसका उपयोग कर सकती हैं ताकि फोटो या वीडियो की प्रोवेनेंस (origin history) स्पष्ट रहे।
लेकिन इसकी एक बड़ी सीमा भी है। मेटाडेटा आसानी से हट सकता है। अगर कोई फोटो स्क्रीनशॉट बनाकर शेयर करे, उसे दोबारा अपलोड करे या ऐसे सॉफ्टवेयर से एडिट करे जो मेटाडेटा को हटा देता है, तो यह जानकारी गायब हो सकती है।
इस समस्या से निपटने के लिए OpenAI ने Google DeepMind के साथ साझेदारी की है ताकि AI‑generated images में SynthID invisible watermark जोड़ा जा सके।
यह वॉटरमार्क फाइल के मेटाडेटा में नहीं बल्कि सीधे इमेज के पिक्सेल में एन्कोड किया जाता है। इसलिए इसे हटाना मेटाडेटा की तुलना में अधिक कठिन होता है।
इस तकनीक के कुछ फायदे हैं:
SynthID सिस्टम बड़े पैमाने पर उपयोग के लिए डिजाइन किया गया है। शोध के अनुसार Google की सेवाओं में अरबों इमेज और वीडियो फ्रेम पहले ही इस तकनीक से वॉटरमार्क किए जा चुके हैं।
फिर भी यह तरीका पूरी तरह सुरक्षित नहीं है। भारी एडिटिंग, क्रॉपिंग या जानबूझकर किए गए बदलाव इस सिग्नल को कमजोर कर सकते हैं। साथ ही यह सिर्फ उन इमेज पर काम करेगा जिनमें वॉटरमार्क जोड़ा गया हो।
दोनों तकनीकें इमेज के स्रोत को समझने में मदद करती हैं, लेकिन उनका काम अलग‑अलग है।
C2PA metadata
Invisible watermark (SynthID)
इसी वजह से OpenAI दोनों तकनीकों को साथ में इस्तेमाल कर रहा है—मेटाडेटा स्पष्ट संदर्भ देता है, जबकि वॉटरमार्क शेयरिंग के दौरान टिकाऊ संकेत देता है।
OpenAI एक public verification tool भी तैयार कर रहा है जिसमें कोई भी व्यक्ति किसी इमेज को अपलोड करके जांच सकता है कि उसमें OpenAI के सिस्टम से जुड़े संकेत मौजूद हैं या नहीं।
यह टूल मुख्य रूप से दो चीज़ें जांचेगा:
अगर इनमें से कोई संकेत मिलता है, तो टूल बता सकता है कि यह तस्वीर संभवतः OpenAI के इमेज मॉडल—जैसे ChatGPT या API—से बनाई गई है।
हालांकि एक महत्वपूर्ण बात यह है कि अगर कोई संकेत न मिले तो इसका मतलब यह नहीं कि तस्वीर इंसान ने ही बनाई है। हो सकता है कि मेटाडेटा हट गया हो या तस्वीर किसी दूसरे AI सिस्टम से बनाई गई हो।
Generative AI के तेज़ी से बढ़ते इस्तेमाल ने डिजिटल मीडिया की विश्वसनीयता को लेकर नई चुनौतियां खड़ी कर दी हैं। ऐसे में OpenAI और अन्य तकनीकी कंपनियां absolute detection की बजाय context और transparency पर जोर दे रही हैं।
मेटाडेटा, वॉटरमार्क और वेरिफिकेशन टूल जैसे कई स्तरों वाले सिस्टम के जरिए उम्मीद है कि पत्रकारों, प्लेटफॉर्म्स और आम उपयोगकर्ताओं को यह समझने में मदद मिलेगी कि ऑनलाइन दिखने वाली किसी तस्वीर की असली उत्पत्ति क्या है।
सरल शब्दों में: भविष्य में AI‑generated कंटेंट की पहचान किसी एक जादुई टेस्ट से नहीं होगी—बल्कि कई संकेतों और पूरे डिजिटल इकोसिस्टम के सहयोग से होगी।
Comments
0 comments