OpenAI mengadopsi standar C2PA (Coalition for Content Provenance and Authenticity), sebuah kerangka teknis terbuka yang memungkinkan metadata terverifikasi secara kriptografis ditempelkan pada file media.
Untuk gambar yang dihasilkan AI, metadata ini dapat berisi informasi seperti:
Karena C2PA merupakan standar terbuka, penggunaannya tidak terbatas pada AI. Produsen kamera, organisasi berita, dan berbagai perangkat lunak juga dapat menambahkan informasi provenance ke file media sehingga ekosistem verifikasi konten menjadi lebih luas.
Namun, metadata memiliki kelemahan penting: data tersebut bisa hilang atau dihapus dengan mudah. Misalnya ketika gambar di‑screenshot, dikompresi, diedit di aplikasi tertentu, atau diunggah ulang ke platform yang tidak mempertahankan metadata.
Untuk membuat identifikasi lebih tahan terhadap perubahan, OpenAI bekerja sama dengan Google DeepMind menggunakan teknologi watermark tak terlihat bernama SynthID.
Berbeda dengan metadata yang berada di informasi file, SynthID menyisipkan sinyal tersembunyi langsung ke dalam piksel gambar. Sinyal ini tidak terlihat oleh manusia, tetapi dapat dideteksi oleh alat verifikasi khusus.
Keunggulan pendekatan ini antara lain:
Penelitian tentang SynthID menunjukkan teknologi ini sudah digunakan untuk memberi watermark pada miliaran gambar dan frame video di layanan Google.
Namun watermark juga bukan solusi sempurna. Pengeditan berat, pemotongan, transformasi gambar, atau upaya sengaja menghilangkan sinyal dapat melemahkan deteksi, dan watermark hanya ada pada gambar yang memang dibuat oleh sistem yang menambahkannya.
Kedua pendekatan ini memiliki fungsi yang berbeda dalam melacak asal gambar.
Metadata (C2PA)
Watermark tak terlihat (SynthID)
Karena masing‑masing memiliki kekurangan, OpenAI menggabungkan keduanya. Metadata memberikan konteks yang jelas, sementara watermark memberi ketahanan saat gambar menyebar di internet.
Selain menambahkan sinyal pada gambar, OpenAI juga memperkenalkan alat verifikasi publik yang memungkinkan siapa pun mengunggah gambar dan memeriksa apakah terdapat indikator provenance dari sistem OpenAI.
Alat ini akan memeriksa:
Jika salah satu sinyal ditemukan, sistem dapat melaporkan bahwa gambar tersebut kemungkinan berasal dari model gambar OpenAI, seperti yang digunakan di ChatGPT atau melalui API.
Namun penting untuk diingat: tidak adanya sinyal bukan berarti gambar pasti dibuat manusia. Metadata bisa saja hilang, atau gambar tersebut mungkin berasal dari sistem AI lain yang menggunakan metode berbeda atau tidak menambahkan tanda apa pun.
Kemampuan AI generatif untuk membuat gambar realistis berkembang sangat cepat. Karena itu, banyak perusahaan teknologi mulai fokus pada memberikan konteks tentang asal konten, bukan sekadar mencoba mendeteksi AI secara absolut.
Dengan menggabungkan standar terbuka, watermarking, dan alat verifikasi, OpenAI berharap platform, jurnalis, dan pengguna biasa dapat lebih mudah memeriksa asal-usul gambar yang beredar online—even ketika konten AI semakin meluas.
Kesimpulannya: identifikasi konten AI kemungkinan akan bergantung pada kombinasi beberapa sinyal dan adopsi luas oleh industri, bukan satu tes universal yang selalu akurat.
Comments
0 comments