Strategi OpenAI untuk Mengidentifikasi Gambar Buatan AI

Strategi Provenance Berlapis

Alih‑alih mengandalkan satu metode, OpenAI menggunakan beberapa teknologi yang saling melengkapi:

• Metadata C2PA untuk mencatat informasi asal file.
• Watermark SynthID yang tertanam langsung dalam gambar.
• Alat verifikasi publik untuk memeriksa kedua sinyal tersebut.

Dengan beberapa lapisan sinyal, sistem ini diharapkan tetap berguna meskipun salah satu metode tidak bekerja dengan sempurna.

Metadata C2PA (Content Credentials)

OpenAI mengadopsi standar C2PA (Coalition for Content Provenance and Authenticity), sebuah kerangka teknis terbuka yang memungkinkan metadata terverifikasi secara kriptografis ditempelkan pada file media.

Untuk gambar yang dihasilkan AI, metadata ini dapat berisi informasi seperti:

• Apakah gambar dibuat oleh sistem AI
• Model atau alat yang digunakan
• Apakah gambar telah diedit

Karena C2PA merupakan standar terbuka, penggunaannya tidak terbatas pada AI. Produsen kamera, organisasi berita, dan berbagai perangkat lunak juga dapat menambahkan informasi provenance ke file media sehingga ekosistem verifikasi konten menjadi lebih luas.

Namun, metadata memiliki kelemahan penting: data tersebut bisa hilang atau dihapus dengan mudah. Misalnya ketika gambar di‑screenshot, dikompresi, diedit di aplikasi tertentu, atau diunggah ulang ke platform yang tidak mempertahankan metadata.

Watermark Tak Terlihat SynthID

Untuk membuat identifikasi lebih tahan terhadap perubahan, OpenAI bekerja sama dengan Google DeepMind menggunakan teknologi watermark tak terlihat bernama SynthID.

Berbeda dengan metadata yang berada di informasi file, SynthID menyisipkan sinyal tersembunyi langsung ke dalam piksel gambar. Sinyal ini tidak terlihat oleh manusia, tetapi dapat dideteksi oleh alat verifikasi khusus.

Keunggulan pendekatan ini antara lain:

• Sinyalnya dapat bertahan saat gambar dibagikan atau diubah formatnya.
• Tidak mengubah tampilan visual gambar.
• Dapat dideteksi oleh alat analisis khusus.

Penelitian tentang SynthID menunjukkan teknologi ini sudah digunakan untuk memberi watermark pada miliaran gambar dan frame video di layanan Google.

Namun watermark juga bukan solusi sempurna. Pengeditan berat, pemotongan, transformasi gambar, atau upaya sengaja menghilangkan sinyal dapat melemahkan deteksi, dan watermark hanya ada pada gambar yang memang dibuat oleh sistem yang menambahkannya.

Perbedaan Metadata dan Watermark

Kedua pendekatan ini memiliki fungsi yang berbeda dalam melacak asal gambar.

Metadata (C2PA)

• Menyediakan informasi provenance yang rinci
• Mudah dibaca oleh platform dan alat digital
• Rentan hilang saat file dibagikan atau diedit

Watermark tak terlihat (SynthID)

• Tertanam langsung dalam konten gambar
• Lebih sulit dihapus saat distribusi normal
• Biasanya hanya memberikan sinyal sederhana dan membutuhkan alat deteksi khusus

Karena masing‑masing memiliki kekurangan, OpenAI menggabungkan keduanya. Metadata memberikan konteks yang jelas, sementara watermark memberi ketahanan saat gambar menyebar di internet.

Alat Verifikasi Publik

Selain menambahkan sinyal pada gambar, OpenAI juga memperkenalkan alat verifikasi publik yang memungkinkan siapa pun mengunggah gambar dan memeriksa apakah terdapat indikator provenance dari sistem OpenAI.

Alat ini akan memeriksa:

• Metadata C2PA yang menandakan gambar dibuat oleh AI
• Watermark SynthID yang tertanam dalam gambar

Jika salah satu sinyal ditemukan, sistem dapat melaporkan bahwa gambar tersebut kemungkinan berasal dari model gambar OpenAI, seperti yang digunakan di ChatGPT atau melalui API.

Namun penting untuk diingat: tidak adanya sinyal bukan berarti gambar pasti dibuat manusia. Metadata bisa saja hilang, atau gambar tersebut mungkin berasal dari sistem AI lain yang menggunakan metode berbeda atau tidak menambahkan tanda apa pun.

Mengapa Provenance Konten Penting

Kemampuan AI generatif untuk membuat gambar realistis berkembang sangat cepat. Karena itu, banyak perusahaan teknologi mulai fokus pada memberikan konteks tentang asal konten, bukan sekadar mencoba mendeteksi AI secara absolut.

Dengan menggabungkan standar terbuka, watermarking, dan alat verifikasi, OpenAI berharap platform, jurnalis, dan pengguna biasa dapat lebih mudah memeriksa asal-usul gambar yang beredar online—even ketika konten AI semakin meluas.

Kesimpulannya: identifikasi konten AI kemungkinan akan bergantung pada kombinasi beberapa sinyal dan adopsi luas oleh industri, bukan satu tes universal yang selalu akurat.