Amnesty International Ungkap Biaya Tersembunyi di Balik AI: Dirancang untuk Mencuri Data Anda

Perkembangan pesat kecerdasan buatan generatif (AI) seperti ChatGPT atau Gemini ternyata memiliki fondasi yang sangat rapuh di mata hukum hak asasi manusia. Pada 28 Mei 2026, Amnesty International merilis sebuah laporan mengejutkan berjudul 'Unlawful by Design: Exposing the Human Rights Costs of Generative AI' yang menggugat praktik inti di balik teknologi ini. Laporan tersebut secara langsung menuduh perusahaan teknologi raksasa—termasuk Google, Meta, dan OpenAI—mengoperasikan model yang "berakar pada invasi privasi massal berdasarkan desain" melalui pengikisan (scraping) data pribadi skala besar secara non-konsensual dari seluruh internet .

Argumen utama Amnesty adalah bahwa praktik ini bukanlah efek samping yang disayangkan, melainkan fitur inti dari cara sistem seperti Gemini (Google), Llama (Meta), dan GPT-3 (OpenAI) diciptakan. Organisasi itu menyimpulkan bahwa sistem semacam ini "secara fundamental tidak kompatibel dengan hukum hak asasi manusia internasional (IHRL)" dan bahwa solusinya bukanlah regulasi yang lebih cerdas, melainkan larangan total .

Untuk mendukung seruan dramatis ini, laporan tersebut memaparkan tiga kategori dampak buruk spesifik.

Dakwaan 'Ilegal Sejak Awal'

Inti dari argumen Amnesty adalah bahwa jalur pipa data yang memberi makan model AI ini merupakan bentuk pengawasan massal. Laporan itu menjelaskan bagaimana perusahaan teknologi menggunakan alat otomatis untuk "mengekstrak harta karun data online—termasuk gambar, aktivitas media sosial, dan informasi pribadi lainnya—tanpa persetujuan eksplisit individu" . Karena ekstraksi non-konsensual ini sudah tertanam dalam arsitektur fundamental sistem, laporan itu mencapnya sebagai "ilegal berdasarkan desain" .

Amnesty menyamakan pemanenan data otomatis ini dengan sistem pengawasan massal tingkat negara, dengan alasan bahwa hal itu melanggar hak privasi sejak langkah pertama pengembangan . Laporan ini menyebutkan beberapa model dan alat publik utama dalam penelitiannya, termasuk GPT-3, Gemini, Llama, dan lainnya seperti DeepSeek, Midjourney, dan Stable Diffusion .

Tiga Kategori Dampak Buruk

Laporan itu menyoroti tiga kategori dampak buruk yang berbeda namun saling terkait.

1. Invasi Privasi Massal Sejak Desain

Dampak buruk pertama dan paling mendasar adalah pelanggaran privasi itu sendiri. Laporan itu merinci bagaimana kumpulan data (dataset) yang dibangun dari miliaran kiriman, foto, dan percakapan publik dikompilasi tanpa izin. Ini bukan kebocoran atau pelanggaran keamanan; ini adalah metode struktural dan disengaja untuk menciptakan AI. Amnesty berpendapat bahwa "penyalahgunaan hak privasi" ini adalah titik awal, yang membuat seluruh jalur pengembangan ilegal menurut standar hak asasi manusia .

2. Melanggengkan Stereotip, Bias, dan Diskriminasi

Kategori dampak buruk kedua mengalir langsung dari data yang digunakan. Karena materi pelatihan diambil secara serampangan dari internet terbuka, materi itu "tercemar oleh bias dunia nyata." Amnesty memperingatkan bahwa bias ini tidak dinetralkan oleh AI; sebaliknya, bias itu "diperkuat dalam hasil model di sepanjang garis ras, gender, dan budaya" . Laporan itu mengungkapkan keprihatinan khusus terhadap komunitas yang secara historis terpinggirkan, yang paling merasakan dampak diskriminasi sistemik ini karena stereotip beracun dan asosiasi berprasangka diotomatisasi dan diskalakan .

3. Dampak Lingkungan yang Merugikan

Kategori dampak buruk terakhir mengalihkan fokus dari dunia digital ke dunia fisik. Laporan itu mendokumentasikan biaya ekologis yang signifikan dalam membangun dan menjalankan sistem ini, menunjuk pada "pusat data raksasa dan konsumsi energi yang dibutuhkan" . Dampak lingkungan ini, menurut laporan tersebut, merupakan konsekuensi HAM tambahan dan sering diabaikan dari perlombaan AI yang tak terkendali.

Seruan untuk Larangan, Bukan Sekadar Regulasi

Kesimpulan Amnesty International sangat tegas. Organisasi ini menilai bahwa sistem AI generatif mandiri, yang bergantung pada jalur pipa web scraping ilegal ini, "tidak kompatibel dengan IHRL" . Amnesty berpendapat bahwa model regulasi yang ada, seperti kerangka kerja berbasis risiko dari EU AI Act, tidak memadai . Sebaliknya, mereka menyerukan pemerintah untuk melakukan intervensi dengan "larangan penuh" terhadap sistem yang dibangun melalui metode ini, membingkai seluruh praktik tersebut sebagai krisis hak asasi manusia yang tidak bisa sekadar dikelola .