Amnesty International Ungkap Biaya Tersembunyi di Balik AI: Dirancang untuk Mencuri Data Anda

Amnesty menyamakan pemanenan data otomatis ini dengan sistem pengawasan massal tingkat negara, dengan alasan bahwa hal itu melanggar hak privasi sejak langkah pertama pengembangan . Laporan ini menyebutkan beberapa model dan alat publik utama dalam penelitiannya, termasuk GPT-3, Gemini, Llama, dan lainnya seperti DeepSeek, Midjourney, dan Stable Diffusion .

Tiga Kategori Dampak Buruk

Laporan itu menyoroti tiga kategori dampak buruk yang berbeda namun saling terkait.

1. Invasi Privasi Massal Sejak Desain

Dampak buruk pertama dan paling mendasar adalah pelanggaran privasi itu sendiri. Laporan itu merinci bagaimana kumpulan data (dataset) yang dibangun dari miliaran kiriman, foto, dan percakapan publik dikompilasi tanpa izin. Ini bukan kebocoran atau pelanggaran keamanan; ini adalah metode struktural dan disengaja untuk menciptakan AI. Amnesty berpendapat bahwa "penyalahgunaan hak privasi" ini adalah titik awal, yang membuat seluruh jalur pengembangan ilegal menurut standar hak asasi manusia .

2. Melanggengkan Stereotip, Bias, dan Diskriminasi

Kategori dampak buruk kedua mengalir langsung dari data yang digunakan. Karena materi pelatihan diambil secara serampangan dari internet terbuka, materi itu "tercemar oleh bias dunia nyata." Amnesty memperingatkan bahwa bias ini tidak dinetralkan oleh AI; sebaliknya, bias itu "diperkuat dalam hasil model di sepanjang garis ras, gender, dan budaya" . Laporan itu mengungkapkan keprihatinan khusus terhadap komunitas yang secara historis terpinggirkan, yang paling merasakan dampak diskriminasi sistemik ini karena stereotip beracun dan asosiasi berprasangka diotomatisasi dan diskalakan .

3. Dampak Lingkungan yang Merugikan

Kategori dampak buruk terakhir mengalihkan fokus dari dunia digital ke dunia fisik. Laporan itu mendokumentasikan biaya ekologis yang signifikan dalam membangun dan menjalankan sistem ini, menunjuk pada "pusat data raksasa dan konsumsi energi yang dibutuhkan" . Dampak lingkungan ini, menurut laporan tersebut, merupakan konsekuensi HAM tambahan dan sering diabaikan dari perlombaan AI yang tak terkendali.

Seruan untuk Larangan, Bukan Sekadar Regulasi

Kesimpulan Amnesty International sangat tegas. Organisasi ini menilai bahwa sistem AI generatif mandiri, yang bergantung pada jalur pipa web scraping ilegal ini, "tidak kompatibel dengan IHRL" . Amnesty berpendapat bahwa model regulasi yang ada, seperti kerangka kerja berbasis risiko dari EU AI Act, tidak memadai . Sebaliknya, mereka menyerukan pemerintah untuk melakukan intervensi dengan "larangan penuh" terhadap sistem yang dibangun melalui metode ini, membingkai seluruh praktik tersebut sebagai krisis hak asasi manusia yang tidak bisa sekadar dikelola .