Sampura Research dan Gagasannya: AI Tidak Seharusnya Mengawasi AI Sendirian

Apa itu Sampura Research?

Sampura Research adalah organisasi nirlaba yang berfokus pada keselamatan dan evaluasi kecerdasan buatan (AI) di London. Organisasi ini didirikan oleh mantan peneliti Google DeepMind, Rishub Jain dan Josh Jacob—bukan Alex Adams, berdasarkan pengumuman resmi Sampura. Pengumuman peluncuran publiknya diterbitkan pada 25 Agustus 2026, sementara pertanyaan awal menyebut 24 Agustus. Sampura memperoleh komitmen hibah awal sebesar 11 juta dolar AS dari Coefficient Giving: 7 juta dolar untuk tahun pertama dan 4 juta dolar tambahan yang telah dijanjikan. Alex Adams disebut memberikan masukan terhadap pengumuman tersebut. 4

Gagasan utama Sampura adalah Human-AI Complementarity for Scalable Oversight, atau pelibatan manusia dan AI secara saling melengkapi untuk memperluas pengawasan. Istilah “scalable oversight” merujuk pada upaya mengawasi model AI yang semakin kuat tanpa meminta manusia memeriksa setiap keluaran satu per satu.

Mengapa Sampura menolak pendekatan “AI mengawasi AI”?

Banyak pengembang AI menggunakan model bahasa besar lain sebagai penilai, atau judge, karena sistem tersebut lebih cepat dan murah dibandingkan pemeriksaan manusia. Dalam skema ini, satu AI menilai jawaban, keputusan, atau rangkaian tindakan AI lainnya.

Sampura tidak menganggap pendekatan tersebut selalu keliru. Namun, organisasi ini menilai manusia masih memiliki keunggulan yang tidak mudah digantikan, antara lain:

• mendeteksi kegagalan AI yang tidak konsisten atau “bergerigi” (jagged failures), ketika model tampak sangat cakap dalam satu situasi tetapi gagal pada situasi lain yang mirip;
• memberikan pemeriksaan independen jika model yang diawasi dan model penilai berpotensi saling mengakali; serta
• mempertimbangkan nilai-nilai manusia yang baru muncul atau berubah dan belum tercermin dalam data pelatihan maupun aturan evaluasi. 4

Dengan kata lain, Sampura ingin menghindari asumsi bahwa AI dapat menjadi pengawas yang sepenuhnya netral dan aman bagi AI lain.

Apa yang dimaksud dengan “hakim” hibrida?

Dalam rencana Sampura, judge bukan sekadar perangkat lunak. Hakim dapat berupa manusia, AI, atau gabungan keduanya yang menilai apakah respons atau tindakan agen AI sudah benar dan selaras dengan tujuan keselamatan.

Sistem yang dirancang Sampura akan berupaya memperkirakan tingkat keyakinan hakim AI. Kasus yang dinilai terlalu sulit atau tidak pasti dapat diteruskan kepada manusia. Sampura juga ingin mengembangkan router yang menentukan tugas mana yang sebaiknya dikerjakan manusia, AI, atau keduanya, serta menyediakan bantuan AI yang disesuaikan dengan tugas manusia.

Tujuannya bukan membuat manusia memeriksa semua hal. Manusia akan dilibatkan secara selektif pada titik-titik ketika penilaian mereka diperkirakan memberikan manfaat keselamatan terbesar. Pendekatan ini berusaha menyeimbangkan tiga hal: ketelitian, kecepatan, dan biaya pengawasan. 4

Benchmark dan dataset apa yang akan dibuat?

Selama enam bulan pertama, Sampura berencana membangun leaderboard publik yang terus diperbarui. Platform tersebut akan memuat lebih dari 20 subdataset untuk menguji kemampuan hakim manusia, AI, maupun sistem hibrida.

Topik awal yang disebutkan mencakup:

• deteksi penipuan atau perilaku menipu;
• bias budaya; dan
• tindakan agen AI yang berisiko atau tidak aman. 4

Pengujiannya tidak berhenti pada contoh statis. Sampura juga ingin melihat apakah model yang diawasi dapat belajar mengoptimalkan perilakunya untuk mengecoh hakim selama reinforcement learning. Ini penting karena model dapat mengejar skor atau imbalan yang terlihat baik tanpa benar-benar memenuhi tujuan keselamatan—fenomena yang sering disebut reward hacking.

Sampura menyatakan akan merilis makalah, kode, dataset, dan leaderboard secara terbuka. Jika terlaksana, materi tersebut dapat membantu peneliti lain membandingkan metode evaluasi secara lebih transparan.

Ancaman apa yang ingin diteliti?

Ruang lingkup Sampura tidak hanya mencakup skenario “AI nakal” yang bertindak di luar kendali. Organisasi ini juga menyebut risiko seperti bias, interaksi yang tidak aman dengan anak-anak, dan ketergantungan pada AI pendamping.

Dalam tahap berikutnya, fokusnya akan diperluas dari sekadar menilai keluaran AI menjadi menilai cara instruksi, rubrik, dan kasus pengujian dibuat. Penilaian semacam ini berpotensi membantu peneliti menemukan kegagalan sebelum model diterapkan secara luas.

Namun, penting membedakan antara program penelitian dan kemampuan pengendalian yang telah terbukti. Sampura baru mengusulkan metode dan pengujian; belum ada bukti dari materi yang tersedia bahwa organisasi tersebut telah mampu mencegah model AI melakukan tindakan berbahaya.

Bagaimana rencana ini diuji dalam penerapan nyata?

Sampura ingin mengukur apakah hakim yang lebih baik benar-benar mengurangi reward hacking. Organisasi ini juga akan meneliti kapan hakim perlu dilatih ulang ketika perilaku model berubah, serta bagaimana menentukan jumlah keterlibatan manusia yang paling efisien.

Pada tahap awal, sistem tersebut mungkin diuji melalui evaluator pihak ketiga. Target jangka panjangnya adalah agar metode ini dapat digunakan dalam pelatihan, evaluasi, dan pemantauan model AI terdepan di laboratorium pengembang.

Keberhasilan Sampura nantinya tidak cukup diukur dari skor leaderboard. Pertanyaan yang lebih penting adalah apakah sistem tersebut dapat menemukan kegagalan yang benar-benar relevan dalam penggunaan dunia nyata, sebelum kegagalan itu menimbulkan dampak.

Mengapa perekrutan peneliti menjadi persoalan penting?

Pengawasan AI membutuhkan peneliti dengan kombinasi keahlian yang langka: pembelajaran mesin, evaluasi model, keamanan, penalaran, dan penilaian risiko. Kelangkaan tenaga ahli ini terlihat dari posisi evaluasi di METR yang mencantumkan gaji pokok tahunan 285.548 hingga 503.116 dolar AS, serta kemungkinan kompensasi lebih tinggi bagi kandidat yang sangat berpengalaman. 9

Karena itu, rencana Sampura untuk merekrut staf teknis pendiri di London cukup strategis. Namun, pengumuman utama Sampura hanya menyatakan bahwa organisasi tersebut sedang merekrut staf teknis awal di London. Bukti dari sumber utama yang tersedia belum cukup untuk memastikan klaim bahwa Sampura akan merekrut sedikitnya enam orang dengan gaji 100.000 hingga 290.000 pound sterling. 4

Apakah Sampura terkait dengan seruan untuk memperlambat pengembangan AI?

Lebih dari 1.100 praktisi AI menandatangani surat terbuka pada Juli 2026 yang menyerukan pembangunan mekanisme internasional untuk memperlambat pengembangan AI terdepan jika kemajuannya melampaui kemampuan manusia untuk mengawasinya secara aman. 1

Sampura dapat berkontribusi pada salah satu prasyarat teknis dari gagasan tersebut: evaluasi yang lebih kredibel, terbuka, dan dapat diaudit. Tetapi organisasi ini tidak dapat sendirian menciptakan kewenangan hukum, koordinasi internasional, akses ke model, atau mekanisme penegakan.

Artinya, pekerjaan Sampura bersifat pelengkap terhadap tata kelola AI—bukan pengganti regulasi atau kerja sama antarnegara.

Bagaimana dengan kepergian Jain dari DeepMind?

Kepergian Jain diberitakan dalam konteks rangkaian perpindahan peneliti dari Google DeepMind. Namun, klaim bahwa lima peneliti inti meninggalkan DeepMind dalam enam hari terutama berasal dari laporan sekunder dengan kualitas sumber yang lebih rendah dan belum dapat dianggap sebagai fakta yang terverifikasi secara independen. 5

Begitu pula, bukti yang tersedia belum mendukung kesimpulan luas bahwa perusahaan-perusahaan AI “belum mampu mengendalikan apa yang telah mereka bangun”. Kesimpulan yang lebih hati-hati adalah bahwa pengawasan terhadap model yang semakin canggih masih belum terbukti tangguh, tenaga ahli evaluasi sangat terbatas, dan Sampura berusaha membuat keterlibatan manusia lebih terukur serta tahan terhadap kegagalan.

Kesimpulan

Sampura Research menawarkan jawaban teknis terhadap masalah yang semakin mendesak: siapa yang seharusnya menilai apakah AI bekerja dengan benar dan aman ketika modelnya sudah terlalu kompleks untuk diperiksa secara manual?

Jawaban Sampura bukan memilih manusia atau AI secara mutlak, melainkan menggabungkan keduanya. AI dapat menangani skala dan kecepatan, sedangkan manusia tetap menjadi pemeriksa penting ketika situasi tidak pasti, nilai yang dipertaruhkan berubah, atau sistem penilai berisiko ikut tertipu.

Apakah pendekatan ini akan berhasil masih harus dibuktikan melalui benchmark, pengujian independen, dan penerapan nyata. Untuk saat ini, Sampura lebih tepat dipahami sebagai upaya membangun infrastruktur pengawasan yang lebih kuat—bukan sebagai bukti bahwa masalah keselamatan AI telah terpecahkan.