Sampura Research mahu manusia kekal sebagai ‘hakim’ AI

Apa itu Sampura Research?

Sampura Research ialah badan bukan untung keselamatan kecerdasan buatan (AI) yang berpusat di London. Ia diasaskan oleh bekas penyelidik Google DeepMind, Rishub Jain dan Josh Jacob—bukan Alex Adams, berdasarkan pengumuman rasmi organisasi itu. Sampura diumumkan kepada umum pada 25 Ogos 2026 dan menerima komitmen dana awal AS$11 juta daripada Coefficient Giving: AS$7 juta untuk tahun pertama, dengan tambahan AS$4 juta dijanjikan. Alex Adams pula disebut sebagai pemberi maklum balas terhadap pengumuman tersebut. 4

Fokusnya ialah Human-AI Complementarity for Scalable Oversight, iaitu pendekatan yang cuba menggabungkan kekuatan manusia dan AI supaya sistem yang semakin berkuasa masih boleh dinilai dengan berkesan.

Mengapa tidak membiarkan AI mengawasi AI?

Banyak pendekatan “scalable oversight” menggunakan model bahasa besar atau LLM sebagai penilai kerana ia lebih pantas dan murah berbanding semakan manusia. Namun, Sampura berpendapat pendekatan itu mempunyai kelemahan asas.

Manusia mungkin masih lebih baik dalam beberapa tugas penting: mengesan kegagalan AI yang “bercorak tidak sekata”, memberikan semakan bebas jika model dan penilai AI berpotensi saling memperdaya, serta membuat pertimbangan apabila nilai manusia masih baharu atau sedang berubah. 4

Maksudnya bukan manusia perlu menyemak setiap jawapan AI. Sebaliknya, semakan manusia perlu digunakan secara terarah—terutamanya dalam situasi yang mempunyai risiko tinggi atau apabila penilai AI sendiri tidak begitu yakin.

Bagaimana ‘hakim’ hibrid itu berfungsi?

Dalam konteks Sampura, hakim ialah manusia, sistem AI atau gabungan kedua-duanya yang menilai sama ada tingkah laku AI itu tepat dan selari dengan matlamat keselamatan. Penilaian itu boleh melibatkan jawapan dalam perbualan atau keseluruhan tindakan ejen AI ketika menyelesaikan tugasan.

Antara kaedah yang dirancang termasuk:

• menganggarkan tahap keyakinan penilai AI dan menyerahkan kes yang meragukan kepada manusia;
• menggunakan sistem penghala untuk menentukan tugasan atau sub-tugasan yang patut diberikan kepada manusia atau AI;
• menyediakan bantuan AI yang khusus mengikut tugasan kepada penilai manusia; dan
• mengukur keseimbangan antara kos, kelajuan dan kualiti apabila input manusia digunakan.

Pendekatan ini cuba mencari titik tengah: AI membantu mempercepatkan proses, tetapi manusia masih menjadi pemeriksa penting apabila risikonya lebih besar.

Ujian melangkaui contoh statik

Untuk enam bulan pertama, Sampura berkata ia akan membina papan pendahulu awam yang dikemas kini secara berterusan, dengan lebih 20 subdataset. Bidang yang dirancang termasuk pengesanan penipuan, bias budaya dan tindakan ejen AI yang tidak selamat. 4

Penilai juga tidak akan diuji hanya menggunakan contoh yang sudah tersedia. Sampura mahu menguji keadaan apabila model yang diawasi boleh mengoptimumkan tingkah lakunya untuk memperdaya penilai semasa latihan pengukuhan. Ini penting bagi mengesan reward hacking—keadaan apabila sistem mencapai ukuran ganjaran tanpa benar-benar memenuhi matlamat keselamatan yang dimaksudkan.

Organisasi itu menyatakan bahawa kertas penyelidikan, kod, dataset dan papan pendahulunya akan diterbitkan kepada umum. 4

Risiko yang mahu dikaji

Skop Sampura tidak terhad kepada gambaran klasik tentang “AI yang mengamuk”. Ia turut merangkumi bias, interaksi tidak selamat dengan kanak-kanak dan kebergantungan terhadap AI pendamping.

Pada peringkat seterusnya, penyelidikan itu boleh bergerak daripada menilai output AI kepada menghasilkan dan menilai arahan, rubrik serta kes ujian yang digunakan dalam proses penilaian. Jika berjaya, pendekatan ini mungkin membantu penyelidik menjangka kegagalan sebelum ia muncul dalam penggunaan sebenar.

Namun, penting untuk membezakan antara agenda penyelidikan dan keupayaan kawalan yang telah terbukti. Sampura baru mencadangkan kaedah serta ukuran yang mahu diuji; ia belum menunjukkan bahawa sistem tersebut boleh membendung semua risiko daripada model AI canggih. 4

Mengapa isu pengambilan pekerja menjadi penting?

Penyelidikan keselamatan AI berdepan kekurangan bakat teknikal yang berpengalaman. Sebagai gambaran, iklan jawatan METR untuk kerja pelaksanaan penilaian menyenaraikan gaji asas tahunan AS$285,548 hingga AS$503,116, dengan kemungkinan bayaran lebih tinggi untuk calon luar biasa. 9

Sampura pula menyatakan bahawa ia sedang mengambil kakitangan teknikal pengasas di London. 4 Walaupun terdapat laporan bahawa sekurang-kurangnya enam penyelidik akan diambil dengan gaji antara £100,000 hingga £290,000, bukti sumber primer yang tersedia tidak mencukupi untuk mengesahkan angka khusus itu. Yang disahkan ialah rancangan pengambilan kakitangan teknikal di London.

Adakah Sampura boleh memperlahankan perlumbaan AI?

Pada Julai 2026, lebih 1,100 pengamal AI menandatangani surat terbuka yang menyeru pembentukan keupayaan antarabangsa untuk memperlahankan pembangunan AI sempadan jika kemajuannya mengatasi keupayaan manusia untuk mengawasinya dengan selamat. 1

Kerja Sampura boleh menyediakan salah satu prasyarat teknikal kepada usaha itu: penilaian yang lebih boleh dipercayai, telus dan boleh diaudit. Tetapi organisasi ini tidak boleh mencipta kuasa undang-undang, penyelarasan antarabangsa, akses kepada model milik syarikat atau mekanisme penguatkuasaan.

Jadi, penyelidikan Sampura melengkapi tadbir urus AI—bukan menggantikannya.

Bagaimana pula dengan pemergian Jain dari DeepMind?

Pemergian Jain dilaporkan berlaku ketika Google DeepMind berdepan beberapa pemergian penyelidik kanan. Namun, dakwaan bahawa “lima penyelidik teras keluar dalam enam hari” nampaknya berasal daripada laporan sekunder yang kurang kukuh dan tidak wajar dianggap sebagai fakta yang disahkan secara bebas. 5

Begitu juga, sumber yang ada tidak membuktikan dakwaan besar bahawa syarikat AI “tidak mampu mengawal apa yang telah dibina”. Kesimpulan yang lebih berasas ialah pengawasan kukuh terhadap model yang semakin berkuasa masih belum terbukti, bakat penilaian AI sangat terhad, dan Sampura cuba menjadikan penglibatan manusia lebih berskala serta tahan terhadap kegagalan—tanpa menganggap AI boleh mengawasi AI dengan selamat secara bersendirian.