Google Pindahkan Tim Tanggung Jawab AI dari DeepMind ke Global Affairs

Google berencana memindahkan tim AI Responsibility yang beranggotakan sekitar 90 orang dari Google DeepMind ke organisasi Global Affairs—divisi yang menangani kebijakan publik, urusan hukum, dan hubungan dengan pemerintah—pada awal September. Menurut laporan, langkah ini dimaksudkan untuk menempatkan pekerjaan terkait risiko AI dan dampak sosial lebih dekat dengan fungsi kebijakan serta keterlibatan pemerintah, ketika Google mengintegrasikan DeepMind lebih erat ke dalam operasi AI yang berorientasi pada produk. 53

Apa yang dikerjakan tim ini?

Tim AI Responsibility selama ini meneliti risiko katastrofik maupun dampak sosial dari sistem AI terdepan. Cakupannya antara lain potensi penyalahgunaan untuk ancaman kimia, biologis, radiologis, dan nuklir—yang sering diringkas sebagai CBRN—serta kemungkinan dampak psikologis dari interaksi berkepanjangan dengan chatbot. Setelah restrukturisasi, tim tersebut tidak lagi berada di dalam laboratorium yang mengembangkan model AI terdepan. 5

Mengapa karyawan mengkhawatirkannya?

Sejumlah karyawan khawatir perpindahan dari lingkungan riset ke fungsi urusan korporat dapat membuat tim lebih sulit bekerja secara independen. Mereka juga mencemaskan berkurangnya kedekatan dengan keputusan pengembangan model serta kemungkinan lebih sulitnya menyampaikan atau mengeskalasi temuan yang tidak menguntungkan tentang model-model baru. 5

Namun, kekhawatiran itu merupakan pandangan karyawan yang dilaporkan dari internal organisasi, bukan bukti bahwa pembatasan tersebut sudah diberlakukan.

Apa yang akan dipertahankan—dan apa yang belum jelas?

Laporan yang tersedia menunjukkan bahwa tim yang dipindahkan diperkirakan tetap bertanggung jawab meneliti risiko AI dan dampak sosialnya. Akan tetapi, bukti yang tersedia belum cukup untuk memastikan secara lengkap dan mengikat bagaimana nasib jumlah staf, akses terhadap model, kebebasan menerbitkan hasil riset, anggaran, atau kewenangan untuk mengeskalasi masalah.

Karena itu, belum tepat menyimpulkan perlindungan praktis apa saja yang pasti akan dipertahankan. Bukti yang ada juga belum cukup untuk menyatakan bahwa perpindahan tersebut otomatis menghapus kewenangan formal tim untuk menghentikan peluncuran model. 5

Apa yang tetap berada di DeepMind?

Kelompok lain di DeepMind dan Google masih mengerjakan perlindungan operasional model, termasuk perilaku model, privasi, keamanan, dan aspek keselamatan teknis. Dengan demikian, restrukturisasi ini mempertegas pembagian antara kontrol teknis dan produk di dalam organisasi pengembang model, dengan pekerjaan yang lebih luas mengenai dampak, tata kelola, dan kebijakan di Global Affairs. 67

Kaitannya dengan perubahan posisi Demis Hassabis

Perpindahan tim berlangsung di tengah perubahan besar di Google DeepMind. Demis Hassabis tidak lagi menjalankan tugas CEO sehari-hari. Ia kini menjadi chairman Google DeepMind sekaligus kepala ilmuwan Alphabet, perusahaan induk Google. Koray Kavukcuoglu, yang sebelumnya menjabat chief technology officer DeepMind dan kepala arsitek AI Alphabet, memperoleh kewenangan operasional yang lebih besar. 1334

Reuters juga melaporkan bahwa Google memindahkan sebagian tim AI ke organisasi korporat Google ketika para pemimpin perusahaan mendorong pengembangan Gemini yang lebih cepat. Perubahan ini terjadi bersamaan dengan sejumlah kepergian tokoh senior dari perusahaan. 34

Apa arti perubahan ini bagi tata kelola AI?

Restrukturisasi tersebut tidak berarti Google menghentikan pekerjaan keselamatan AI. Namun, langkah ini memperlihatkan dilema utama yang dihadapi laboratorium AI besar: keahlian keselamatan perlu cukup dekat dengan pengembang model agar dapat memengaruhi desain sistem, tetapi perusahaan juga cenderung memusatkan fungsi keselamatan bersama urusan hukum, kebijakan, dan penerapan produk—sembari berlomba meluncurkan model yang semakin mampu. 53

Struktur seperti ini dapat membantu menyelaraskan kebijakan perusahaan dan memperkuat hubungan dengan regulator. Di sisi lain, independensi—baik secara persepsi maupun dalam praktik—dari pihak internal yang mengkritisi model bisa melemah jika akses ke model, hak publikasi, serta kewenangan eskalasi atau peninjauan sebelum peluncuran tidak dilindungi secara jelas. 53