Mengapa Google memindahkan pasukan keselamatan AI ke bahagian Global Affairs?

Google merancang memindahkan pasukan AI Responsibility yang mempunyai kira-kira 90 anggota keluar daripada Google DeepMind ke bahagian Global Affairs pada awal September. Menurut laporan, langkah itu bertujuan mendekatkan kerja berkaitan risiko AI dan kesan terhadap masyarakat dengan fungsi dasar awam, undang-undang serta hubungan kerajaan, ketika DeepMind semakin diintegrasikan dengan operasi AI Google yang lebih berorientasikan produk. 53

Apa yang berubah?

Pasukan ini sebelum ini mengkaji risiko sistem AI berkemampuan tinggi, termasuk kemungkinan penyalahgunaan bagi tujuan kimia, biologi, radiologi dan nuklear (CBRN). Ia turut meneliti kemungkinan kesan psikologi daripada interaksi berpanjangan dengan chatbot.

Selepas pemindahan itu, pasukan tersebut tidak lagi berada dalam organisasi penyelidikan yang membangunkan model AI termaju Google. Walau bagaimanapun, laporan awam menunjukkan tanggungjawabnya untuk mengkaji risiko AI dan kesan sosial dijangka diteruskan. 5

Mengapa kakitangan bimbang?

Sesetengah pekerja bimbang pemindahan daripada makmal penyelidikan ke fungsi urusan korporat boleh:

• mengurangkan kebebasan pasukan;
• menjauhkannya daripada keputusan pembangunan model;
• menyukarkan penyelidik mengetengahkan atau meningkatkan isu yang tidak menyenangkan tentang model baharu; dan
• berpotensi mengehadkan peranan pasukan sebagai pengkritik dalaman.

Namun, kebimbangan itu ialah pandangan pekerja yang dilaporkan dari dalam organisasi—bukan bukti bahawa sekatan tersebut sudah dikenakan. 5

Sumber dan kuasa pasukan masih belum jelas

Bukti yang tersedia belum memberikan gambaran lengkap dan mengikat tentang keadaan pasukan selepas dipindahkan. Antaranya ialah jumlah kakitangan yang akan dikekalkan, tahap akses kepada model, kebebasan menerbitkan hasil kajian, bajet serta kuasa untuk meningkatkan isu kepada pihak pengurusan.

Oleh itu, masih terlalu awal untuk memastikan perlindungan praktikal yang akan dikekalkan atau hilang. Bukti tidak mencukupi untuk menyimpulkan bahawa pemindahan ini secara automatik menghapuskan sebarang kuasa rasmi pasukan bagi menghalang pelancaran model. 5

Kerja keselamatan lain kekal dalam DeepMind

Kumpulan lain dalam Google DeepMind dan Google masih mengendalikan perlindungan model secara operasi—termasuk tingkah laku model, privasi, keselamatan siber dan aspek keselamatan teknikal. 67

Susunan baharu ini berpotensi mewujudkan pembahagian yang lebih ketara: kawalan teknikal dan kawalan berkaitan produk kekal dekat dengan organisasi pembangunan, manakala kajian kesan sosial, tadbir urus dan dasar bergerak ke Global Affairs.

Berlaku ketika kepimpinan DeepMind turut berubah

Pemindahan pasukan itu hadir ketika Demis Hassabis beralih daripada tugas harian sebagai CEO Google DeepMind kepada jawatan pengerusi Google DeepMind dan ketua saintis Alphabet. Koray Kavukcuoglu pula diberikan kuasa operasi yang lebih besar untuk menerajui pembangunan Gemini, penyelidikan AI termaju serta pasukan aplikasi dan pembangun Gemini. 1346

Reuters turut melaporkan bahawa sebahagian pasukan AI telah dipindahkan ke Google korporat ketika para pemimpin menggesa pembangunan Gemini dipercepatkan. Penstrukturan ini berlaku bersama beberapa pemergian kanan, termasuk jurutera dan penyelidik berprofil tinggi. 34

Apa maknanya untuk keselamatan AI?

Langkah ini tidak semestinya bermaksud Google meninggalkan kerja keselamatan AI. Sebaliknya, ia memperlihatkan dilema tadbir urus yang semakin penting dalam industri tersebut.

Makmal AI mahu pakar keselamatan berada cukup dekat dengan jurutera supaya penemuan mereka boleh mempengaruhi reka bentuk model sejak awal. Pada masa yang sama, syarikat semakin menggabungkan kerja keselamatan, undang-undang, dasar dan keputusan penggunaan produk di peringkat korporat—terutamanya ketika persaingan untuk melancarkan model yang lebih berkuasa semakin sengit. 53

Penyusunan di bawah Global Affairs boleh membantu menyelaraskan dasar seluruh syarikat dan mengukuhkan hubungan dengan pengawal selia. Tetapi jika akses kepada model, hak penerbitan dan saluran eskalasi tidak dilindungi dengan jelas, kebebasan—sama ada pada persepsi atau dalam amalan—pengkritik dalaman mungkin terjejas.

Persoalan paling penting selepas pemindahan ini bukan sekadar di mana pasukan itu ditempatkan. Yang lebih penting ialah sama ada ia masih mempunyai akses yang mencukupi, kebebasan untuk melaporkan risiko dan kuasa yang jelas untuk mencetuskan semakan sebelum model berisiko tinggi dilancarkan.