Amaran jurutera DeepSeek: AI mungkin mengambil alih kerja pembinanya

Shengyu Liu, jurutera sistem pembelajaran mesin di DeepSeek yang dikenali dalam talian sebagai “interestingLSY”, menulis esei bertajuk I Have No Choice but to Bury My Talent in Yesterday sebagai renungan peribadi dan juga hujah politik. Baginya, kebimbangan bukan sekadar AI membantu menulis kod, tetapi kemungkinan teknologi itu mengambil alih kemahiran khusus yang menjadikan kerja seorang jurutera bermakna. Profil awam Liu menyatakan beliau menumpukan kerja kepada sistem pembelajaran mesin serta reka bentuk dan pengoptimuman kernel di DeepSeek. 7

Daripada pembantu kepada setara pakar

Liu menggambarkan kemajuan AI yang pantas: pada mulanya, ia membantu jurutera mencari dokumentasi dan menyahpepijat masalah. Kemudian, sistem AI semakin berupaya meneliti kod pada aras GPU, memahami pelaksanaan sesuatu operator serta kekangan prestasinya, lalu mencadangkan atau melaksanakan pengoptimuman. 1 11

Bagi jurutera pengoptimuman kernel, nilai kerja terletak pada pertimbangan teknikal yang sangat khusus dan teliti untuk memerah prestasi pada aras rendah. Liu bimbang AI akhirnya boleh melakukan bahagian kerja yang paling dihargainya itu.

Beliau tidak semestinya meramalkan pemberhentian kerja serta-merta. Sebaliknya, seseorang jurutera mungkin masih mempunyai pekerjaan, tetapi berubah daripada pembina yang bekerja secara langsung kepada penyelia ejen automatik. Itulah maksud kehilangan yang tersirat pada tajuk eseinya: bakat yang dibina mungkin menjadi milik “semalam”. 1 3

Namun, esei itu ialah pandangan seorang jurutera di barisan hadapan teknologi, bukannya bukti bahawa AI kini sudah boleh menggantikan semua jurutera kernel secara autonomi dalam persekitaran pengeluaran sebenar.

Mengapa beliau menolak penumpuan kuasa AGI

Liu mengaitkan keresahan tentang automasi dengan isu pemilikan dan akses. Beliau berkata beliau tidak mahu Anthropic mengawal AI atau AGI paling maju di dunia. AGI, atau kecerdasan am buatan, lazimnya merujuk kepada AI yang mempunyai keupayaan umum menyerupai manusia. Dalam analogi yang sengaja dibuat secara ekstrem, Liu menyamakan taruhannya dengan Hitler memperoleh teknologi bom atom sebelum pihak Berikat. 2 9

Perbandingan itu ialah retorik Liu, bukan perbandingan berasaskan bukti antara Anthropic dengan Nazi Jerman. Hujah asasnya lebih jelas: jika sebuah organisasi swasta memperoleh kelebihan yang menentukan dalam AI sangat berkeupayaan, ia boleh memusatkan kuasa ekonomi dan geopolitik pada tahap luar biasa tanpa akauntabiliti yang mencukupi.

Penyelesaian yang disukainya ialah AI hadapan yang cukup terbuka dan mampu milik untuk diakses dengan lebih meluas. Liu membentangkan kecenderungan sumber terbuka DeepSeek sebagai pengimbang kepada makmal AI hadapan Barat yang tertutup, serta antara sebab beliau memilih untuk bekerja di sana. 1 3

Ini ialah pendirian normatif tentang keterbukaan, bukannya kesimpulan keselamatan yang telah diputuskan. Akses lebih meluas boleh menyebarkan kawalan, tetapi juga berpotensi memudahkan pelaku berniat jahat atau tidak bertanggungjawab mendapatkan keupayaan berbahaya.

Ketidakpercayaan terhadap Anthropic dan OpenAI

Kritikan Liu terhadap Anthropic dan OpenAI bersifat politik serta komersial. Beliau mempersoalkan sama ada syarikat yang membangunkan sistem hadapan proprietari—dan menyokong dasar yang boleh mengehadkan akses pesaing kepada pengkomputeran maju—wajar dianggap sebagai penjaga AGI yang berkecuali.

Itu ialah penilaian Liu. Laporan yang tersedia tidak membuktikan Anthropic atau OpenAI sudah bertindak sebagai pengawal AGI yang tidak bertanggungjawab, dan tidak juga membuktikan model akses terbuka pilihan Liu lebih selamat. Pertikaian sebenar ialah risiko mana patut diberi keutamaan: penumpuan kuasa, percambahan keupayaan yang pantas, ketidakseimbangan persaingan, atau penyalahgunaan berskala besar.

Dalam konteks persaingan AI AS-China

Esei Liu muncul ketika pertentangan awam antara kepentingan AI Amerika Syarikat dan China semakin ketara.

Anthropic mendakwa DeepSeek, Moonshot dan MiniMax menjalankan kempen penyulingan model tanpa kebenaran menggunakan output Claude untuk menambah baik model masing-masing. Anthropic berkata aktiviti itu melibatkan lebih 16 juta pertukaran dengan Claude melalui kira-kira 24,000 akaun palsu. Ini ialah dakwaan Anthropic, bukannya dapatan yang telah diputuskan melalui proses penghakiman dalam konteks ini.

Pada masa sama, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru industri memperlahankan kadar peningkatan keupayaan model hadapan supaya lebih banyak masa dapat diperuntukkan untuk kerja keselamatan, pengawasan dan pengurusan risiko. Beliau turut menggesa sekatan eksport cip AI paling canggih serta peralatan pembuatan cip ke China diteruskan, dengan alasan kelebihan AI China boleh membawa risiko serius kepada Amerika Syarikat dan dunia.

Pegawai China dan media yang disokong negara menolak kerangka tersebut. Kementerian Luar China mengkritik seruan Amodei untuk mengekang keupayaan AI China, manakala Global Times menyifatkan cadangan memperlahankan pembangunan itu sebagai “skrip Perang Dingin” untuk mengekalkan kelebihan teknologi AS.

Kritikan lain: perlumbaan itu sendiri

Perdebatan ini tidak terbahagi secara mudah antara “penyokong keselamatan Barat” dan “penyokong pecutan China”. Jacob Coxon, bekas penyelidik Anthropic dan OpenAI, meletak jawatan daripada Anthropic serta meninggalkan industri AI pada September 2026. Beliau berkata kedua-dua syarikat berlumba ke arah superkecerdasan yang mampu memperbaiki dirinya sendiri tanpa bertindak secara bertanggungjawab, dan menyifatkan perlumbaan itu sebagai “mempertaruhkan nyawa kita”. 17

Tumpuan Coxon berbeza daripada Liu. Coxon menekankan bahaya membina AI semakin berkuasa terlalu pantas, manakala Liu lebih menekankan bahaya apabila sebuah makmal AS yang tertutup mendominasi teknologi itu. Namun, kedua-duanya mempertikaikan andaian bahawa perlumbaan AI semasa semestinya wajar atau tidak berbahaya.

Soalan yang masih belum terjawab

Esei Liu mengangkat keresahan kerjaya teknikal menjadi persoalan tadbir urus yang lebih besar: jika AI mampu menyerap kemahiran manusia yang sangat khusus, siapakah yang menetapkan peraturan penggunaannya? Jika segelintir syarikat mengawal sistem paling berkuasa, bagaimana kuasa mereka harus dihadkan? Jika keupayaan itu dibuka secara meluas pula, bagaimana penyalahgunaan dan percambahannya dapat diurus?

Belum ada jawapan yang dipersetujui bersama. Liu berhujah bahawa keterbukaan dan kemampuan kos ialah pengimbang penting kepada penumpuan kuasa swasta. Anthropic pula menyokong pembangunan yang diperlahankan, kawalan keselamatan lebih kukuh dan sekatan yang bertujuan mengekalkan kelebihan AS. Pengkritik di China melihat sekatan itu sebagai pengekangan.

Sumbangan paling menonjol Liu dalam perdebatan ini ialah sudut pandang seorang pembina di tengah-tengah perubahan tersebut: gangguan besar pertama AI mungkin bukan hanya terhadap kerja rutin, tetapi juga terhadap kemahiran pakar orang yang membinanya supaya terus maju.