EU mahu kawal AI paling berisiko sambil mempercepat penggunaan AI industri

Mesej utama Ursula von der Leyen dalam ucapan State of the Union ialah berhati-hati secara terpilih, bukannya memperlahankan semua kecerdasan buatan (AI). Presiden Suruhanjaya Eropah itu mahu risiko daripada sistem AI paling berkeupayaan tinggi dikawal, sambil EU melindungi kanak-kanak di internet dan mempercepat penggunaan AI dalam industri yang penting kepada ekonomi serta keselamatan Eropah. 1

1. Model AI paling canggih perlu diperlahankan rentaknya

Von der Leyen berkata beliau akan mengundang makmal-makmal AI hadapan utama untuk berbincang tentang cara pihak berkuasa awam boleh menyokong usaha industri untuk “memperlahankan rentak di sempadan teknologi” (pace the frontier). Ini merujuk kepada rundingan dan kerjasama keselamatan, bukan moratorium EU serta-merta atau larangan menyeluruh terhadap pembangunan AI. 16

Kebimbangan beliau tertumpu pada model yang semakin berkeupayaan tinggi, termasuk sistem yang boleh menambah baik atau mengulang proses penambahbaikan dirinya sendiri. Menurut beliau, model sedemikian boleh membolehkan penggodaman pada skala yang sebelum ini sukar dibayangkan, dan mungkin tidak lama lagi berada di tangan pihak lawan. 115

Seruan tersebut muncul ketika industri AI sendiri berdebat tentang kelajuan kemajuan model hadapan. Reuters melaporkan bahawa Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru agar pembangunan AI maju diperlahankan; pendirian itu menerima sokongan daripada Ketua Pegawai Eksekutif OpenAI Sam Altman dan Elon Musk. Namun, ia turut mencetuskan perdebatan sama ada amaran itu merupakan langkah berjaga-jaga yang wajar atau kebimbangan melampau yang digelar “AI doomerism”. 17

Von der Leyen juga mahu kerjasama lebih erat dengan Kanada, United Kingdom dan rakan yang sealiran dalam soal keselamatan AI, termasuk penilaian model hadapan serta langkah keselamatan berkaitan. 9

2. EU Kids Act: akses perkhidmatan digital mengikut umur

Cadangan EU Kids Act tidak terhad kepada media sosial biasa. Ia dirancang meliputi platform media sosial dan perkongsian video, permainan dalam talian serta chatbot AI, dengan perlindungan berbeza mengikut kumpulan umur. Ini masih sebuah cadangan, maka ia belum menjadikan peraturan baharu itu boleh dikuatkuasakan serta-merta. 1

Rangka kerja yang dihuraikan oleh von der Leyen dan laporan semasa meliputi:

• Tiada akses media sosial bagi kanak-kanak bawah 13 tahun. 1
• Akaun terhad yang disediakan serta dipantau ibu bapa bagi remaja berumur 13 dan 14 tahun, dengan ciri terhad dan had masa. 1
• Kewajipan platform menyediakan perkhidmatan yang selamat secara reka bentuk untuk pengguna berumur 15 hingga 18 tahun.

Prinsipnya jelas: tanggungjawab tidak sepatutnya diletakkan sepenuhnya pada kanak-kanak dan ibu bapa. Perkhidmatan digital pula perlu memenuhi kewajipan keselamatan sejak peringkat reka bentuk. Laporan mengenai cadangan itu menyatakan syarikat dijangka perlu mengesahkan umur pengguna dan menangani ciri produk yang boleh mencetuskan penggunaan berlebihan, termasuk tatalan tanpa henti (infinite scrolling). 7

3. Penggunaan AI lebih pantas dalam sektor strategik

Pada masa yang sama, von der Leyen menggambarkan AI sebagai teknologi asas bagi ekonomi dan keselamatan Eropah. Beliau menyebut penggunaan seperti pemanduan autonomi dan pertahanan, sambil menegaskan Eropah perlu memperoleh nilai praktikal daripada teknologi ini. 1

Suruhanjaya Eropah mengenal pasti lima bidang bernilai tinggi untuk AI industri, iaitu bidang yang menurutnya Eropah mempunyai data dan keupayaan berkaitan:

1. Kesihatan
2. Pengangkutan
3. Agri-makanan
4. Pembuatan maju
5. Pertahanan dan angkasa 1

Suruhanjaya berkata ia akan mengumumkan inisiatif yang disifatkan sebagai “mengubah landskap” bagi sektor-sektor ini pada November. 1

Maksud sebenar agenda ini

Arah dasar EU ini lebih tepat dilihat sebagai strategi dua hala. Bagi model AI paling canggih, Suruhanjaya mahu penilaian yang lebih kukuh, penyelarasan antarabangsa dan pendekatan lebih perlahan serta mengutamakan keselamatan terhadap lonjakan keupayaan yang paling berisiko. Dalam ekonomi yang lebih luas pula, EU mahu penggunaan AI dipercepat dalam sektor yang berkait dengan perkhidmatan awam, daya saing industri dan keselamatan. 19

Jadi, pengumuman itu bukan seruan untuk memperlahankan setiap produk atau kegunaan AI. Sebaliknya, EU mahu meningkatkan tahap berhati-hati terhadap model AI hadapan sambil mempercepat aplikasi AI yang bermanfaat dan berorientasikan industri di Eropah. 1