Rencana AI von der Leyen: Perlambat Model Paling Canggih, Lindungi Anak, Percepat AI Industri

Pesan utama Ursula von der Leyen dalam pidato State of the Union adalah bukan memperlambat seluruh perkembangan kecerdasan buatan (AI). Presiden Komisi Eropa itu mengusulkan kehati-hatian khusus terhadap model AI paling canggih, sembari mendorong pemakaian AI yang bernilai praktis bagi industri dan memperketat perlindungan anak di ruang digital. 1

Fokus pada AI frontier: laju pengembangan harus dikendalikan

Von der Leyen mengatakan Komisi Eropa akan mengundang laboratorium AI frontier—pengembang model paling mutakhir dan berkemampuan tinggi—untuk berdiskusi mengenai cara otoritas publik mendukung upaya industri dalam “mengatur laju batas terdepan” atau pace the frontier. Ini merupakan rencana dialog dan kerja sama keselamatan, bukan moratorium langsung maupun larangan menyeluruh atas pengembangan AI. 16

Kekhawatirannya terutama tertuju pada model yang makin kapabel, termasuk model yang dapat meningkatkan atau mengembangkan dirinya sendiri. Menurut von der Leyen, sistem semacam itu berpotensi memungkinkan peretasan dalam skala yang sebelumnya tak terbayangkan dan bisa segera tersedia bagi pihak-pihak yang menjadi lawan. 115

Seruan tersebut muncul di tengah perdebatan di industri AI. Reuters melaporkan bahwa CEO Anthropic, Dario Amodei, menyerukan perlambatan pengembangan AI tingkat lanjut dan mendapat dukungan dari CEO OpenAI Sam Altman serta Elon Musk. Namun, seruan itu juga memicu perdebatan: apakah kekhawatiran tersebut adalah langkah kehati-hatian yang proporsional atau bentuk berlebihan dari “AI doomerism”. 17

Von der Leyen juga menyerukan kerja sama yang lebih erat dengan Kanada, Britania Raya, dan negara-negara mitra yang sepandangan dalam keselamatan AI. Kerja sama itu mencakup evaluasi model frontier serta langkah-langkah keamanan terkait. 9

EU Kids Act: akses digital dibedakan menurut usia

Komisi Eropa mengajukan EU Kids Act, sebuah rancangan aturan yang tidak hanya menyasar media sosial. Cakupannya juga ditujukan untuk platform berbagi video, gim daring, dan chatbot AI, dengan perlindungan berbeda untuk kelompok usia yang berbeda. Karena masih berupa usulan, aturan ini belum serta-merta berlaku dan dapat ditegakkan. 1

Rancangan pendekatan yang dijelaskan von der Leyen dan diberitakan pada saat itu meliputi:

• Tidak ada akses media sosial untuk anak di bawah 13 tahun. 1
• Akun terbatas untuk usia 13–14 tahun, yang dibuat dan diawasi orang tua, dengan fitur serta durasi penggunaan yang dibatasi. 1
• Kewajiban layanan yang aman sejak perancangan (safe by design) bagi pengguna berusia 15–18 tahun.

Prinsip pentingnya, beban perlindungan tidak hanya diletakkan pada anak dan orang tua. Platform juga akan diwajibkan membangun layanan yang aman sejak awal. Pelaporan mengenai proposal ini menyebut perusahaan diharapkan memverifikasi usia pengguna dan menangani fitur yang berpotensi memicu penggunaan berlebihan, seperti infinite scrolling. 7

AI justru akan dipercepat untuk sektor strategis

Di sisi lain, von der Leyen menempatkan AI sebagai teknologi mendasar bagi ekonomi dan keamanan Eropa. Ia menyinggung penggunaan AI antara lain untuk kendaraan otonom dan pertahanan, sambil menekankan bahwa Eropa perlu menarik manfaat nyata dari teknologi tersebut. 1

Komisi Eropa menetapkan lima bidang bernilai tinggi untuk AI industri, yaitu sektor yang dinilai memiliki data dan kapasitas relevan di Eropa:

1. Kesehatan
2. Transportasi
3. Agri-pangan
4. Manufaktur maju
5. Pertahanan dan antariksa 1

Komisi mengatakan akan mengumumkan inisiatif yang disebut dapat mengubah permainan di sektor-sektor tersebut pada November. 1

Maknanya: rem untuk risiko tertinggi, gas untuk penerapan yang bermanfaat

Arah kebijakan ini dapat dibaca sebagai strategi dua jalur. Untuk AI frontier, Komisi Eropa menginginkan evaluasi yang lebih kuat, koordinasi internasional, dan pendekatan yang lebih lambat serta berorientasi pada keselamatan terhadap lonjakan kemampuan berisiko tinggi. Untuk perekonomian yang lebih luas, Uni Eropa ingin mempercepat penerapan AI di sektor yang berkaitan dengan layanan publik, daya saing industri, dan keamanan. 19

Jadi, pengumuman tersebut bukan ajakan untuk memperlambat setiap produk atau penggunaan AI. Yang dituju adalah kehati-hatian lebih besar pada model AI paling canggih, sambil mempercepat pemanfaatan AI yang dinilai bermanfaat dan berorientasi pada industri di Eropa. 1