Evolusi AI: Dari Memprediksi, Menghasilkan, hingga Bertindak

Tiga tahap besar evolusi AI

Kecerdasan buatan tidak berkembang melalui pola sederhana ketika teknologi baru sepenuhnya menggantikan teknologi lama. Kemampuan-kemampuan tersebut justru menumpuk. Sistem berbasis aturan dan prediksi statistik masih sangat berguna, model generatif menambahkan kemampuan untuk menghasilkan beragam konten, sementara sistem agentic menghubungkan model dengan berbagai alat agar dapat mengejar tujuan melalui beberapa langkah.

Cara paling mudah memahami pergeseran ini adalah melihatnya sebagai perubahan dari memutuskan, menjadi menciptakan, lalu bertindak. Seiring kemampuan meningkat, jenis risikonya juga berubah. Sistem prediktif perlu diuji dari sisi akurasi dan keadilan. Sistem generatif harus diperiksa dari sisi kebenaran, keamanan, dan asal-usul konten. Agen AI juga memerlukan pembatasan izin, tahapan persetujuan, serta jejak audit.

Perjalanan sekitar tujuh dekade

Bidang AI modern mulai terbentuk pada 1950-an, setelah muncul penelitian awal tentang penalaran mesin, permainan strategi, dan jaringan saraf. Perkembangan berikutnya melewati sistem simbolik dan sistem pakar, pembelajaran mesin pada 1990-an, serta deep learning pada 2010-an.

Periode-periode tersebut tidak sepenuhnya terpisah. Sebuah produk AI masa kini dapat memakai model prediktif untuk mengklasifikasikan permintaan, model generatif untuk menyusun jawaban, dan perangkat lunak konvensional untuk menentukan apakah suatu tindakan boleh dilakukan.

1. AI tradisional: aturan, klasifikasi, dan prediksi

AI tradisional mencakup dua pendekatan utama:

• Sistem simbolik atau berbasis aturan, yaitu sistem yang logika, pengetahuan bidang tertentu, dan prosedur keputusannya dirancang manusia.
• Sistem pembelajaran mesin, yaitu model yang mempelajari hubungan statistik dari data historis untuk mengklasifikasikan masukan atau memperkirakan hasil.

Program permainan pada masa awal menunjukkan bahwa mesin dapat menelusuri berbagai kemungkinan langkah dalam lingkungan yang terbatas. Pendekatan serupa, bersama pembelajaran statistik, kemudian diterapkan pada berbagai kebutuhan praktis, seperti:

• mendeteksi transaksi yang tidak biasa atau menyerupai penipuan;
• menilai risiko kredit dan gagal bayar;
• memperkirakan risiko kesehatan, seperti memburuknya kondisi pasien atau kemungkinan rawat ulang;
• mengurutkan produk, video, musik, dan unggahan dalam sistem rekomendasi; serta
• menggabungkan pengenalan suara, klasifikasi maksud, dan alur kerja yang telah ditentukan pada asisten suara seperti Siri.

Sistem semacam ini biasanya unggul ketika tugasnya sempit, berulang, dan dapat diukur. AI dapat memproses banyak kasus dengan cepat serta menghasilkan keluaran yang konsisten. Sistem berbasis aturan juga cenderung lebih mudah diperiksa karena logika keputusannya terlihat jelas.

Batasan AI prediktif

AI tradisional tidak otomatis memahami penyebab suatu hasil. Model dapat menemukan hubungan statistik tanpa membuktikan hubungan sebab-akibat. Jika dilatih menggunakan data historis yang bias, sistem juga dapat mengulang atau bahkan memperbesar bias tersebut.

Aturan yang terlalu kaku dapat gagal ketika menghadapi kondisi di luar rancangan awal. Model prediktif yang kompleks pun bisa sulit dijelaskan. Kinerjanya juga dapat menurun ketika kondisi dunia nyata berubah, suatu masalah yang umum disebut data drift.

Karena itu, penggunaan AI dalam keputusan berisiko tinggi—seperti kredit, pekerjaan, asuransi, penegakan hukum, dan layanan kesehatan—memerlukan pemeriksaan kualitas data, pengujian bias, penjelasan yang sesuai, tinjauan manusia, pemantauan berkelanjutan, dan jalur pengajuan keberatan.

2. Generative AI: AI yang dapat menciptakan konten

Generative AI mempelajari pola dari kumpulan besar teks, gambar, audio, video, atau kode, lalu menggunakan pola tersebut untuk menghasilkan keluaran baru. Large language model (LLM) menghasilkan teks secara berurutan, sedangkan sistem multimodal dapat bekerja dengan beberapa format sekaligus.

Model seperti ChatGPT, Gemini, dan Claude mengubah cara orang berinteraksi dengan AI. Alih-alih memilih perintah tetap atau menerima skor klasifikasi, pengguna cukup menjelaskan tujuan dalam bahasa sehari-hari dan meminta sistem menyusun, mengubah, atau menjelaskan suatu materi.

Contoh penggunaan generative AI

• Layanan pelanggan: menyusun draf balasan, merangkum percakapan, menerjemahkan materi, dan mengambil informasi dari basis pengetahuan.
• Pekerjaan hukum: merangkum dokumen, menemukan klausul, membandingkan sumber hukum, dan menyiapkan draf awal. Profesional hukum tetap perlu memeriksa sumber primer serta klaim hukum.
• Pendidikan: menjelaskan konsep, membuat soal latihan, dan memberikan umpan balik.
• Pekerjaan kreatif: melakukan curah gagasan, menyusun naskah, serta menghasilkan gambar, musik, konsep video, dan kode perangkat lunak.
• Pemrograman: menjelaskan kode, menulis pengujian, menyarankan perbaikan, dan mempercepat pekerjaan pengembangan rutin.

Manfaat utamanya adalah kecepatan, biaya penyusunan draf yang lebih rendah, interaksi menggunakan bahasa alami, serta kemampuan menghasilkan banyak versi yang lebih personal. Namun, jawaban yang terdengar meyakinkan tidak selalu berarti sistem tersebut memiliki penilaian ahli yang dapat diandalkan.

Risiko utama generative AI

Halusinasi dan rasa percaya diri yang berlebihan. LLM dapat menghasilkan informasi yang dibuat-buat, keliru, bias, atau terlalu disederhanakan dengan nada yang terdengar yakin. Penelitian mengenai grounding dan evaluasi LLM menyoroti halusinasi, konten berbahaya, manipulasi, pelanggaran hak cipta, privasi, dan keamanan sebagai persoalan yang perlu diuji serta dipantau.

Dampak terhadap pembelajaran. Eksperimen lapangan berskala besar di sekolah menemukan bahwa tutor AI dapat meningkatkan kinerja ketika tersedia. Namun, siswa yang mengandalkannya tanpa perlindungan yang tepat dapat tampil lebih buruk ketika akses AI dicabut, yang mengindikasikan berkurangnya penguasaan keterampilan. Petunjuk yang dirancang guru lebih melindungi proses belajar dibandingkan sekadar memberikan jawaban. Alat generatif juga dapat mempermudah plagiarisme atau menyamarkan apakah siswa benar-benar memahami pekerjaannya.

Hak cipta dan asal-usul konten. Asal data pelatihan, peniruan gaya, serta keluaran yang mereproduksi materi terlindungi masih menjadi perdebatan. Panduan pendidikan mengidentifikasi pelanggaran kekayaan intelektual sebagai salah satu risiko penting, selain konten yang keliru, bias, atau tidak aman.

Konten berbahaya dan manipulatif. Sistem generatif dapat menghasilkan misinformasi, pelecehan, materi seksual atau kekerasan, serta instruksi berbahaya. Karena itu, pengujian, perlindungan keselamatan, pencatatan aktivitas, dan pemantauan diperlukan; pengembang tidak dapat menganggap model akan selalu berperilaku sesuai tujuan.

Keselamatan dan kesejahteraan anak muda. Penelitian mengenai risiko generative AI bagi pengguna muda menemukan kekhawatiran terkait kesehatan mental, perkembangan perilaku dan sosial, toksisitas, privasi, serta penyalahgunaan atau eksploitasi. Risikonya menjadi lebih serius ketika chatbot dianggap sebagai pengganti dukungan manusia yang berkualifikasi.

Privasi dan kerahasiaan. Prompt dapat memuat informasi pribadi, rahasia dagang, materi klien, atau informasi yang dilindungi kerahasiaan hukum. Organisasi perlu menetapkan data apa yang boleh dimasukkan ke layanan tertentu. Pengguna sebaiknya menganggap layanan yang tidak disetujui tidak cocok untuk informasi sensitif.

Pengaman praktis untuk generative AI

Langkah dasar yang masuk akal adalah memperlakukan keluaran model sebagai draf, bukan bukti. Klaim faktual penting perlu diperiksa menggunakan sumber yang berwenang. Tinjauan manusia harus diwajibkan untuk keputusan medis, hukum, keuangan, ketenagakerjaan, dan keselamatan.

Pengaman lain meliputi pengambilan informasi dari sumber yang disetujui, penyertaan sitasi, pengujian red-team, perlindungan konten, desain yang sesuai usia, log audit, pemberitahuan penggunaan AI kepada pengguna, serta kebijakan tentang pengelolaan data, penggunaan akademik, asal-usul konten, dan izin kekayaan intelektual. Panduan pemerintah juga menyoroti konten yang keliru atau bias, kebocoran privasi, pelanggaran hak kekayaan intelektual, dan tantangan integritas akademik.

3. Agentic AI: sistem yang dapat bertindak

Agentic AI menambahkan lapisan tindakan. Agen dapat memahami tujuan, memecahnya menjadi beberapa langkah, menggunakan alat seperti peramban, repositori kode, basis data, atau sistem pesan, memeriksa hasil sementara, lalu melanjutkan pekerjaan sesuai izin yang diberikan.

Inilah yang membedakan agen dari chatbot, meskipun keduanya dapat memakai LLM. Chatbot mungkin hanya menyusun draf email. Agen dapat mencari informasi, menyiapkan pesan, mengirimkannya, lalu memperbarui sistem lain. Asisten pemrograman dapat menjelaskan bug, sementara agen dapat memeriksa basis kode, mengubah berkas, menjalankan pengujian, dan menyiapkan perubahan untuk ditinjau.

Contoh yang disebut dalam pasar saat ini antara lain agen pengembangan perangkat lunak Google Jules, alat alur kerja rekrutmen LinkedIn Hiring Assistant, serta kerangka agen personal OpenClaw. Materi proyek OpenClaw menyebutnya sebagai asisten personal sumber terbuka yang berjalan di perangkat pengguna dan terhubung ke berbagai kanal serta alat. Kemampuan aktualnya tetap bergantung pada integrasi dan izin yang diaktifkan pengguna.

Mengapa agen bisa berguna

Agentic AI berpotensi:

• menyelesaikan alur kerja, bukan sekadar membuat satu dokumen;
• mengurangi koordinasi dan pekerjaan administratif rutin;
• menghubungkan informasi dari sistem bisnis yang terpisah; serta
• bekerja terus-menerus dalam batas yang telah ditentukan.

Agen dapat membuat alur kerja yang rumit lebih mudah diakses oleh organisasi kecil maupun pengguna perorangan. Namun, pertanyaan utamanya ikut berubah: bukan hanya “Apakah jawabannya akurat?”, melainkan juga “Apa yang boleh dilakukan sistem ini, dan bagaimana tindakannya diperiksa?”

Mengapa otonomi memperluas permukaan risiko

Model generatif bisa keliru dalam memberikan jawaban. Agen dapat mengubah kesimpulan yang keliru, instruksi berbahaya, atau alat yang telah disusupi menjadi tindakan di dunia nyata.

Agen dengan akses keuangan, misalnya, dapat melakukan pembayaran, pembelian, transfer, atau pembatalan tanpa izin. Agen dengan akses email, peramban, atau layanan cloud dapat dimanipulasi oleh halaman web atau dokumen berbahaya untuk membocorkan kredensial atau mengirimkan berkas rahasia.

Izin yang terlalu luas, kontrol identitas yang lemah, dan pemisahan tugas yang buruk dapat mengubah kesalahan kecil model menjadi insiden serius. Akuntabilitas juga lebih sulit ditentukan ketika hasil muncul dari interaksi antara model, instruksi, data, alat, dan agen lain. Operator harus dapat melihat bukan hanya hasil akhir, tetapi juga tindakan yang diusulkan, bukti yang mendasarinya, dan izin yang digunakan.

Tata kelola harus mengikuti tingkat kemampuan

Prinsip dasarnya sama untuk ketiga tahap: tetapkan pemilik yang bertanggung jawab, batasi tujuan sistem, lindungi data, lakukan pengujian sebelum penerapan, pantau kinerja, siapkan respons insiden, serta sediakan tinjauan atau pengambilalihan manusia untuk keputusan penting.

Sistem agentic memerlukan pengaman tambahan karena dapat memengaruhi sistem eksternal. Langkah praktisnya antara lain:

• kredensial dengan prinsip hak akses minimum dan masa berlaku terbatas;
• akun terpisah serta identitas yang jelas untuk setiap agen;
• batas tegas mengenai apa yang boleh dibaca, ditulis, dikirim, dibeli, dihapus, atau diterapkan oleh agen;
• tahapan konfirmasi untuk tindakan yang tidak dapat dibatalkan atau berdampak besar;
• daftar alat yang disetujui, sandbox, serta perlindungan terhadap prompt injection;
• batas transaksi dan pendeteksian anomali;
• log tindakan yang rinci dan sulit diubah;
• pemisahan tugas serta persetujuan manusia yang sebanding dengan risikonya; dan
• tombol jeda atau penghentian darurat yang dapat digunakan dengan cepat.

Singapura meluncurkan Model AI Governance Framework for Agentic AI pada 22 Januari 2026. Kerangka ini merupakan panduan bagi organisasi yang menerapkan sistem tersebut, bukan undang-undang AI yang berdiri sendiri. Pendekatannya menempatkan akuntabilitas manusia dan organisasi sebagai pusat, dengan manajemen risiko serta kontrol yang disesuaikan dengan tingkat otonomi agen.

Untuk sektor keuangan, makalah Monetary Authority of Singapore mengenai SAFR menjelaskan pendekatan tata kelola saat runtime. Dalam pendekatan ini, sebuah catatan terstruktur merekam apa yang hendak dilakukan agen, alasan di baliknya, dan bukti yang mendukung tindakan tersebut.

Kesimpulan: AI bergerak dari memutuskan ke bertindak

Evolusi AI bukan sekadar perjalanan dari “AI lama” menuju “AI baru”. Sistem berbasis aturan dan prediksi tetap menjadi pilihan tepat untuk banyak keputusan yang terbatas. Generative AI menambahkan produksi konten yang fleksibel dan interaksi bahasa alami. Agentic AI menambahkan kemampuan mengejar tujuan melalui alat dan tindakan eksternal.

Tata kelolanya harus berkembang seiring kemampuan tersebut. Prediksi menuntut perhatian pada akurasi, bias, dan perubahan data. Generasi menuntut verifikasi, keamanan, privasi, dan asal-usul konten. Tindakan menuntut seluruh pengaman itu, ditambah kontrol izin, tahapan persetujuan, akuntabilitas, serta rencana pemulihan.

Produk AI yang paling dapat diandalkan bukan hanya yang memakai model paling canggih, melainkan yang memadukan kemampuan model dengan desain sistem yang disiplin dan pengawasan manusia.