Bagaimana AI Berevolusi daripada Sistem Berasaskan Peraturan kepada AI Generatif dan Agentik

• Sistem simbolik atau berasaskan peraturan, iaitu manusia memasukkan logik, pengetahuan bidang dan prosedur membuat keputusan.
• Sistem pembelajaran mesin, yang mempelajari hubungan statistik daripada data sejarah untuk mengelaskan input atau menganggarkan hasil.

Program permainan awal menunjukkan bahawa komputer boleh mencari pelbagai kemungkinan langkah dalam persekitaran yang mempunyai sempadan jelas. Kemudian, pendekatan serupa bersama pembelajaran statistik digunakan untuk tugasan seperti:

• mengesan transaksi luar biasa atau yang menyerupai penipuan;
• menilai risiko kredit dan kegagalan membayar;
• menganggarkan risiko kesihatan, seperti kemerosotan keadaan pesakit atau kemasukan semula ke hospital;
• menyusun kedudukan produk, video, muzik dan hantaran dalam enjin cadangan; serta
• menggabungkan pengecaman pertuturan, pengelasan niat dan aliran kerja yang telah ditetapkan dalam pembantu suara seperti Siri.

Sistem sebegini biasanya berkesan apabila tugasnya sempit, berulang dan mudah diukur. Ia boleh memproses jumlah kes yang besar dengan pantas serta menghasilkan keputusan yang konsisten. Sistem berasaskan peraturan juga lebih mudah diperiksa dalam sesetengah keadaan kerana logik keputusannya dinyatakan secara jelas.

Had AI berasaskan ramalan

AI tradisional tidak semestinya memahami mengapa sesuatu hasil berlaku. Model boleh mengenal pasti kaitan statistik tanpa membuktikan hubungan sebab dan akibat. Jika dilatih menggunakan data sejarah yang berat sebelah, sistem juga boleh mengulangi atau memperkuatkan bias tersebut.

Peraturan mungkin menjadi rapuh apabila digunakan di luar keadaan asalnya, manakala model ramalan yang kompleks pula sukar diterangkan. Prestasi juga boleh merosot apabila keadaan dunia sebenar berubah—masalah yang sering disebut sebagai perubahan taburan data atau data drift.

Dalam bidang berisiko tinggi seperti pinjaman, pekerjaan, insurans, penguatkuasaan undang-undang dan penjagaan kesihatan, penggunaan yang bertanggungjawab memerlukan pemeriksaan kualiti data, ujian bias, penjelasan yang sesuai, semakan manusia, pemantauan serta saluran rayuan.

2. AI generatif: mencipta kandungan baharu

AI generatif mempelajari corak daripada koleksi besar teks, imej, audio, video atau kod, kemudian menggunakan corak tersebut untuk menghasilkan output baharu. Model bahasa besar menjana teks secara berurutan, manakala sistem multimodal boleh berfungsi merentas beberapa format.

Perubahan terbesar yang dibawa AI generatif ialah pengalaman pengguna. Orang ramai tidak lagi perlu memilih daripada senarai arahan yang tetap atau hanya menerima skor pengelasan. Mereka boleh menerangkan matlamat dalam bahasa biasa dan meminta sistem menyediakan draf, mengubah suai atau menerangkan sesuatu bahan.

Kegunaan AI generatif

Antara aplikasi lazimnya ialah:

• Khidmat pelanggan: menyediakan draf balasan, meringkaskan perbualan, menterjemah bahan dan mencari maklumat daripada pangkalan pengetahuan.
• Kerja perundangan: meringkaskan dokumen, mengekstrak klausa, membandingkan autoriti undang-undang dan menyediakan draf awal. Namun, profesional undang-undang masih perlu menyemak sumber utama serta dakwaan berkaitan undang-undang.
• Pendidikan: menerangkan konsep, mencipta soalan latihan dan memberikan maklum balas.
• Kerja kreatif: membantu sumbang saran, menyediakan salinan iklan serta menjana imej, muzik, konsep video dan kod perisian.
• Pengaturcaraan: menerangkan kod, menulis ujian, mencadangkan pembaikan dan mempercepatkan kerja pembangunan rutin.

Kelebihan utamanya ialah kelajuan, kos penyediaan draf yang lebih rendah, interaksi menggunakan bahasa semula jadi dan keupayaan menghasilkan beberapa versi yang diperibadikan. Namun, jawapan yang kelihatan meyakinkan tidak semestinya menunjukkan pertimbangan pakar yang boleh dipercayai.

Risiko utama AI generatif

Halusinasi dan keyakinan palsu. Model bahasa besar boleh menghasilkan maklumat yang direka-reka, tidak tepat, berat sebelah atau terlalu dipermudah dalam nada yang yakin. Penyelidikan tentang pembumian dan penilaian model mengenal pasti halusinasi, kandungan berbahaya, manipulasi, pelanggaran hak cipta, privasi dan keselamatan sebagai isu yang memerlukan ujian serta pemantauan.

Pembelajaran dan integriti akademik. Satu eksperimen lapangan berskala besar di sekolah mendapati bahawa bimbingan AI meningkatkan prestasi ketika alat itu tersedia. Namun, pelajar yang bergantung kepadanya tanpa perlindungan sewajarnya boleh menunjukkan prestasi lebih rendah apabila akses tersebut dihentikan, menunjukkan kemungkinan kemahiran yang dipelajari menjadi lebih lemah. Petunjuk yang direka oleh guru lebih membantu berbanding sekadar memberikan jawapan. Alat generatif juga boleh memudahkan plagiarisme atau menyukarkan guru menentukan sama ada seseorang pelajar benar-benar menguasai tugasan.

Hak cipta dan asal-usul kandungan. Persoalan tentang sumber data latihan, peniruan gaya dan output yang mengulang bahan dilindungi masih menjadi perbahasan. Panduan pendidikan mengenal pasti pelanggaran harta intelek sebagai risiko penting, selain kandungan yang tidak tepat, berat sebelah atau tidak selamat.

Kandungan berbahaya dan manipulatif. Sistem generatif boleh menghasilkan maklumat palsu, gangguan, bahan seksual atau ganas serta arahan berbahaya. Panduan keselamatan mengesyorkan ujian, perlindungan, rekod aktiviti dan pemantauan—bukan andaian bahawa model akan sentiasa mematuhi tingkah laku yang dikehendaki.

Keselamatan dan kesejahteraan golongan muda. Penyelidikan tentang risiko AI generatif terhadap golongan muda mengenal pasti kebimbangan berkaitan kesejahteraan mental, perkembangan tingkah laku dan sosial, ketoksikan, privasi serta penyalahgunaan atau eksploitasi. Risiko ini lebih serius apabila pengguna menganggap chatbot sebagai pengganti sokongan manusia yang berkelayakan.

Privasi dan kerahsiaan. Arahan kepada AI mungkin mengandungi maklumat peribadi, rahsia perdagangan, bahan pelanggan atau maklumat yang dilindungi kerahsiaan undang-undang. Organisasi perlu menetapkan data yang boleh dimasukkan ke dalam perkhidmatan tertentu. Pengguna pula wajar menganggap sistem yang tidak diluluskan sebagai tidak sesuai untuk maklumat sensitif.

Kawalan praktikal untuk AI generatif

Asas yang munasabah ialah menganggap output model sebagai draf, bukannya bukti. Dakwaan fakta yang penting perlu disemak berdasarkan sumber berautoriti. Semakan manusia pula patut diwajibkan bagi keputusan berkaitan perubatan, undang-undang, kewangan, pekerjaan dan keselamatan.

Kawalan yang berguna termasuk penggunaan maklumat daripada sumber yang diluluskan, petikan rujukan, ujian red team, perlindungan kandungan, reka bentuk bersesuaian dengan umur, log audit, pemberitahuan kepada pengguna serta dasar tentang pengendalian data, penggunaan akademik, asal-usul kandungan dan pelepasan hak harta intelek. Panduan kerajaan turut menekankan risiko kandungan tidak tepat atau berat sebelah, pelanggaran privasi, pelanggaran harta intelek dan cabaran integriti akademik.

3. AI agentik: sistem yang boleh bertindak

AI agentik menambah lapisan tindakan. Sesuatu ejen boleh mentafsir matlamat, memecahkannya kepada beberapa langkah, menggunakan alat seperti pelayar web, repositori kod, pangkalan data atau sistem pemesejan, menyemak hasil perantaraan dan meneruskan kerja dalam lingkungan kebenaran yang diberikan.

Inilah yang membezakan ejen daripada chatbot, walaupun kedua-duanya mungkin menggunakan model bahasa besar. Chatbot boleh menyediakan draf e-mel; ejen pula mungkin mencari maklumat, menyediakan mesej, menghantarnya dan mengemas kini sistem lain. Pembantu pengekodan boleh menerangkan pepijat; ejen boleh menyiasat pangkalan kod, mengubah fail, menjalankan ujian dan menyediakan perubahan untuk semakan.

Contoh yang dinamakan dalam pasaran semasa termasuk ejen pembangunan perisian seperti Google Jules, alat aliran kerja pengambilan pekerja seperti LinkedIn Hiring Assistant dan rangka kerja ejen peribadi seperti OpenClaw. Bahan projek OpenClaw menerangkannya sebagai pembantu peribadi sumber terbuka yang berjalan pada peranti pengguna dan bersambung melalui saluran serta alat; keupayaan sebenar sistem itu bergantung pada integrasi dan kebenaran yang diaktifkan pengguna.

Mengapa ejen AI berguna

Sistem agentik berpotensi untuk:

• menyelesaikan aliran kerja, bukan sekadar menyediakan draf tunggal;
• mengurangkan kerja penyelarasan dan pentadbiran rutin;
• menghubungkan maklumat yang bertaburan dalam pelbagai sistem organisasi; serta
• beroperasi secara berterusan dalam had yang ditetapkan.

Keupayaan ini boleh menjadikan aliran kerja yang kompleks lebih mudah dicapai oleh organisasi kecil dan pengguna individu. Namun, persoalan utama berubah daripada “Adakah jawapannya tepat?” kepada “Apakah yang sistem ini dibenarkan lakukan, dan bagaimana tindakannya boleh diperiksa?”

Mengapa autonomi memperluas permukaan risiko

Model generatif boleh memberikan jawapan yang salah. Ejen pula boleh menukar kesimpulan yang salah, arahan berniat jahat atau alat yang telah dikompromi kepada tindakan luaran.

Sebagai contoh, ejen yang mempunyai akses kewangan boleh membuat bayaran, pembelian, pemindahan wang atau pembatalan tanpa kebenaran. Ejen yang mempunyai akses kepada e-mel, pelayar web atau storan awan boleh dimanipulasi oleh laman web atau dokumen berbahaya untuk mendedahkan kelayakan log masuk atau menghantar fail sulit.

Kebenaran yang terlalu luas, kawalan identiti yang lemah dan pengasingan tugas yang tidak mencukupi boleh mengubah kesilapan kecil model menjadi insiden serius. Akauntabiliti juga lebih sukar ditentukan apabila sesuatu hasil muncul daripada interaksi antara model, arahan, data, alat dan ejen lain.

Oleh itu, pengendali sistem perlu melihat bukan sahaja hasil akhir, tetapi juga tindakan yang dicadangkan, bukti di sebaliknya dan kebenaran yang digunakan.

Tadbir urus perlu berkembang seiring keupayaan

Prinsip asas yang sama terpakai untuk ketiga-tiga peringkat: lantik pemilik yang bertanggungjawab, hadkan sistem kepada tujuan yang jelas, lindungi data, uji sebelum pelancaran, pantau prestasi, sediakan pelan menghadapi insiden dan pastikan semakan atau pengambilalihan manusia bermakna bagi keputusan yang memberi kesan besar.

Sistem agentik memerlukan kawalan tambahan kerana ia boleh mempengaruhi sistem luaran. Perlindungan praktikal termasuk:

• kelayakan akses minimum dan terhad masa;
• akaun berasingan serta identiti yang jelas bagi setiap ejen;
• sempadan nyata tentang perkara yang boleh dibaca, ditulis, dihantar, dibeli, dipadam atau digunakan untuk pelancaran oleh ejen;
• gerbang pengesahan bagi tindakan yang tidak boleh diundur atau berimpak tinggi;
• senarai alat yang diluluskan, kotak pasir dan perlindungan daripada serangan suntikan arahan;
• had transaksi dan pengesanan anomali;
• log tindakan yang terperinci dan sukar diubah;
• pengasingan tugas serta kelulusan manusia mengikut tahap risiko; dan
• suis henti atau butang jeda kecemasan yang pantas.

Singapura melancarkan Model AI Governance Framework for Agentic AI pada 22 Januari 2026. Dokumen ini ialah panduan untuk organisasi yang menggunakan sistem tersebut, bukannya undang-undang AI khusus yang berdiri sendiri. Pendekatannya meletakkan akauntabiliti manusia dan organisasi sebagai teras, selain mengesyorkan pengurusan risiko serta kawalan yang sepadan dengan tahap autonomi ejen.

Bagi sektor kewangan, kertas kerja SAFR oleh Monetary Authority of Singapore menerangkan pendekatan tadbir urus masa nyata yang merekodkan perkara yang ingin dilakukan oleh ejen, sebab tindakan itu dicadangkan dan bukti yang menyokongnya.

Kesimpulan: AI berubah daripada membuat keputusan kepada mengambil tindakan

Evolusi AI bukan sekadar peralihan daripada “AI lama” kepada “AI baharu”. Sistem berasaskan peraturan dan ramalan masih pilihan terbaik bagi banyak keputusan yang mempunyai sempadan jelas. AI generatif menambah penghasilan kandungan yang fleksibel serta interaksi menggunakan bahasa semula jadi. AI agentik pula menambah keupayaan mengejar matlamat melalui alat dan tindakan luaran.

Cabaran tadbir urus meningkat seiring keupayaan tersebut. Sistem ramalan memerlukan perhatian terhadap ketepatan, bias dan perubahan data. Sistem generatif memerlukan pengesahan, keselamatan, privasi dan asal-usul kandungan. Sistem yang boleh bertindak memerlukan semua perlindungan itu, ditambah kawalan kebenaran, gerbang kelulusan, akauntabiliti dan pelan pemulihan.

Produk AI yang paling boleh dipercayai bukan sekadar bergantung pada model yang hebat. Ia menggabungkan keupayaan model dengan reka bentuk sistem yang berdisiplin dan pengawasan manusia.