Ismail Amla dari Kyndryl membahas kebijakan baru perusahaan sebagai proses kode, dan bagaimana kebijakan tersebut dapat membantu mengatasi masalah AI seperti penyimpangan agen.
Terkait penerapan AI di perusahaan, permasalahan kepatuhan menjadi semakin penting.
Menurut Laporan Kesiapan Kyndryl yang terbaru, 31 persen pelanggan perusahaan menyebutkan masalah peraturan atau kepatuhan sebagai hambatan utama yang membatasi kemampuan organisasi mereka untuk meningkatkan investasi teknologi terkini.
Tahun 2026 menandai titik penting dalam lini waktu kepatuhan AI, dengan berlakunya aturan transparansi UU AI UE pada bulan Agustus.
Bulan lalu, Kyndryl mengumumkan ‘kemampuan kebijakan sebagai kode’ barunya – sebuah proses baru yang dirancang untuk menciptakan alur kerja AI agen yang diatur oleh kebijakan untuk perusahaan.
“Kebijakan sebagai kode adalah proses menerjemahkan peraturan, kebijakan, dan persyaratan kepatuhan organisasi ke dalam kode yang dapat dibaca mesin, sehingga sistem AI dibatasi hanya untuk beroperasi dalam batasan yang telah ditentukan sebelumnya,” jelas Ismail Amla, wakil presiden senior di Kyndryl Consult. “Pakar manusia terus mengawasi semua aktivitas yang terkait dengan proses ini.”
Desain yang sesuai
“Banyak organisasi, terutama yang berada di lingkungan yang kompleks dan diatur dengan ketat, ingin meningkatkan skala AI agen, namun terhambat oleh kekhawatiran seputar keamanan, kepatuhan, dan kontrol”, kata Amla.
Berbicara kepada SiliconRepublic.com, dia mengatakan kebijakan sebagai kode dapat membantu organisasi mendukung “interpretasi kebijakan yang konsisten” dan menentukan batasan operasional yang jelas, kemudian memastikan tindakan agen dapat dijelaskan, ditinjau, dan “selaras dengan standar organisasi”.
Amla juga mengatakan bahwa kerangka kerja ini dapat membantu mengurangi biaya, mempercepat pengambilan keputusan, menghilangkan kesalahan, dan “mendukung alur kerja asli AI dalam batasan kebijakan yang ditentukan”.
“Dengan memasukkan persyaratan kebijakan dan peraturan langsung ke dalam operasi agen AI, kebijakan sebagai kode dapat membantu organisasi menjalankan alur kerja AI yang diatur, transparan, dapat dijelaskan, dan selaras dengan kebutuhan bisnis.”
Namun bagaimana dengan penerapan kebijakan sebagai kode jangka panjang?
Amla mengatakan manfaat utama dari proses ini adalah “kepercayaan melalui tata kelola yang lebih kuat, transparansi yang lebih baik, risiko operasional yang lebih rendah, dan AI yang lebih andal dalam skala besar”.
“Mengelola eksekusi alur kerja agen dengan cara ini mendukung penerapan agen AI yang dibatasi oleh kebijakan secara terkendali dan bertanggung jawab di sektor-sektor seperti operasi keuangan, layanan publik, rantai pasokan, dan domain penting lainnya, yang mengutamakan keandalan dan prediktabilitas,” jelasnya.
Tangkap arusnya
Selama setahun terakhir, menurut Amla, perubahan terbesar yang ia lihat dalam adopsi AI adalah bahwa organisasi-organisasi bergerak lebih dari sekadar pembuktian konsep dan “berfokus lebih serius pada apa yang diperlukan untuk membuat AI berfungsi dalam produksi dan dalam skala besar”.
“Itu berarti lebih banyak perhatian pada infrastruktur, tata kelola, kualitas data, dan kesiapan organisasi,” katanya. “Organisasi beralih dari eksperimen ke pengambilan keputusan yang lebih strategis berdasarkan pengalaman yang mereka peroleh untuk mendorong hasil dan kinerja yang bernilai lebih tinggi bagi organisasi mereka, dan menerima laba atas investasi mereka.”
Namun dengan meningkatnya fokus pada integrasi AI yang serius, terdapat risiko, terutama jika organisasi tidak sepenuhnya siap.
Amla memperingatkan tentang sesuatu yang disebut ‘agentic drift’, yang mengacu pada saat agen AI terlihat dapat diandalkan saat berupaya mencapai hasil yang tidak diinginkan karena pemisahan bertahap dari maksud atau tujuan awal operator agen.
“Agentic drift menciptakan tantangan yang mendesak bagi semua organisasi, namun hal ini terutama terjadi di sektor publik dan sektor yang memiliki peraturan ketat, seperti perbankan dan layanan kesehatan,” kata Amla.
“Dalam industri-industri ini, organisasi tidak dapat beralih dari tahap uji coba ke tahap produksi jika masalah seputar kontrol, kepercayaan, dan kepatuhan masih belum terselesaikan. Jelas bahwa perusahaan sangat membutuhkan cara untuk membatasi apa yang dapat dilakukan agen pada saat runtime dan menutup kesenjangan tata kelola jauh sebelum penyimpangan tersebut menyebabkan kegagalan finansial atau kepatuhan.”
Amla percaya bahwa kebijakan sebagai kode dapat membantu mengatasi masalah ini, karena kemampuannya memungkinkan perusahaan menerjemahkan aturan dan kebijakan mereka ke dalam instruksi yang dapat dibaca mesin yang “mengatur cara agen AI berpikir, beradaptasi, dan bertindak”.
“Ini sangat mengurangi risiko penyimpangan agen,” katanya. “Hal ini juga mengurangi kekhawatiran mengenai kepercayaan dan kepatuhan antara perusahaan besar dan laba atas investasi AI mereka.”