Ketika regulator keuangan sedunia bicara soal AI, biasanya berita itu lewat begitu saja di lini masa kita. Tapi rilis terbaru akhir pekan lalu layak disimak ulang, bahkan kalau usaha Anda sebuah toko online, biro jasa, atau agensi kecil yang mempekerjakan dua sampai sepuluh orang. Pada 15 Oktober 2026, Financial Stability Board (FSB), lembaga penetapan standar global yang mengoordinasikan otoritas keuangan negara-negara anggota G20, menerbitkan laporan final berjudul Sound Practices for Responsible Adoption of Artificial Intelligence. Isinya: dua belas praktik sehat yang dianjurkan bagi institusi keuangan yang mengadopsi AI, dengan satu penekanan keras, yaitu pengawasan manusia (human oversight) terhadap agen otonom alias agentic AI.
Mengapa dokumen setebal ratusan halaman untuk perbankan global relevan untuk UKM Indonesia? Karena FSB baru saja melakukan sesuatu yang jarang dilakukan sebuah lembaga regulator: mengoreksi dirinya sendiri. Dan koreksi itu justru membuktikan apa yang sudah lama diprediksi para praktisi otomatisasi, yaitu bahwa 'karyawan AI' bekerja dengan logika yang berbeda dari karyawan manusia, sehingga cara kita mengawasinya pun tidak bisa disalin dari cara kita mengawasi manusia.
Regulator Menarik Istilah 'Karyawan Sintetis'
Pada Juli 2026, panduan awal FSB sempat menganjurkan institusi keuangan memperlakukan AI sebagai 'synthetic employees' atau karyawan sintetis, entitas yang masuk daftar tenaga kerja dan dievaluasi seperti staf. Dalam laporan finalnya, kerangka itu ditarik. FSB sekarang justru mengingatkan bahwa 'AI agent tidak bernalar seperti manusia' dan bisa menafsirkan tujuan yang kita berikan dengan cara yang tidak kita duga.
Ada satu kalimat yang seharusnya menempel di dinding ruang kerja setiap pemilik usaha yang sedang menjalankan automasi: tindakan dan kapabilitas agen AI dapat berubah dari waktu ke waktu, terutama ketika agen itu mendapatkan akses ke alat baru atau menerima instruksi (prompt) baru. Bayangkan seorang admin yang minggu lalu hanya pegang buku kas, lalu tiba-tiba diberi kunci brankas tanpa siapa pun rapat. Itulah yang terjadi secara harfiah pada agen AI ketika kita menambahkan integrasi WhatsApp, akses spreadsheet, atau tombol 'kirim email otomatis' ke dalam workflow-nya.
Yang Ditakutkan Regulator, Yang Dialami UKM
FSB merinci risiko sistem agen yang sangat otonom: bertindak di luar batas yang diniatkan, eksekusi tanpa izin, insiden keamanan data, sampai gangguan pada sistem yang terhubung. Model-model terbaru, menurut laporan yang sama, juga bisa materially mempercepat dan membesarkan skala serangan siber.
Ini bukan fantasi bank sentral. UKM yang memakai agen AI untuk follow-up prospek WhatsApp pernah mengalami balasan otomatis yang menjanjikan harga keliru ke ratusan kontak. Yang memakai agen untuk penagihan pernah mengirim surat peringatan ke pelanggan yang sudah lunas. Kerusakannya bukan karena AI-nya 'jahat', melainkan karena tidak ada satu pun manusia yang menetapkan: batas mana yang boleh dilewati tanpa persetujuan Anda.
Menariknya, laporan FSB juga mencatat sisi sebaliknya: risiko karena tidak mengadopsi AI, yaitu kalah bersaing dan melemahnya kemampuan mendeteksi ancaman. Pesannya berimbang, bukan anti-AI, melainkan anti-AI-liar.
Lima Disiplin yang Bisa Anda Terapkan Senin Pagi
Dari dua belas praktik sehat FSB, lima di antaranya bisa diterjemahkan langsung ke skala UKM tanpa perlu divisi kepatuhan:
1. Setiap agen punya penanggung jawab bernama. Bukan 'itu urusan sistem'. FSB menyebutnya governance and accountability. Di usaha kecil, artinya sederhana: satu orang, boleh Anda sendiri, yang sah menyalakan, mematikan, dan mengubah cara kerja tiap agen. Analoginya seperti kunci toko: harus jelas di saku siapa.
2. Buat daftar inventaris penggunaan AI. Praktik ketiga FSB mewajibkan dokumentasi penggunaan AI. Cukup satu halaman: agen apa saja yang aktif, tugasnya apa, data apa yang bisa ia sentuh, dan siapa boleh mengubahnya. Agen yang tidak tercatat adalah agen yang akan mengubah sesuatu tanpa Anda sadari.
3. Patuhi prinsip 'pengawasan proporsional'. FSB meminta kedalaman pengawasan disesuaikan dengan tingkat risiko, otonomi, dan kompleksitas tiap kasus AI. Terjemahannya: balasan WhatsApp informatif boleh jalan otomatis; transaksi uang, perubahan harga, dan dokumen legal wajib melewati tombol 'setuju' manusia. Semakin tinggi nilainya, semakin ketat remnya.
4. Uji ulang tiap kali kapabilitas berubah. Inilah disiplin yang paling sering dilupakan, dan justru yang ditekankan revisi FSB. Menambah satu integrasi baru sama dengan memberi 'tangan baru' pada agen yang sama. Setelah tiap perubahan, jalankan sepuluh sampai dua puluh skenario uji, termasuk skenario jahil: apa yang dibalas agen kalau pelanggan minta sesuatu di luar prosedurnya?
5. Perlakukan penyedia AI seperti vendor yang memegang kunci gudang Anda. Praktik kedua belas mengatur risiko pihak ketiga: kualitas data, transparansi, dan kontinuitas bisnis. Sebelum menyerahkan pelanggan Anda pada sebuah platform agen AI, tanyakan: data saya dipakai untuk melatih apa, dan kalau mereka besok tutup, workflow saya pindah ke mana?
Mulai dari SOP, Bukan dari Tool
Perhatikan bahwa kelima disiplin di atas tidak satu pun menuntut teknologi canggih. Semuanya menuntut hal yang sama dengan yang dituntut dari karyawan baru: uraian kerja yang jelas, batas wewenang yang tertulis, dan pemeriksaan berkala yang proporsional. Bedanya, kecepatan dan skalanya. Kesalahan satu admin manual merugikan sepuluh pelanggan; kesalahan satu agen AI bisa merugikan sepuluh ribu dalam sepuluh menit.
Di Arietama, hampir semua implementasi 'Karyawan AI' untuk peserta workshop kami dimulai dari lembar SOP dan titik checkpoint manusia, bukan dari pemilihan model atau platform. Pola yang sama, dalam bahasa regulasi, ternyata kini direkomendasikan FSB untuk industri keuangan global. Bagi pemilik usaha Indonesia, itu kabar baik: standar pengawasan yang benar sudah tersedia, dan Anda bisa mengadopsinya lebih dulu daripada regulator lokal sempat mewajibkannya. Kalau Anda sedang menyusun atau baru mau memulai tim AI di usaha Anda, sesi praktik di program Bikin Karyawan AI kami bisa menjadi cermin untuk mengecek apakah rem dan sabuk pengaman automasi Anda sudah terpasang.
Catatan sumber: Financial Stability Board, 'Sound Practices for Responsible Adoption of Artificial Intelligence: Final Report', 15 Oktober 2026; Reuters, 'Global financial watchdog calls for more human oversight of agentic AI', 15 Oktober 2026; PYMNTS, 'FSB Says Banks Need to Have Company-Wide AI Regulation', 15 Oktober 2026.
Baca juga: Agen AI Kini Punya Nomor Pegawai: Blueprint SK Telecom untuk Mengelola Karyawan AI di Bisnis Anda, 81% CIO Kehilangan Kontrol atas AI Agent Mereka: 4 Disiplin Tata Kelola yang Wajib Ditiru Pemilik Usaha, dan Zero Human Company: UKM Ini Merekrut Karyawan AI Otonom — dan Pindah ke VPS Murahan.