—·
Ketika “agen AI” di smart city mulai mengarahkan operasi jaringan negara, pertanyaan kepatuhan utamanya bukan interoperabilitas, melainkan otorisasi dan kemampuan diaudit lintas lapisan.
Di banyak kampus dan pusat data, AI sudah menjadwalkan penggunaan energi. Namun tingkat taruhannya melonjak ketika “asisten” yang semula hanya memberi saran berubah menjadi penerbit keputusan yang terhubung langsung ke pengiriman (dispatch) di dalam operasi smart city—mengubah perangkat lunak dari sekadar prediktor permintaan menjadi saluran keputusan yang tertanam dalam infrastruktur kritis. Dalam kondisi seperti itu, kesalahan dapat merembet dari manajemen beban listrik hingga prioritas layanan.
Perubahan tersebut tampak dari cara vendor memasarkan penawaran “city intelligent agent” untuk pemerintah dan layanan publik. “City Intelligent Agent Solution” Huawei tahun 2026 dipromosikan sebagai platform yang memanfaatkan data dan AI untuk mendukung workflow tata kelola perkotaan serta kapabilitas “urban intelligence”. Implikasi kepatuhan bukan sekadar urusan branding: bila agen-agen semacam ini dapat memengaruhi bagaimana layanan diprioritaskan saat jaringan berada dalam tekanan, tata kelola harus menetapkan siapa yang boleh menyetujui tindakan, bagaimana tindakan tersebut dicatat, dan bagaimana regulator kemudian dapat memverifikasi apa yang sebenarnya terjadi. (Halaman pers Huawei: (e.huawei.com))
Agar pembaca kebijakan tetap terarah, artikel ini memperlakukan “Chat-to-Process” sebagai pola yang sedang menguat: prompt dalam bahasa alami diterjemahkan menjadi langkah operasional di sistem perusahaan atau pemerintahan. Translasi ini harus diatur seperti perubahan workflow—bukan seperti fitur obrolan.
Jadi apa: anggap penerapan “city intelligent agent” sebagai potensi perubahan pada otoritas keputusan dalam operasi yang bertumpu pada jaringan listrik. Tugas kepatuhan pertama adalah memetakan otorisasi dan pencatatan lintas lapisan, bukan sekadar mendata model-model AI.
Di Uni Eropa, AI Act bertahap memberlakukan kewajiban yang justru menjadi penting ketika dukungan keputusan mulai berdampak nyata secara operasional. Larangan dan kewajiban literasi mulai berlaku sejak 2 Februari 2025, sedangkan sebagian besar ketentuan operasional untuk banyak kategori berlaku mulai 2 Agustus 2026, dengan kewajiban berisiko tinggi tambahan yang diberlakukan bertahap lebih belakangan untuk sebagian use case. (whitecase.com)
Untuk tenaga dan operasi smart city, tanggal-tanggal ini krusial karena siklus pengadaan, siklus validasi, dan persiapan audit tidak dapat dilakukan seketika. Bahkan bila sebuah kota menunda system go-live, perubahan model dan integrasi sering kali dikerjakan berbulan-bulan lebih awal. Jika lapisan jaringan atau operasi publik memakai AI untuk memengaruhi alokasi sumber daya, maka “kapan aturan mulai berlaku” berubah menjadi “kapan bukti tata kelola harus sudah tersedia”.
Di Amerika Serikat, lanskap tata kelola eksekutif cenderung kurang stabil. Halaman NIST mengenai executive order tertanggal 30 Oktober 2023 menyatakan bahwa Executive Order 14110 dicabut pada 20 Januari 2025. (nist.gov) Konsekuensi praktis bagi kepatuhan adalah organisasi tidak dapat menganggap tata kelola eksekutif AS sebagai daftar periksa yang tunggal dan tahan lama. Organisasi harus memantau kebijakan pengadaan dan penggunaan yang mungkin menggantikan persyaratan sebelumnya.
Jadi apa: investor dan regulator sebaiknya memodelkan kepatuhan sebagai jadwal yang bergerak. Di UE, jadwal tersebut relatif mudah dibaca melalui tanggal-tanggal AI Act; di AS, jadwal dapat bergeser mengikuti tindakan eksekutif. Karena itu, bukti tata kelola dan kontrol pengadaan harus dirancang agar tahan terhadap transisi kebijakan.
ISO/IEC 42001 adalah standar sistem manajemen untuk AI. ISO menjelaskannya sebagai standar yang merumuskan cara menetapkan, menerapkan, memelihara, dan meningkatkan secara berkelanjutan sistem manajemen AI—serta mencatat bahwa organisasi dapat mencari sertifikasi sebagai konfirmasi independen. (iso.org) Platform ISO juga menempatkan ISO/IEC 42001:2023 sebagai standar global pertama yang mendefinisikan sistem manajemen AI. (iso.org)
Untuk smart city, pertanyaan kuncinya bukan apakah ISO 42001 “terasa” seperti tata kelola. Pertanyaannya: apakah standar ini mampu memaksa disiplin bukti di sekitar integrasi yang kritis bagi keputusan. Ketika “city intelligent agent” terhubung dengan sistem operasional yang memengaruhi pengelolaan beban, beban tata kelola bergeser dari “risiko model” menjadi “risiko jalur keputusan”. Secara praktis, ini berarti mendemonstrasikan kontrol atas siapa yang bisa mengotorisasi langkah workflow, sumber data apa yang digunakan workflow, bagaimana perubahan ditinjau, dan bagaimana insiden diselidiki setelah penerapan.
Karena ISO/IEC 42001 disusun sebagai sistem manajemen AI, standar ini dapat dipakai sebagai audit backbone. Sertifikasi juga bisa memberi sinyal pihak ketiga untuk investor yang menginginkan sesuatu yang lebih konkret daripada pernyataan kebijakan.
Jadi apa: bila program smart city mengintegrasikan agen Chat-to-Process ke dalam kontrol operasional, ISO 42001 dapat menjadi mesin bukti tata kelola. Minta vendor menunjukkan bagaimana sistem manajemen mereka mengontrol otorisasi, meninjau perubahan, dan menyelidiki insiden untuk jalur keputusan.
Pendekatan Tiongkok pada tata kelola AI mencakup aturan yang mengikat, berfokus pada pencatatan dan akses supervisi. “Interim Measures for the Management of Generative AI Services” diterbitkan bersama oleh Cyberspace Administration of China dan kementerian lain pada 10 Juli 2023, serta mulai berlaku pada 15 Agustus 2023. (regulations.ai)
Salah satu fitur desain kepatuhan yang dijelaskan dalam ringkasan publik adalah penyedia wajib mendukung supervisi dan inspeksi serta memelihara pencatatan/audit trail agar regulator dapat menyelidiki insiden. (dwt.com) Hal ini penting untuk tenaga smart city, karena “city intelligent agent” kemungkinan beroperasi melintasi data, generasi, dan eksekusi workflow. Jika agen dapat menerjemahkan permintaan menjadi tindakan, perhatian regulator akan berkurang pada antarmuka obrolan dan meningkat pada apakah organisasi mampu menjelaskan sumber, skala, serta karakteristik data pelatihan—dan apakah mekanisme algoritmik terdokumentasi untuk pengawasan. (dwt.com)
Timeline Tiongkok juga memperlihatkan realitas kepatuhan bagi vendor global: aturan dapat datang lebih dulu dalam bentuk langkah yang terfokus. Organisasi yang membangun solusi pemerintahan “agentic” karenanya harus menyiapkan bukti tata kelola sejak awal, sebelum sistem meluas skalanya.
Jadi apa: saat agen kota terhubung dengan prioritas layanan operasional, perlakukan ekspektasi pengajuan dan audit trail untuk generative AI ala Tiongkok sebagai contoh mengenai apa yang kelak diminta regulator di yurisdiksi lain. Audit trail bukan sekadar dokumen. Itulah satu-satunya cara merekonstruksi mengapa keputusan berdampak tinggi diambil.
“Governance auditability” dalam konteks ini berarti kemampuan merekonstruksi rantai otoritas dan urutan keputusan sistem setelah kejadian. Untuk smart city yang terikat pada operasi state-grid, rekonstruksi itu harus mencakup banyak lapisan: agen AI yang menafsirkan maksud (sering melalui Chat-to-Process), lapisan orkestrasi yang mengarahkan permintaan ke sistem operasional, logika pendukung keputusan atau kontrol yang menerjemahkan keluaran menjadi tindakan, serta langkah otorisasi manusia atau institusional—jika memang berlaku.
Kemampuan diaudit menjadi lebih sulit ketika agen beroperasi dalam mode semi-otonom. Sebuah natural-language prompt dapat memicu banyak pemanggilan tool atau langkah workflow yang batas-batasnya tidak terlihat bagi pengguna akhir. Karena itu, regulator dan auditor akan mengajukan pertanyaan tata kelola tentang “di mana keputusan terjadi” dan “siapa yang menyetujuinya”. Interoperabilitas bukan medan pertempuran utama—otorisasi dan verifikasi.
Yang berubah dalam sistem smart city berbasis agen adalah granularitas audit: tidak lagi cukup mencatat “AI digunakan”. Diperlukan step-level decision record yang mengaitkan (a) maksud, (b) pemilihan/eksekusi tool, (c) data yang digunakan, (d) ambang batas dan guardrails, serta (e) persetujuan, ke satu jejak yang dapat direkonstruksi.
Untuk kontrol tenaga yang kritis bagi keputusan, rancang jejak bukti pada checkpoints berikut:
Pemosisian pasar memberi hook untuk argumen ini: pemosisian Huawei atas “City Intelligent Agent Solution” tahun 2026 mengisyaratkan pasar bergerak menuju “urban intelligence” berbasis agen yang mendukung workflow tata kelola. (e.huawei.com) Namun pemosisian pasar tidak identik dengan desain kontrol. Materi publik jarang membuka pencatatan per langkah atau antarmuka persetujuan; celah itulah yang akan menjadi fokus audit.
Jadi apa: wajibkan artefak “governance auditability” sebagai contractual deliverables—khususnya step-level decision traces yang memungkinkan merekonstruksi (1) apa yang diotorisasi, (2) apa yang dieksekusi, (3) data serta versi kontrol apa yang digunakan, dan (4) apakah hasil telah diverifikasi terhadap telemetry, termasuk failure modes serta persetujuan pengesampingan (override approvals) untuk tindakan yang memengaruhi pengelolaan beban atau alokasi prioritas.
Meski regulator berbeda pendapat mengenai metode, kebutuhan kemampuan diaudit dapat “berjalan” lintas rezim karena ia menjawab pertanyaan sistemik yang sama: apakah institusi dapat membuktikan bahwa ia telah mengelola? Dalam istilah UE, tata kelola dan penegakan dikoordinasikan melalui struktur terpusat AI Act, termasuk Kantor AI tingkat UE di bawah Komisi. Komisi menjelaskan Kantor AI dibentuk untuk memastikan implementasi dan penegakan yang koheren. (commission.europa.eu) Halaman Komisi yang terpisah merinci tata kelola dan penegakan AI Act, dengan penekanan serupa pada pengawasan oleh Kantor AI. (digital-strategy.ec.europa.eu)
Bagi investor, ini bukan perkara akademis. Vendor agen smart city yang menyediakan bukti jalur keputusan dalam format yang selaras dengan ekspektasi audit UE sering kali dapat mengurangi pekerjaan ulang saat men jual ke tempat lain, karena jenis buktinya mirip: dokumentasi, traceability, pemantauan, dan akuntabilitas lintas lifecycle.
Di Tiongkok, disiplin tanggal efektif lebih jelas: langkah generative AI yang mengikat berlaku mulai Agustus 2023 dengan penekanan pada mitigasi risiko, transparansi kepada pengguna, kanal pengaduan/pemulihan, serta pencatatan untuk pengawasan. (regulations.ai) Di AS, tata kelola eksekutif bergeser: pencabutan EO 14110 pada 20 Januari 2025 menandakan organisasi tidak bisa mengandalkan daftar eksekutif yang statis untuk kepatuhan jangka panjang. (nist.gov) Sebaliknya, organisasi harus memastikan kontrol pengadaan dan tata kelola internal dapat diperbarui dengan cepat saat kebijakan berubah.
Jadi apa: bangun “audit portability”. Jaga paket bukti tata kelola agar dapat dipetakan ke timeline AI Act UE, persyaratan sistem manajemen ISO 42001, serta ekspektasi pengajuan dan audit trail bergaya Tiongkok. Tujuannya mencegah kepatuhan berubah menjadi penulisan ulang per negara yang melelahkan.
Tahap mulai berlakunya AI Act UE menciptakan tekanan perencanaan yang nyata. Larangan dan kewajiban terkait berlaku sejak 2 Februari 2025, sementara banyak ketentuan operasional mulai dari 2 Agustus 2026. (whitecase.com) Rilis pelaporan dan panduan terkait general-purpose AI juga menandakan regulator bergerak dari “teks aturan” menuju kesiapan penegakan untuk kategori model tersebut. (apnews.com)
Hasil dan timeline: organisasi yang mengintegrasikan AI ke jalur keputusan layanan publik dan infrastruktur kritis harus menjadwalkan pembuatan bukti sebelum tanggal operasional. Walau kapasitas penegakan dapat meningkat belakangan, risiko tata kelola mulai saat sebuah sistem memengaruhi keputusan.
Sumber: rujukan berbasis Komisi dan timeline hukum yang disebut di atas. (whitecase.com)
NIST menyatakan bahwa EO 14110 (ditetapkan pada 30 Oktober 2023) dicabut 20 Januari 2025. (nist.gov) Dokumen White House menjelaskan bahwa kebijakan tersebut mengarahkan peninjauan terhadap kebijakan yang diambil berdasarkan EO yang dicabut. (whitehouse.gov)
Hasil dan timeline: tim tata kelola yang mengandalkan satu kerangka eksekutif harus menetapkan ulang baseline manajemen risiko dan kontrol pengadaan internal. Ini penting untuk penerapan smart city karena institusi publik sering membeli melalui kontrak vendor standar yang menuntut bukti tata kelola yang berkelanjutan.
Sumber: halaman NIST dan White House. (nist.gov)
Langkah interim Tiongkok mulai berlaku 15 Agustus 2023, dengan struktur pengajuan dan akuntabilitas yang dijelaskan dalam ringkasan publik. (regulations.ai) Kerangka kepatuhan mencakup fitur auditability yang dirancang untuk memungkinkan supervisi dan investigasi insiden. (dwt.com)
Hasil dan timeline: organisasi yang menerapkan layanan generative AI untuk fungsi yang menghadap publik memiliki tanggal mulai kepatuhan yang jelas, sehingga mendorong mekanisme bukti dan pengawasan lebih awal dalam lifecycle dibanding yang diperkirakan banyak vendor global.
Sumber: ringkasan langkah interim Tiongkok dan analisis hukum. (chinalawtranslate.com)
Publikasi daring pemerintah Shenzhen menggambarkan adopsi layanan berbasis DeepSeek untuk mempercepat tata kelola cerdas, dengan mengutip pejabat mengenai penggunaan model besar untuk mengubah proses layanan pemerintahan. (sz.gov.cn) Walau ini bukan pengungkapan kontrol jaringan, ini menunjukkan bagaimana workflow layanan pemerintahan diperkaya oleh model besar dalam praktik. Secara terpisah, pemberitaan mengenai kekhawatiran keamanan siber terkait penggunaan DeepSeek di pemerintahan menyoroti isu akses data dan kepatuhan dalam konteks pemerintah. (apnews.com)
Hasil dan timeline: adopsi model besar dalam layanan pemerintahan meningkatkan pentingnya aturan auditability dan otoritas data—karena tantangan tata kelolanya bukan sekadar “model apa yang digunakan”, melainkan “model itu diizinkan menyentuh apa” dan “bagaimana keluaran model tersebut diautentikasi sebelum memicu perubahan operasional”. Saat sistem diterapkan untuk administration workflows, momen yang paling sensitif terhadap audit terjadi pada titik serah (handoffs): (1) ketika keluaran model dikonversi menjadi tindakan terstruktur, dan (2) ketika tindakan tersebut diotorisasi untuk dieksekusi di sistem hilir.
Secara praktis, contoh Shenzhen menyoroti masalah urutan kepatuhan untuk peluncuran agen smart city: onboarding model terjadi lebih dulu (integrasi dan penyediaan akses), pola eksekusi agen muncul berikutnya (prompt/workflow yang secara andal menghasilkan keluaran yang dapat ditindaklanjuti), namun bukti yang bersifat otoritatif sering tertinggal, kecuali pencatatan, persetujuan, dan data-access provenance dirancang sejak tahap integrasi.
Jika pada akhirnya agen cerdas kota memengaruhi keputusan operasional di bawah kendala jaringan, beban audit yang sama ikut meningkat: bukti bahwa organisasi mengendalikan akses data, memvalidasi keluaran untuk konteks operasional yang spesifik, serta menangkap otorisasi dan verifikasi pasca-eksekusi menjadi pembeda antara tata kelola dan sekadar administrasi.
Sumber: publikasi pemerintah Shenzhen, serta respons kebijakan keamanan siber yang diberitakan. (sz.gov.cn)
Jadi apa: terlepas dari lokasi, semua kasus ini bertemu pada konsekuensi lanjutan yang sama: ketika AI masuk ke jalur keputusan operasional, deliverable kepatuhan berubah menjadi “bukti otoritas dan verifikasi”, bukan hanya “bukti keselamatan model”.
Regulator dan otoritas pengadaan kerap menekankan standar interoperabilitas. Namun kontrol tenaga smart city mengarah pada poin berbeda: bila beberapa sistem berkolaborasi dan agen dapat memicu tindakan, risiko tata kelolanya adalah siapa yang dapat mengotorisasi dan siapa yang dapat memverifikasi. “Interoperabilitas” tanpa gerbang otorisasi menciptakan rantai alat yang tidak dapat diaudit di kemudian hari.
Menjelang saat kewajiban berisiko tinggi meningkat pada 2026, otoritas kompeten nasional yang bekerja melalui arsitektur tata kelola AI Act UE seharusnya mensyaratkan, untuk sistem AI yang digunakan dalam manajemen operasional otoritas publik, paket “authorization and verification log” yang distandardisasi dan dipetakan ke ekspektasi pengawasan Kantor AI. Kantor AI adalah pusat tingkat UE untuk penegakan yang koheren. (digital-strategy.ec.europa.eu)
Tindakan: minta panduan implementasi agar pihak penerap mendokumentasikan batas otoritas keputusan untuk langkah operasional yang dipengaruhi AI, termasuk workflows yang dipicu agen. Bukti harus dibuat sebelum sistem menjadi berpengaruh, bukan setelah insiden terjadi. Minimal, paket log harus mencakup: (1) catatan persetujuan pra-eksekusi (identitas aktor, peran, tindakan dan ruang lingkup otorisasi, jendela validitas), (2) jejak eksekusi (identitas versi tool/ workflow, parameter, dan rujukan data hulu), (3) hasil guardrail/constraint termasuk setiap override dan siapa yang menyetujuinya, serta (4) bukti rekonsiliasi (rekaman telemetri atau bukti operasional yang mengonfirmasi efek tindakan tersebut). Ini mengubah auditability dari klaim naratif menjadi objek audit yang dapat direkonstruksi—dan dapat diuji melalui sampel.
Karena EO 14110 dicabut pada 20 Januari 2025, institusi AS sebaiknya menetapkan standar kontrak yang tahan terhadap gejolak eksekutif: mewajibkan vendor menyerahkan artefak auditability (siapa yang mengotorisasi, apa yang dieksekusi, bagaimana hasil dipantau) sebagai syarat untuk penerapan federal dan yang berdekatan dengan negara bagian—khususnya yang menyentuh jalur keputusan infrastruktur kritis. (nist.gov)
Tindakan: tim perolehan/akuisisi di OMB dan lembaga-lembaga perlu memperbarui klausa pengadaan agar mencerminkan kebutuhan auditability jalur keputusan bahkan ketika perintah AI eksekutif berubah.
Bagi investor yang mendanai platform smart city, diwajibkan perusahaan portofolio menyelaraskan bukti tata kelola dengan disiplin sistem manajemen ala ISO/IEC 42001, mengingat ISO memosisikan standar sebagai sistem manajemen dengan ketersediaan sertifikasi. (iso.org)
Tindakan: perlakukan audit sistem manajemen yang selaras ISO sebagai kebutuhan due diligence untuk penerapan di mana agen smart city dapat memengaruhi prioritas operasional.
Dalam 12 hingga 24 bulan ke depan, regulator kemungkinan bergerak dari dokumentasi yang berfokus pada model menuju persyaratan auditability yang berfokus pada workflow untuk sistem agentic yang dapat menerjemahkan permintaan menjadi langkah operasional (Chat-to-Process). Timeline UE sudah memaksa organisasi menyiapkan bukti untuk fase penegakan yang dimulai 2 Agustus 2026 bagi banyak kewajiban operasional. (whitecase.com) Secara paralel, tata kelola AS kemungkinan tetap kurang preskriptif di tingkat eksekutif, sehingga auditability didorong masuk ke standar pengadaan dan kebijakan internal lembaga sebagai jalur yang paling tahan lama. (nist.gov)
Menjelang pertengahan hingga akhir 2027, auditor kemungkinan tidak lagi bertanya “model apa yang digunakan”, melainkan “siapa yang mengotorisasi jalur keputusan dan apakah dapat direkonstruksi”—sebab dalam kontrol tenaga smart city, medan pertempuran sesungguhnya adalah otorisasi dan verifikasi, yang dicatat cukup baik untuk diuji saat disorot.