—·
NHTSA dan regulator Eropa menggeser fokus: bukan sekadar akurasi persepsi—melainkan apa yang harus dilakukan operator jarak jauh, bukti yang harus ada, aturan eskalasi, dan skor keselamatan yang bisa diaudit.
Isyarat paling terang untuk “AI dalam kendaraan otonom” bukanlah skor tolok ukur yang lebih tinggi—melainkan makin tegasnya tuntutan agar sistem mengemudi otonom (ADS) diperlakukan sebagai sistem operasional yang keselamatannya bersifat kritis, termasuk saat logika mesin tidak dapat melanjutkan dengan aman dan operator bantuan jarak jauh harus turun tangan.
Forum National AV Safety Forum yang diselenggarakan NHTSA membuat bingkai itu eksplisit: bantuan jarak jauh diposisikan sebagai fungsi “penjembatan” antara logika mesin dan realitas perkotaan yang kompleks. Namun, forum yang sama juga menyoroti tantangan keselamatan yang melekat, mulai dari latensi jaringan, kerentanan siber, hingga faktor manusia seperti kemampuan operator mempertahankan situational awareness (kesadaran situasional). (nhtsa.gov)
Perubahan ini penting karena debat keselamatan sedang bergeser dari pertanyaan “apakah AI melihat dengan benar?” menuju “apakah sistem—dan organisasi yang menjalankannya—tahu apa yang harus dilakukan berikutnya, dengan bukti yang dapat diaudit?” Dengan kata lain, bottleneck otonomi tidak lagi semata-mata soal pelatihan, fusi data, atau komputasi. Bottleneck tersebut kini adalah kompetensi AI operasional: protokol eskalasi, kompetensi perilaku, kebutuhan bukti, serta kriteria keselamatan yang dapat diukur—dan yang dapat diaudit regulator baik saat runtime maupun setelah kejadian.
Perubahan ini sudah terlihat pada instrumen regulasi yang menempatkan pelaporan insiden dan pengawasan sebagai bagian dari arsitektur keselamatan, bukan sekadar tata kelola kepatuhan yang ditempatkan belakangan. Standing General Order (SGO) NHTSA tentang pelaporan kecelakaan dirancang untuk mendapatkan pemberitahuan insiden secara tepat waktu yang memungkinkan evaluasi terhadap potensi cacat keselamatan pada ADS dan sejumlah sistem bantuan pengemudi tingkat 2 tertentu. (nhtsa.gov)
Dan ketika tata kelola gagal, konsekuensi mengikuti. Dalam consent order NHTSA tertanggal 30 September 2024, Cruise menyetujui denda US$1,5 juta yang terkait kegagalan pelaporan penuh atas kecelakaan yang melibatkan pejalan kaki—sebuah pengingat bahwa tata kelola keselamatan mencakup “administrasi di bawah tekanan”, bukan hanya perilaku kendaraan. (nhtsa.gov)
Cara yang berguna untuk memahami ekspektasi regulasi yang muncul adalah memetakan AI stack ke kompetensi perilaku yang dapat dijalankan, diamati, dan dinilai—bahkan ketika model tidak sepenuhnya yakin.
Pada ADS, fungsi AI yang relevan keselamatan biasanya mencakup persepsi, prediksi, dan pengambilan keputusan. Namun, tata kelola memperkenalkan elemen keempat yang sering luput dari narasi yang terlalu berorientasi performa: perilaku eskalasi dan intervensi—yaitu kapan dan bagaimana operator bantuan jarak jauh (atau mekanisme fallback lain) mengambil alih atau membantu sistem menghadapi situasi yang tidak terduga.
Forum publik NHTSA secara langsung mengarah pada panduan masa depan terkait “remote assistance”, “ADS behavioral competencies”, serta perubahan pada lanskap AV sejak 2017—tanda bahwa kompetensi perilaku mulai diperlakukan sebagai objek regulasi tersendiri. (nhtsa.gov)
Dari sisi tata kelola, pendekatan AS bergerak menuju cara yang lebih terstruktur dalam menunjukkan safety assurance. Pimpinan NHTSA menekankan kebutuhan akan “safety cases” dan “safety management systems”, serta mengaitkannya langsung dengan bagaimana pengembang menggunakan bantuan jarak jauh ketika menghadapi keadaan yang tak terduga atau menantang. (nhtsa.gov)
Sementara itu, arah regulasi Uni Eropa membuat poin “auditability” menjadi lebih tajam dengan memasukkan tuntutan dokumentasi, traceability, dan pengawasan manusia untuk sistem AI berisiko tinggi. Dalam Article 14 Undang-Undang AI UE, “human oversight” dimaksudkan untuk mencegah atau meminimalkan risiko bagi kesehatan dan keselamatan yang persisten bahkan setelah penerapan persyaratan lain. Artikel tersebut juga mengarah pada mekanisme yang memungkinkan orang yang ditugaskan untuk pengawasan dapat melakukan intervensi secara tepat. (artificialintelligenceact.eu)
Perubahan editorial yang tersirat di sini sederhana namun fundamental: “kompetensi” operator dalam audit bukan hanya soal keberadaan bantuan jarak jauh. Regulator ingin melihat bahwa bantuan jarak jauh dapat ditunjukkan berulang kali bekerja dalam kondisi yang terdegradasi—misalnya saat komunikasi tertunda, ketika persepsi kendaraan tidak pasti, atau ketika pandangan operator tidak utuh karena latensi atau keterbatasan tooling.
Secara keseluruhan, arahnya konsisten: regulator ingin melihat bagaimana sistem berperilaku ketika ia salah, ragu, atau kondisi konektivitas memburuk—dan mereka menginginkannya sebagai bukti, bukan sebagai keyakinan. Yang penting, bukti tersebut diharapkan terhubung ke decision points: timestamp, pemicu eskalasi, dan alasan yang terdokumentasi—bukan hanya ringkasan setelah insiden.
Melatih model dengan baik hanya separuh pekerjaan. Separuh lainnya adalah kompetensi operasional: prosedur yang merinci tanggung jawab operator, perilaku antarmuka, ambang eskalasi, dan hasil fallback ketika komunikasi menurun.
Riset tentang teleoperasi dan sistem dukungan jarak jauh juga mencerminkan hal itu: kerangka kerja teleoperasi menggambarkan peran pusat kendali dan transisi status yang harus diuji serta divalidasi untuk penggunaan di jalan umum. (arxiv.org)
Dengan demikian, tata kelola menjadi pertanyaan systems engineering—bukan sekadar pertanyaan AI. Produk yang diregulasi bukan hanya modelnya, melainkan loop sosio-teknis: operator mengamati, memutuskan, melakukan eskalasi, dan menghasilkan catatan yang dapat ditinjau.
Bantuan jarak jauh sering diperlakukan sebagai detail implementasi. Namun, agenda forum NHTSA membingkainya sebagai fungsi penting yang menjembatani logika mesin dan realitas perkotaan—yang berarti kini bagian dari safety case, bukan sekadar fitur dukungan pelanggan. (nhtsa.gov)
Pembingkaian ulang ini mengubah apa yang dianggap sebagai “AI yang relevan keselamatan”. Peran operator bukan sekadar pengamat pasif; operator adalah aktor yang membuat keputusan dan memberi bantuan, sehingga harus mempertahankan kesadaran situasional di bawah batasan seperti latensi jaringan dan risiko siber. Agenda forum tersebut secara spesifik mencantumkan tantangan keselamatan itu—implikasinya, protokol intervensi operator akan dinilai ketangguhannya pada kondisi operasional nyata. (nhtsa.gov)
Dan begitu bantuan jarak jauh diperlakukan sebagai isu keselamatan yang serius, tata kelola menjadi sarat bukti. SGO NHTSA sudah mengoperasionalkan bukti insiden melalui kewajiban pelaporan kecelakaan. (nhtsa.gov)
Dari perspektif penegakan, consent order Cruise menunjukkan bahwa rantai bukti bisa dikenai penalti bila kewajiban pelaporan tidak dipenuhi. NHTSA menjelaskan adanya dua kegagalan pelaporan terkait kecelakaan 2 Oktober 2023 ketika kendaraan Cruise yang beroperasi tanpa pengemudi menyeret pejalan kaki sekitar 20 kaki sebelum berhenti. NHTSA juga mendokumentasikan tujuan korektif consent order tersebut. (nhtsa.gov)
Dari sisi tata kelola, “kapan harus intervensi” mestinya dapat diukur: bukan “operator dapat membantu”, melainkan “operator melakukan intervensi pada kondisi X dengan bukti Y dan outcome Z”.
Bahkan klaim kapabilitas operator pun harus terhubung pada outcome insiden dan tingkat eskalasi. Regulator makin siap menuntut traceability seperti itu.
Untuk membuatnya lebih konkret, biasanya regulator mencari tiga audit artifacts yang saling terhubung:
Bukti pemicu eskalasi — kondisi sistem yang dapat diamati atau sinyal antarmuka apa yang memulai eskalasi (misalnya ambang ketidakpastian tertentu, hilangnya lokalisasi, atau flag “handover requested”), beserta timestamp dan konfigurasi sistem yang diberi versi.
Bukti tindakan operator — apa yang dilakukan operator setelah eskalasi (misalnya mengeluarkan kelas perintah tertentu, mengambil alih mode kontrol tertentu, meminta fallback, atau melakukan eskalasi ke tingkat yang lebih tinggi). Termasuk alasan yang diwajibkan prosedur operator untuk dicatat.
Bukti outcome — perubahan apa yang terjadi pada keadaan lalu lintas setelahnya, serta apakah margin keselamatan yang diklaim tetap terjaga (atau justru dilanggar). Ini memungkinkan regulator menguji apakah bantuan jarak jauh berfungsi seperti mekanisme keselamatan, bukan sekadar penjelasan naratif.
Poin penting: “bukti” di sini bukan sinonim dari “laporan insiden sudah ada”. Rekam penegakan menunjukkan regulator memberi penalti pada pelaporan yang tidak lengkap atau keliru. Artinya, jejak audit harus diproduksi secara sistematis—bukan direkonstruksi setelah kejadian.
AS juga secara eksplisit menyebut adanya kekosongan pada standar kompetensi automated driving system. NHTSA menyatakan belum memiliki standar untuk kompetensi sistem pengemudian otomatis, sehingga kendaraan yang memenuhi FMVSS yang berlaku tetap dapat dideploy di jalan umum. Pernyataan ini menjadi alasan mengapa safety assurance harus mencakup lebih dari sertifikasi tradisional; ia harus memasukkan kompetensi operasional. (nhtsa.gov)
Kasus Cruise bukan semata-mata kisah tentang bantuan jarak jauh; ia juga peringatan kelembagaan: ketika mekanisme tata kelola tidak mampu menghasilkan bukti yang benar, regulator akan meningkatkan level penegakan. Denda moneter US$1,5 juta pada 2024 adalah penanda nyata bagaimana kepatuhan dan pelaporan insiden dapat menjadi pusat ekspektasi safety assurance. (nhtsa.gov)
Jika bottleneck otonomi adalah kompetensi operasional, maka tata kelola membutuhkan jangkar yang terukur. Tiga data dari sumber regulasi dan pelaporan yang relevan menunjukkan bagaimana jejak audit sedang menjadi sesuatu yang bisa dikuantifikasi—dan mengapa logika “safety scoring” kemungkinan besar akan mengikuti.
Pada September 2024, NHTSA mengumumkan consent order di mana Cruise menyetujui denda US$1,5 juta yang terkait pelaporan penuh kecelakaan yang melibatkan seorang pejalan kaki. (nhtsa.gov)
Tahun: 2024.
Makna bagi tata kelola: regulator sedang mematok biaya rantai bukti yang tidak lengkap, yang pada akhirnya mendorong pengembang memperlakukan pelaporan, dokumentasi insiden, dan penanganan berbasis bantuan operator sebagai komponen sistem keselamatan.
Consent order NHTSA menjelaskan bahwa pejalan kaki diseret sekitar 20 kaki sebelum kendaraan berhenti. (nhtsa.gov)
Tahun: 2024 (menceritakan kecelakaan 2 Oktober 2023).
Makna: lapisan tata kelola membutuhkan bukti yang presisi untuk menganalisis pengambilan keputusan operasional dan perilaku eskalasi—bukan hanya “terjadi kecelakaan”.
Halaman SGO NHTSA mencatat bahwa per 30 Desember 2024, maksimum denda sipil dapat mencapai US$139.356.994 untuk rangkaian pelanggaran terkait (dengan maksimum per hari yang disebutkan US$27.874 per pelanggaran per hari). (nhtsa.gov)
Tahun: 2024.
Makna: plafon penalti yang tinggi mendorong pengelolaan bukti operasional yang lebih disiplin dan klasifikasi insiden yang konsisten—kondisi yang membuat safety scoring dan proses audit menjadi memungkinkan.
Gabungan tiga angka tersebut menunjukkan lintasan tata kelola: jika bukti insiden sudah berisiko tinggi, maka kompetensi AI operasional akan berkembang menuju artefak safety assurance yang dapat diukur (misalnya distribusi waktu eskalasi, kepatuhan batas intervensi, serta skor kelengkapan bukti setelah insiden).
Agar argumen ini tidak berhenti pada prosa kebijakan, berikut empat kasus konkret yang memperlihatkan bagaimana bukti, pengawasan, dan proses yang terkait operator menjadi keluaran tata kelola yang nyata.
Mengapa relevan bagi tata kelola bantuan jarak jauh: meskipun kendaraan dirancang beroperasi secara otonom, sistem keselamatan tetap mencakup bukti insiden dan rencana tindakan korektif—keduanya bergantung pada proses operasional yang sering dipengaruhi oleh bantuan jarak jauh dan kebiasaan eskalasi. Sengketanya bukan hanya soal perilaku kendaraan, melainkan apakah produksi bukti operasional organisasi mampu bertahan terhadap peninjauan regulator.
Mengapa relevan bagi tata kelola: pelaporan insiden diubah menjadi subsistem kepatuhan yang dapat diukur—membuatnya lebih realistis untuk mengaudit apakah safety case (termasuk perilaku eskalasi operator) tetap kokoh dari waktu ke waktu. Poin praktisnya bagi program bantuan jarak jauh: “apa yang terjadi” menjadi tak terpisahkan dari “apa yang dilaporkan”, sehingga perusahaan dipaksa membangun alur eskalasi yang menghasilkan bukti siap ditinjau regulator.
Mengapa relevan bagi tata kelola: ini memperlihatkan cara berpikir berbasis bukti operasional yang regulator harapkan—operator dan proses insiden bukan hanya soal respons, melainkan juga mengumpulkan bukti, mendokumentasikan tingkat keparahan, serta memungkinkan pelaporan insiden dan analisis lanjutan. Pelajaran tata kelola bagi bantuan jarak jauh: upaya transparansi sukarela tetap harus dipetakan ke ekspektasi audit (ketertelusuran, kelengkapan, dan konsistensi), karena itulah yang akan dibandingkan regulator dan auditor eksternal.
Mengapa relevan bagi tata kelola: hal ini menandakan bahwa perusahaan mulai memperlakukan bantuan jarak jauh sebagai bagian dari ekosistem safety case yang dapat diaudit—sejalan dengan minat regulator pada batas perilaku operator dan kebutuhan bukti. Inti yang lebih dalam: audit independen menerjemahkan “kompetensi operasional” dari proses internal menjadi klaim yang dapat diuji secara eksternal—persis cara agar tata kelola perilaku eskalasi menjadi tahan lama, bukan sekadar deklaratif.
Jika regulator bergerak menuju kompetensi AI operasional, pertanyaannya menjadi: struktur apa yang mampu membuat audit menjadi siap?
Di sisi UE, persyaratan pengawasan manusia pada Article 14 menekankan mekanisme yang membantu pihak pengawasan memutuskan kapan harus intervensi untuk mencegah atau meminimalkan risiko. (artificialintelligenceact.eu) Ini belum sepenuhnya berupa “uji kompetensi operator”, tetapi merupakan kerangka hukum bagi ketertelusuran.
Di sisi AS, NHTSA secara eksplisit berargumen untuk pendekatan safety-case dan safety management systems, serta mengaitkannya dengan bagaimana bantuan jarak jauh digunakan pada situasi yang tak terduga. (nhtsa.gov) Suara institusional yang sama juga menyoroti mismatch antara kepatuhan kendaraan tradisional (FMVSS) dan “kompetensi automated driving system”. Ini menegaskan bahwa tata kelola memerlukan lapisan tambahan di luar sertifikasi. (nhtsa.gov)
Arah yang masuk akal adalah regulator meminta keluarga bukti yang menghubungkan peristiwa operasional ke klaim AI. Contohnya:
Pendekatan semacam itu selaras dengan pemikiran assurance-case yang berkembang di domain keselamatan kritis—meskipun tidak semua standar saat ini spesifik otomotif. Untuk kerangka manajemen risiko AI, NIST AI Risk Management Framework (AI RMF 1.0) banyak dipakai sebagai struktur pengorganisasi bagi dokumentasi siklus hidup risiko AI dan konsep pengukuran. (nvlpubs.nist.gov)
Dan dalam istilah rekayasa standar, pemodelan structured assurance-case adalah metode yang dikenal untuk mengubah klaim menjadi argumen yang didukung bukti, seperti Object Management Group Structured Assurance Case Metamodel (SACM). (omg.org)
Poin editorial yang menentukan: apa pun format pastinya, regulator kian ingin kompetensi operasional dapat didemonstrasikan—dan “didemonstrasikan” berarti diaudit.
Tata kelola keselamatan berubah ketika cooperative driving ikut dipertimbangkan. V2X dan cooperative driving memperluas ekosistem yang harus dipahami ADS, sekaligus memperluas kebutuhan bukti tentang bagaimana sistem berperilaku saat komunikasi melemah.
Meskipun artikel ini tidak menyoroti perangkat keras secara sentral, implikasi tata kelolanya jelas: konektivitas membuat “AI operasional” lebih kompleks, karena sistem kini bergantung pada perilaku jaringan dan keandalan pesan. Karena itu, protokol eskalasi bantuan jarak jauh menjadi makin penting—khususnya saat persepsi dan pengambilan keputusan harus menggabungkan informasi dalam kondisi komunikasi yang tidak pasti.
Penekanan agenda forum NHTSA pada latensi jaringan dan kerentanan siber sebagai tantangan keselamatan bantuan jarak jauh membentuk jembatan langsung antara mode kegagalan terkait konektivitas dan akuntabilitas operator. (nhtsa.gov)
Dengan demikian, kacamata tata kelola bukan hanya “pelatihan operator”; melainkan “pelatihan operator + batas eskalasi + penangkapan bukti + kontinjensi keamanan/latensi”, yang terhubung ke safety case yang lebih luas.
Intinya tegas: bottleneck otonomi sedang berpindah dari performa model dan komputasi menuju kompetensi AI operasional—protokol eskalasi, kompetensi perilaku, bukti keselamatan, serta sistem scoring yang terukur agar dapat diaudit regulator.
NHTSA seharusnya memublikasikan—melalui proses forum keselamatan AV yang berkelanjutan—paket panduan “remote assistance operational competence” yang berorientasi audit, yang menetapkan:
Rekomendasi ini mengikuti pembingkaian agenda bahwa bantuan jarak jauh dan “ADS behavioral competencies” kini menjadi topik untuk panduan masa depan yang mungkin. (nhtsa.gov) Rekomendasi tersebut juga selaras dengan penekanan publik NHTSA pada safety cases, safety management systems, serta safety assurance yang berbasis bukti untuk bantuan jarak jauh. (nhtsa.gov)
Hingga Kuartal II 2026, perusahaan yang menjalankan program bantuan jarak jauh untuk ADS seharusnya mampu menghasilkan dokumentasi yang siap untuk regulator yang menunjukkan (a) batas intervensi yang terdefinisi, dan (b) tingkat kelengkapan bukti insiden—karena logika penegakan sudah ada (misalnya penalti pelaporan SGO dan penegakan melalui consent order) dan perhatian regulator memang sedang bergeser secara eksplisit ke bantuan jarak jauh serta kompetensi perilaku. (nhtsa.gov) (nhtsa.gov) (nhtsa.gov)
Secara operasional, ini berarti perusahaan tidak perlu menunggu aturan final untuk mulai membangun skor bukti keselamatan yang terukur: metrik internal ringan yang mengkuantifikasi apakah peristiwa eskalasi operator menghasilkan jejak bukti yang diperlukan dan apakah outcome sesuai ekspektasi safety case. Itulah audit loop yang secara implisit diminta regulator—dan lewat itulah otonomi menjadi bisa dikelola, bukan hanya terlihat mengesankan.