—·
Perangkat medis berbasis AI yang tercatat di FDA menunjukkan bahwa pengawasan harus mengikuti produk setelah pembaruan dan saat digunakan, bukan berhenti pada izin awal.
Sistem yang menyaring citra retina, memberi peringatan kepada tim penanganan stroke, membantu mengarahkan pemindaian ultrasonografi, atau menandai kemungkinan polip mungkin sama-sama disebut “AI medis”. Namun, fungsi masing-masing berbeda dan dampaknya terhadap perawatan pun tidak sama. Pengawasan perlu berfokus pada keputusan yang dipengaruhi suatu perangkat dan konsekuensi jika terjadi kesalahan, bukan hanya pada label umum “AI”. (FDA)
Sumber yang tersedia tidak cukup untuk mendukung uraian tentang kesepakatan Gedung Putih dengan perusahaan, usulan Senator Thune, ataupun perdebatan di Kongres mengenai aturan AI frontier. Namun, sumber-sumber tersebut mendukung pertanyaan yang lebih terbatas dan berdampak langsung bagi pasien maupun tenaga medis: apa yang perlu diawasi ketika AI mulai digunakan dalam layanan kesehatan? Empat perangkat dalam daftar publik FDA memperlihatkan fungsi yang berbeda: penyaringan, pemberian peringatan, pengambilan citra, dan deteksi. Entri regulasi untuk masing-masing perangkat menjelaskan tujuan penggunaan dan statusnya, tetapi tidak dengan sendirinya menunjukkan seberapa baik kinerjanya dalam praktik sehari-hari. (FDA)
Kecerdasan buatan, atau AI, adalah perangkat lunak yang menjalankan tugas seperti mengenali pola atau menghasilkan prediksi. Dalam kedokteran, jenis tugasnya sangat menentukan. Menandai kemungkinan kelainan pada citra tidak sama dengan membantu mengambil citra atau memberi saran kepada tenaga medis mengenai langkah berikutnya. Daftar produk dari regulator membantu menjelaskan fungsi yang dirancang untuk dijalankan suatu sistem; daftar itu bukan rapor hasil penggunaan di berbagai rumah sakit, kelompok pasien, atau versi perangkat lunak yang lebih baru. (FDA)
Panduan FDA yang terpisah mengenai rencana pengendalian perubahan yang telah ditentukan sebelumnya membahas salah satu bagian dari siklus hidup produk: cara produsen menjelaskan perubahan yang direncanakan pada perangkat berbasis AI dan proses untuk mengelolanya. Jika dibaca bersama, daftar perangkat dan panduan tersebut mengarah pada tiga pertanyaan yang perlu dibedakan: Apa yang boleh dilakukan produk ini? Bukti apa yang menunjukkan bahwa produk tersebut mampu menjalankan tugas itu? Apa yang terjadi ketika perangkat lunaknya berubah? (Panduan FDA)
Panduan Organisasi Kesehatan Dunia (WHO) tahun 2024 tentang model multimodal besar mengidentifikasi lima ranah umum penggunaan teknologi ini di bidang kesehatan: layanan klinis, penggunaan yang dipandu pasien, pekerjaan administratif, pendidikan kedokteran, serta penelitian dan pengembangan obat. Model multimodal besar adalah sistem AI yang dapat mengolah lebih dari satu jenis informasi, seperti teks dan gambar. Kelima ranah ini merupakan kategori penggunaan, bukan jenis produk atau tahapan persetujuan yang dapat dipertukarkan. Satu sistem dapat menjalankan lebih dari satu fungsi, sementara dampak kesalahan bergantung pada konteks penggunaannya. (WHO)
Setiap kategori memunculkan pertanyaan yang berbeda. Dalam layanan klinis, apakah sistem membantu atau justru mengganggu keputusan tenaga kesehatan? Untuk penggunaan yang dipandu pasien, mungkinkah seseorang mengira jawaban sistem sebagai diagnosis atau tidak menyadari perlunya mencari pertolongan? Dalam pekerjaan administratif, apakah informasi yang dihasilkan atau disusun ulang tetap mempertahankan hal-hal penting dalam rekam medis? Dalam pendidikan, apakah peserta didik menerima materi yang dapat diandalkan? Dalam penelitian dan pengembangan obat, dapatkah keluaran sistem diverifikasi dengan merujuk pada bukti yang mendasarinya? Pertanyaan-pertanyaan ini membantu menyesuaikan perlindungan dengan tugasnya; bukan klaim bahwa setiap sistem pasti mengalami masalah tersebut.
Bab tentang kedokteran dalam Stanford AI Index 2026 memberi gambaran luas mengenai penggunaan AI di bidang medis, sementara daftar FDA menyajikan informasi pada tingkat produk untuk perangkat yang telah memasuki proses peninjauan regulasi. Perbedaan ini penting: laporan tentang kegiatan di seluruh bidang dan entri regulator untuk perangkat tertentu tidak menjawab pertanyaan yang sama. Keduanya juga tidak dengan sendirinya membuktikan adanya manfaat klinis. (Stanford HAI; FDA)
Bagi pasien dan tenaga medis, pertanyaan awal yang paling berguna bersifat konkret: keputusan atau tugas apa yang dipengaruhi sistem ini? Mengetahui apakah produk membantu mengambil citra, memprioritaskan hasil pemindaian, atau memberikan hasil diagnostik akan membantu menentukan bukti dan pengawasan manusia yang paling dibutuhkan. Label “berbasis AI” tidak banyak menjelaskan hal-hal tersebut.
Daftar FDA mencakup IDx-DR, sistem yang dirancang untuk mendeteksi retinopati diabetik dengan tingkat keparahan di atas kategori ringan melalui citra retina. Entri FDA mencatat bahwa perangkat ini mendapat otorisasi pada 2018. Fungsinya spesifik: penyaringan, bukan pemberian saran medis untuk segala keperluan. Entri tersebut mendokumentasikan status regulasi dan tujuan penggunaan, tetapi tidak menunjukkan seberapa sering sistem mengubah pengobatan atau memperbaiki hasil di setiap konteks layanan. (FDA)
Contoh lain dari 2018 adalah perangkat lunak Viz.ai untuk penanganan stroke, yang dirancang menganalisis citra medis dan memberi peringatan kepada tim layanan kesehatan saat mendeteksi dugaan penyumbatan pembuluh darah besar. Perangkat ini membantu notifikasi dan alur kerja; fungsinya bukan menggantikan diagnosis tenaga medis. Nilainya antara lain bergantung pada apakah peringatan yang tepat waktu membantu tim bertindak. Risikonya mencakup peringatan yang terlewat atau notifikasi yang mengganggu tanpa membantu perawatan. Entri FDA menyebutkan perangkat dan fungsi yang dirancang untuk dijalankannya, tetapi tidak membuktikan dampak setiap peringatan terhadap hasil pasien. (FDA)
Caption Guidance, yang tercatat di FDA pada 2020, menggunakan AI untuk membantu mengarahkan pengambilan citra ultrasonografi jantung. GI Genius, yang tercatat pada 2021, dirancang untuk mengenali kemungkinan polip saat kolonoskopi. Yang pertama membantu pengambilan citra, sedangkan yang kedua menandai area untuk diperiksa tenaga profesional. Perbedaan fungsi ini menunjukkan mengapa satu label lulus atau gagal untuk semua “AI medis” terlalu sederhana: posisi sistem dalam alur kerja menentukan aspek apa yang perlu diukur dalam evaluasi yang bermakna. (FDA)
Urutan tahun keempat contoh ini—2018, 2018, 2020, dan 2021—bukan jumlah keseluruhan AI medis ataupun ukuran keberhasilan klinisnya. Ini hanya sejumlah kecil contoh produk dalam daftar perangkat FDA. Jika dicermati, keempatnya menunjukkan bahwa AI telah digunakan dalam layanan kesehatan sebagai sistem penyaringan, pemberi peringatan, asisten pencitraan, atau alat bantu deteksi. Jangan berhenti pada label yang sama: apa yang boleh dilakukan sistem ini, keputusan apa yang tetap harus diambil manusia, dan bukti apa yang mendukung penggunaannya? (FDA)
Otorisasi awal suatu perangkat medis menjawab pertanyaan terbatas mengenai tujuan penggunaan yang dinyatakan serta bukti yang diajukan untuk ditinjau. Otorisasi itu tidak berarti perangkat lunaknya boleh diubah tanpa pemeriksaan lebih lanjut atau kinerjanya akan otomatis tetap sama ketika digunakan di tempat baru. Salah satu alasan FDA menerbitkan panduan tentang rencana pengendalian perubahan yang telah ditentukan sebelumnya untuk perangkat berbasis AI adalah hal tersebut. (Panduan FDA)
Rencana pengendalian perubahan yang telah ditentukan sebelumnya, atau PCCP, menjelaskan perubahan perangkat lunak yang diperkirakan akan dilakukan serta prosedur yang akan digunakan produsen untuk mengembangkan, memvalidasi, dan menerapkannya. Sederhananya, rencana ini memberi regulator dan produsen cara untuk membahas sejumlah pembaruan yang direncanakan sejak awal, alih-alih memperlakukan setiap perubahan sebagai produk yang sepenuhnya baru. Panduan FDA memuat rekomendasi untuk rencana semacam itu dalam pengajuan pemasaran; panduan tersebut bukan izin umum untuk mengubah sistem tanpa pengawasan. (Panduan FDA)
Kerangka ini menyoroti tantangan utama dalam pembelajaran mesin—cara perangkat lunak mengenali pola dalam data lalu menggunakannya untuk menghasilkan prediksi atau klasifikasi. Jika perangkat lunak dirancang untuk berubah, atau diperbarui dengan data baru, peninjau perlu memahami apa yang berubah dan apakah perubahan itu memengaruhi tujuan penggunaan atau kinerja produk. Panduan FDA menyediakan jalur regulasi untuk menjelaskan perubahan tersebut, tetapi tidak membuktikan bahwa setiap pembaruan pasti aman atau bermanfaat. (Panduan FDA)
Bagi tenaga kesehatan, informasi versi perangkat lunak harus menjadi bagian dari catatan keselamatan produk. Klinik yang mengevaluasi suatu alat perlu mengetahui versi yang digunakan, tugas yang dirancang untuk dijalankan versi tersebut, dan cara pemasok menangani pembaruan penting. Peninjauan regulator dan pemantauan berkelanjutan oleh klinik menjawab pertanyaan yang berbeda; keduanya sama-sama diperlukan.
Bukti harus sesuai dengan fungsi yang dirancang untuk dijalankan setiap perangkat. Untuk IDx-DR, evaluasi yang berguna perlu melaporkan seberapa andal sistem mengenali tingkat retinopati diabetik yang ditentukan pada populasi sasaran untuk penyaringan, termasuk kasus yang luput terdeteksi dan hasil positif palsu. Untuk perangkat lunak pemberi peringatan Viz.ai, pertanyaan yang relevan mencakup apakah peringatan sampai kepada tim layanan kesehatan tepat waktu untuk memengaruhi alur kerja, seberapa sering peringatan terlewat atau tidak membantu, serta apakah manfaat yang diklaim diukur dari dampaknya terhadap perawatan pasien, bukan sekadar kecepatan notifikasi. Ini adalah kriteria evaluasi, bukan temuan yang telah dibuktikan oleh entri FDA. (FDA)
Prinsip yang sama berlaku untuk dua produk lainnya. Untuk Caption Guidance, bukti perlu menjelaskan apakah sistem membantu pengguna memperoleh citra yang memadai untuk pemeriksaan yang dimaksud, dan apakah hasil tersebut tetap berlaku bagi orang serta konteks penggunaan yang dituju. Untuk GI Genius, evaluasi perlu membedakan kemampuan deteksi dari manfaat lanjutan: kemampuan mengenali kemungkinan polip tidak dengan sendirinya membuktikan bahwa alat tersebut memperbaiki hasil kesehatan. Untuk keempat perangkat, hasil evaluasi perlu menjelaskan siapa yang diteliti, di mana sistem digunakan, bagaimana tenaga medis menindaklanjuti keluarannya, dan versi perangkat lunak mana yang diuji.
Entri produk adalah titik awal, bukan rapor kinerja. Daftar FDA mengidentifikasi perangkat berbasis AI dan fungsi yang dinyatakan untuk masing-masing perangkat, tetapi satu entri saja tidak membuktikan kinerja di rumah sakit atau populasi pasien tertentu, apalagi setelah perangkat lunak diperbarui. Klaim manfaat harus merujuk pada hasil penelitian yang sesuai dengan tujuan penggunaan dan konteks produk, bukan disimpulkan dari status regulasinya. (FDA)
Panduan WHO mengenai model multimodal besar juga mengingatkan agar kemampuan luas tidak dianggap sebagai bukti bahwa sistem dapat diandalkan dalam layanan kesehatan. Sistem yang mampu menghasilkan teks lancar atau menggabungkan beragam jenis informasi tetap dapat mengeluarkan informasi yang keliru atau tidak lengkap. WHO mengelompokkan penggunaan di bidang kesehatan ke dalam lima ranah, menegaskan bahwa risiko dan perlindungan yang diperlukan bergantung pada cara sistem digunakan dan siapa yang mengandalkannya. (WHO)
Bab kedokteran dalam Stanford AI Index serta penelitian medis terbaru di jurnal seperti Nature Medicine dan PLOS Digital Health dapat membantu melengkapi gambaran bukti yang tersedia. Namun, klaim harus sesuai dengan apa yang benar-benar diuji dalam setiap penelitian. Hasil evaluasi terkontrol belum tentu membuktikan hasil yang sama dalam praktik sehari-hari. Karena sumber yang tersedia tidak cukup untuk mendukung perbandingan terperinci atas kinerja klinis berbagai produk, artikel ini tidak memeringkat keempat perangkat atau mengklaim bahwa perangkat-perangkat tersebut memperbaiki layanan kesehatan dalam besaran tertentu. (Stanford HAI; Nature Medicine; PLOS Digital Health)
Bagi pembaca yang menilai suatu klaim, tiga langkah ini dapat membantu: pastikan nama produk dan versinya, cari tahu tujuan penggunaannya, lalu bedakan otorisasi dari bukti manfaat dalam konteks penggunaan yang dituju. Standar sederhana ini mencegah demonstrasi yang meyakinkan disalahartikan sebagai bukti bahwa suatu alat bekerja sama baiknya di mana pun.
Contoh di bidang medis mengarah pada prinsip yang lebih luas dalam pengawasan AI: aturan akan lebih efektif jika disesuaikan dengan fungsi nyata suatu sistem dan konsekuensi jika terjadi kesalahan. Asisten pengambilan citra, alat penyaringan, dan sistem pemberi peringatan tidak memengaruhi keputusan yang sama. Karena itu, ketiganya tidak semestinya dinilai dengan cara yang seragam. Daftar perangkat dan panduan pengendalian perubahan FDA menunjukkan bagaimana tujuan produk dan perubahan yang direncanakan dapat membentuk proses peninjauan. (FDA; Panduan FDA)
Prinsip ini tidak menjawab perdebatan federal terpisah yang dijelaskan dalam pengarahan editorial. Sumber terverifikasi dalam artikel ini tidak memuat bukti mengenai usulan Thune, komitmen perusahaan kepada Gedung Putih, ataupun cakupan kewenangan Kongres. Menganggap panduan tentang perangkat medis sebagai bukti tentang arah perundingan politik tersebut berarti mencampuradukkan dua persoalan berbeda. Sumber medis hanya mendukung kesimpulan yang lebih terbatas: kerangka yang dapat diterapkan perlu memperhitungkan penerapan awal sekaligus perubahan setelahnya.
FDA perlu terus memperjelas tujuan penggunaan dan status regulasi dalam daftar perangkatnya. Jika Kongres membuat undang-undang tentang AI, Kongres perlu mewajibkan lembaga terkait menjelaskan pembagian tanggung jawab, alih-alih menjadikan komitmen sukarela perusahaan sebagai pengganti kewenangan yang ditetapkan undang-undang. Rekomendasi ini bertolak dari keterbatasan yang terlihat dalam sumber: daftar publik membantu masyarakat mengetahui produk apa yang telah ditinjau, tetapi tidak menunjukkan kinerja berkelanjutan ataupun menjelaskan siapa yang bertanggung jawab atas pembaruan. (FDA; Panduan FDA)
Dalam setahun ke depan, ujian praktis bagi tata kelola AI medis adalah apakah regulator, produsen, dan penyedia layanan kesehatan dapat membuat tujuan produk, perubahan perangkat lunak, serta bukti pendukungnya lebih mudah ditelusuri. Ini merupakan perkiraan, bukan jadwal kebijakan yang telah dipastikan. Bagi pasien dan tenaga medis, langkah berikutnya jelas: tanyakan apa fungsi alat tersebut, bukti apa yang mendukung penggunaannya, dan apa yang terjadi saat perangkat lunaknya berubah.