Pendahuluan
Perkembangan pesat kecerdasan buatan (AI) telah membawa perubahan transformatif di berbagai sektor, mulai dari kesehatan hingga keuangan. Namun, kemajuan ini juga menimbulkan kekhawatiran signifikan mengenai implikasi etis, keselamatan, dan tata kelola sistem AI. Menanggapi tantangan ini, KTT Keamanan AI 2023 diadakan, mempertemukan pemimpin dan ahli global untuk membahas isu-isu mendesak terkait keamanan dan regulasi AI.
Latar Belakang KTT Keamanan AI 2023
Pada bulan Juni 2023, Perdana Menteri Inggris Rishi Sunak mengumumkan inisiatif Inggris untuk mengadakan KTT Keamanan AI global yang pertama pada musim gugur tahun itu. KTT ini bertujuan untuk mendorong kolaborasi internasional dalam mengelola risiko yang terkait dengan teknologi AI. Diadakan pada tanggal 1–2 November 2023, di Bletchley Park di Milton Keynes, Inggris—lokasi yang secara historis signifikan karena perannya dalam pemecahan kode selama Perang Dunia II—KTT ini menarik perwakilan dari 28 negara, termasuk Amerika Serikat, China, Australia, dan Uni Eropa. (en.wikipedia.org)
Tujuan dan Hasil KTT
Tujuan utama dari KTT Keamanan AI adalah untuk membentuk pendekatan yang bersatu terkait keamanan AI, dengan menekankan perlunya pengembangan dan penerapan sistem AI yang bertanggung jawab. KTT tersebut berpuncak pada Deklarasi Bletchley, sebuah dokumen konsensus yang menegaskan komitmen negara-negara peserta untuk merancang, mengembangkan, dan menggunakan AI dengan cara yang aman, berfokus pada manusia, dapat dipercaya, dan bertanggung jawab. Deklarasi ini secara khusus menyoroti regulasi "Frontier AI," yang merujuk pada sistem AI terbaru dan paling kuat, serta mengaddress kekhawatiran tentang penyalahgunaan potensial di area seperti terorisme, kegiatan kriminal, dan perang. (en.wikipedia.org)
Laporan Keamanan AI Internasional
Pada Januari 2025, Laporan Keamanan AI Internasional diterbitkan, memberikan penilaian komprehensif tentang keadaan ilmiah penelitian yang relevan dengan keamanan AI. Dilakukan oleh 30 negara yang menghadiri KTT Keamanan AI 2023, laporan ini ditulis oleh sekelompok 96 ahli AI yang dipimpin oleh pelopor pembelajaran mesin Kanada, Yoshua Bengio. Laporan tersebut mengidentifikasi tiga kategori luas risiko yang terkait dengan sistem AI canggih: penggunaan jahat, kegagalan teknis, dan risiko sistemik. Laporan ini menekankan perlunya langkah-langkah proaktif untuk mengurangi risiko ini dan memastikan integrasi AI yang aman ke dalam kerangka sosial. (en.wikipedia.org)
Pendirian Institut Keamanan AI
Setelah KTT, baik Amerika Serikat maupun Inggris mendirikan institut keamanan AI khusus untuk mengevaluasi dan memastikan keselamatan model AI canggih. Pada November 2023, Institut Keamanan AI AS didirikan sebagai bagian dari National Institute of Standards and Technology (NIST). Elizabeth Kelly, mantan penasihat kebijakan ekonomi untuk Presiden Joe Biden, ditunjuk untuk memimpin institut tersebut pada Februari 2024. Inggris mengikuti dengan mendirikan institut keamanannya sendiri, yang kemudian dinamai Institut Keamanan AI pada tahun 2025. Institut-institut ini bertujuan untuk mengembangkan standar, alat, dan tes untuk memastikan sistem AI beroperasi dengan aman dan selaras dengan pedoman etis. (en.wikipedia.org)
Kolaborasi Global dan Prospek Masa Depan
KTT Keamanan AI 2023 dan pendirian institut keamanan AI selanjutnya menunjukkan pengakuan yang semakin meningkat akan kebutuhan kolaborasi internasional dalam tata kelola AI. Pembentukan jaringan Institut Keamanan AI, yang terdiri dari entitas dari Inggris, AS, Jepang, Prancis, Jerman, Italia, Singapura, Korea Selatan, Australia, Kanada, dan Uni Eropa, merefleksikan upaya terkoordinasi untuk mengatasi tantangan global yang ditimbulkan oleh teknologi AI. Seiring dengan berlanjutnya evolusi AI, dialog dan kerjasama yang berkelanjutan antara negara dan institusi akan sangat penting dalam membentuk kebijakan yang mempromosikan penggunaan AI yang bertanggung jawab dan etis. (en.wikipedia.org)
Kesimpulan
KTT Keamanan AI 2023 menandai momen penting dalam diskursus global mengenai keamanan dan regulasi AI. Upaya kolaboratif yang menghasilkan Deklarasi Bletchley dan pendirian institut keamanan AI khusus menandakan komitmen kolektif untuk memanfaatkan manfaat AI sambil mengurangi risiko potensialnya. Seiring dengan semakin terintegrasinya teknologi AI ke dalam berbagai aspek masyarakat, kerangka kerja dan inisiatif yang dibangun selama periode ini akan memainkan peran krusial dalam membimbing masa depan tata kelola AI.