KALIMANTAN TIMUR — United Nations Institute for Disarmament Research (UNIDIR) memperingatkan penggunaan AI di bidang militer berisiko menghilangkan peran manusia dalam penilaian dan pengambilan keputusan. Peringatan itu disampaikan Direktur UNIDIR Robin Geiss di Markas Besar PBB, Selasa (20/10), yang menilai AI militer bisa memperburuk kondisi perang. Risiko ini muncul saat AI makin banyak dipakai untuk analisis intelijen hingga perancangan serangan siber.
Perserikatan Bangsa-Bangsa (PBB) menilai adopsi kecerdasan buatan atau AI di sektor militer bergerak lebih cepat dari kemampuan negara-negara menyusun rambu penggunaannya. UNIDIR mencatat teknologi ini sudah dipakai untuk tugas teknis spesifik: analisis intelijen, identifikasi target, pengoperasian drone, sampai perancangan serangan siber.
Di satu sisi, AI mempercepat operasi penyerangan secara signifikan. Di sisi lain, kecepatan yang sama membuka ruang kesalahan dan eskalasi yang tidak disengaja, terutama ketika keputusan akhir diserahkan ke mesin.
Robin Geiss menempatkan persoalan ini sebagai pertanyaan moral, bukan sekadar teknis. Dalam paparannya di Markas Besar PBB, ia menyoroti hilangnya ruang bagi manusia untuk menilai serangan dan merancang respons secara bijak.
"Apakah kita akan membiarkan mesin menargetkan dan membunuh manusia?" kata Robin Geiss, dikutip dari laman berita PBB.
Kekhawatiran itu mencakup konteks senjata nuklir. Menurut Robin, risiko terbesar bukan hanya kegagalan sistem, melainkan hilangnya pertimbangan manusia pada momen-momen yang menentukan.
Sekretaris Jenderal PBB telah berulang kali menyerukan regulasi lebih ketat terhadap AI militer. Seruan itu secara khusus menyasar sistem senjata otonom yang mematikan agar penggunaannya tidak melampaui garis moral manusia.
Desakan tersebut belum berbuah kesepakatan mengikat. Sejumlah negara produsen teknologi militer masih berbeda pandangan soal sejauh mana otomasi boleh masuk ke ranah pengambilan keputusan.
Centre of Excellence on AI, Peace and Security di bawah UNIDIR membentuk forum berisi pemangku kepentingan untuk membahas AI dalam perdamaian dan keamanan internasional. Forum ini menyiapkan kerangka kerja bagi pelaku industri sebagai pedoman mendesain dan mengembangkan alat militer berbasis AI secara lebih bertanggung jawab.
Salah satu keluaran yang disiapkan adalah leksikon atau kamus istilah keamanan AI. Tujuannya mengklarifikasi konsep seperti otonomi, keselamatan, dan keamanan agar komunikasi antarpihak tidak ambigu.
Forum itu juga membidik risiko penyalahgunaan AI oleh kelompok bersenjata non-negara, mulai dari perencanaan operasional, pelaksanaan, hingga logistik.
Bagi perusahaan yang mengembangkan perangkat lunak analitik, drone, atau sistem komando militer, kerangka kerja UNIDIR berpotensi menjadi acuan desain yang diadopsi negara-negara pengguna. Perusahaan yang lebih dulu membangun mekanisme pengawasan manusia dalam produknya akan lebih mudah menyesuaikan diri jika regulasi mengikat diberlakukan.
Pembahasan di forum tersebut masih berjalan, dan belum ada tenggat resmi kapan kerangka kerja maupun leksikon istilah akan dipublikasikan.