Analisis WIRED terhadap kode aplikasi Meta AI mengungkap bahwa perusahaan telah diam-diam membangun sistem pengenalan wajah di balik layar. Fitur yang belum diaktifkan ini, jika dinyalakan, akan mengubah wajah yang tertangkap kamera menjadi sidik jari biometrik—atau yang disebut faceprints—dan mencocokkannya dengan database yang tersimpan di ponsel pengguna. Wajah yang dikenali akan memicu notifikasi, sementara sisanya akan dipotong, diindeks, dan disimpan ke folder "pending".
Tiga Model AI Sudah Ada di Ponsel Pengguna, Siap 'Mengenali' Siapa pun
Tiga model kecerdasan buatan yang menggerakkan NameTag telah dikerahkan dari server Meta dan kini berada di ponsel pelanggan. Satu model bertugas mendeteksi wajah, satu lagi memotongnya, dan model ketiga mengubahnya menjadi data biometrik. Cooper Quintin, peneliti keamanan dari Electronic Frontier Foundation, menyebut fitur ini "hampir siap digunakan" meski belum diekspos ke konsumen.
"Terlepas dari miliaran alasan untuk tidak melakukannya, Meta tampaknya telah menciptakan kapasitas untuk mengubah pelanggan mereka menjadi mesin pengawasan yang terdistribusi," kata Quintin kepada WIRED.
Meta Bayar Rp 10 Triliun Lebih untuk Gugatan Biometrik, Kini Kembali ke Teknologi yang Sama
Langkah ini membalikkan komitmen Meta sebelumnya. Pada 2021, perusahaan mengklaim telah menghentikan sistem pengenalan wajah dan menghapus lebih dari satu miliar faceprints pengguna Facebook setelah bertahun-tahun kontroversi. Meta bahkan membayar $650 juta (sekitar Rp 10,4 triliun) untuk menyelesaikan gugatan class-action dari pengguna Illinois, dan pada 2024 menyetujui penyelesaian terpisah senilai $1,4 miliar (sekitar Rp 22,4 triliun) dengan Texas atas tuduhan pengumpulan data biometrik ilegal.
Kembalinya Meta ke teknologi ini terjadi di tengah meningkatnya penolakan terhadap pengenalan wajah tingkat konsumen. Lebih dari 70 kelompok advokasi—termasuk American Civil Liberties Union (ACLU) dan Electronic Privacy Information Center—pada April lalu mendesak Meta membatalkan NameTag, memperingatkan bahwa fitur ini bisa dimanfaatkan stalker dan pelaku kekerasan untuk mengidentifikasi orang asing di tempat umum secara diam-diam.
Uji Coba Berhasil: Foto Filsuf Mati pun Bisa Dikenali Sistem
Peneliti keamanan independen yang menggunakan nama samaran Buchodi menguji pipeline pengenalan NameTag. Ia memasukkan satu faceprint dari foto filsuf Prancis Michel Foucault yang sudah meninggal ke dalam galeri aplikasi. Setelah memicu NameTag dengan gambar Foucault, aplikasi menghasilkan notifikasi: "Person recognized."
"Komponen utama fitur pengenalan wajah sudah ada di aplikasi pendamping Meta," kata Buchodi. "Tidak banyak lagi yang menghalangi fitur ini untuk berfungsi penuh."
Meta sendiri, melalui juru bicaranya, menyatakan kepada WIRED pada April lalu: "Pesaing kami menawarkan produk pengenalan wajah seperti ini, kami tidak. Jika kami akan merilis fitur semacam itu, kami akan mengambil pendekatan yang sangat matang sebelum meluncurkannya."
