Pemakaian alat berbasis AI yang makin marak untuk membuat konten deepfake telah memunculkan kembali kekhawatiran soal keamanan publik.
Ketika teknologi ini semakin canggih dan mudah diakses banyak orang, hal ini juga menimbulkan pertanyaan tentang keandalan sistem verifikasi identitas visual yang dipakai oleh exchange terpusat.
Pemerintah Bergerak untuk Membatasi Deepfake
Video-video yang menipu kini tersebar dengan cepat di berbagai platform media sosial, sehingga menambah kekhawatiran tentang gelombang baru disinformasi serta konten palsu. Penyalahgunaan teknologi ini yang makin meluas semakin merusak keamanan publik dan integritas pribadi.
Tingkat permasalahan ini kian meningkat, karena pemerintah di seluruh dunia mulai membuat undang-undang untuk melarang penggunaan deepfake.
Pada pekan ini, Malaysia dan Indonesia menjadi negara pertama yang membatasi akses ke Grok, chatbot kecerdasan buatan buatan xAI milik Elon Musk. Pihak berwenang mengatakan keputusan ini diambil karena kekhawatiran atas penyalahgunaan Grok untuk membuat gambar eksplisit seksual tanpa persetujuan.
Jaksa Agung California, Rob Bonta, juga mengambil langkah serupa. Pada hari Rabu, ia menegaskan bahwa kantornya sedang menyelidiki sejumlah laporan terkait gambar seksual tanpa persetujuan yang menampilkan orang sungguhan.
“Materi ini, yang menggambarkan perempuan dan anak di situasi telanjang dan eksplisit secara seksual, telah digunakan untuk melecehkan orang di internet. Saya mendesak xAI untuk segera bertindak agar penyebaran ini berhenti,” ujar Bonta dalam sebuah pernyataan.
Berbeda dengan deepfake generasi awal, alat-alat terbaru kini dapat merespons permintaan secara dinamis bahkan meniru gerakan wajah dan sinkronisasi ucapan secara alami dengan sangat meyakinkan.
Akibatnya, pemeriksaan dasar seperti mengedipkan mata, tersenyum, atau menggerakkan kepala bisa jadi tidak lagi cukup untuk memastikan identitas pengguna.
Kemajuan ini berdampak langsung bagi exchange terpusat yang mengandalkan verifikasi visual dalam proses onboarding pengguna.
Centralized Exchange di Bawah Tekanan
Dampak finansial dari penipuan berbasis deepfake kini bukan lagi sekadar teori.
Pengamat industri dan peneliti teknologi telah memperingatkan bahwa gambar maupun video hasil AI semakin sering digunakan, seperti dalam klaim asuransi dan kasus hukum.
Platform aset kripto yang beroperasi secara global dan kerap memakai proses onboarding otomatis bisa menjadi sasaran empuk jika langkah pengamanan tidak berkembang sejalan dengan teknologinya.
Ketika konten hasil AI semakin mudah dibuat, kepercayaan yang hanya mengandalkan verifikasi visual mungkin tidak lagi memadai.
Tantangan bagi platform kripto adalah bergerak cepat sebelum teknologi ini melampaui sistem perlindungan yang dibuat untuk melindungi pengguna dan infrastruktur mereka.