Modus kejahatan siber berbasis AI ini semakin meningkat dengan teknologi seperti GPT-3 yang mampu secara cepat menghasilkan konten visual hasil modifikasi yang sangat mirip dengan gaya bahasa dan perilaku individu yang ditiru.

Dampak yang diakibatkan oleh deepfake sangat signifikan, karena kerap disalahgunakan dalam modus kejahatan siber, yang tidak hanya merugikan, tetapi juga berpotensi menciptakan disinformasi dan misinformasi.

Ancaman siber deepfake terus berkembang di masyarakat, terutama berhubungan dengan kontestasi Pemilihan Kepala Daerah (Pilkada) serentak yang sudah di depan mata. Regional Vice President, ASEAN, Palo Alto Networks Steven Scheurmann menekankan bagaimana masyarakat dan institusi dapat melindungi diri mereka dari ancaman yang terus berkembang.

Menurut Steven, Deepfake telah menjadi perhatian utama di Asia Tenggara, tak terkecuali Indonesia. “Di Indonesia, teknologi deepfake dapat menghadirkan sejumlah ancaman serius dengan penyalahgunaan dalam menjalankan aksi kejahatan siber, terutama dalam penipuan bermotif politik dan finansial,” kata Steven.

Kemampuan teknologi untuk menyebarkan informasi palsu dalam waktu yang singkat berpotensi untuk menciptakan berbagai narasi yang menyesatkan, mengubah persepsi publik, merusak reputasi, dan menimbulkan konsekuensi yang serius.

Penyalahgunaan teknologi deepfake telah menarik perhatian mulai dari lembaga pemerintah hingga pakar keamanan siber, terutama selama periode pemilihan umum ketika informasi yang keliru dapat mempengaruhi opini pemilih. Meski tahun 2024 diprediksi menjadi tahun pemungutan suara terbesar dalam sejarah, dampak deepfake tidak hanya terbatas pada ranah politik saja.

Saat ini, tim peneliti yang tergabung dalam Unit 42 Palo Alto telah menemukan banyak kampanye penipuan menggunakan video deepfake yang menampilkan kemiripan dengan berbagai tokoh publik, termasuk CEO, pembawa berita, dan pejabat pemerintah di seluruh dunia.

“Sama halnya dengan deepfake dalam bentuk konferensi video yang mendapat perhatian besar, penipuan deepfake berbasis web juga merupakan ancaman baru yang harus diwaspadai,” ujar Steven.

Pada Juni 2024, Palo Alto telah menemukan ratusan domain yang digunakan untuk mempromosikan jenis penipuan ini, dengan setiap domain diakses hingga 114.000 kali secara global sejak pertama kali ditayangkan. Namun, tidak seperti domain phishing atau malware pada umumnya, domain-domain ini relatif berumur panjang, dengan waktu aktif rata-rata 142 hari.

Steven menjelaskan, kemunculan GenAI telah mempermudah pelaku ancaman untuk melakukan penipuan deepfake, sehingga sangat penting untuk mampu mendeteksi ancaman ini dari sebelumnya.

Ia menyarankan agar organisasi memperkuat pertahanan mereka dengan mengidentifikasi dan menghentikan ancaman deepfake yang terus berkembang secara proaktif. “Meningkatkan upaya yang berfokus pada kombinasi analisis visual, kesadaran akan kelemahan keamanan yang umum, dan penggunaan alat deteksi khusus—seperti Advanced URL Filtering yang dapat membantu mengkategorisasikan serta memblokir URL berbahaya secara real-time,” kata Steven.

[red]

The post Ancaman Deepfake di Kontestasi Pilkada 2024 appeared first on INDONESIAWATCH.