TikTok menambahkan bahwa pada kuartal keempat tahun 2025, 97% konten spam yang melanggar aturan TikTok telah dihapus sebelum pengguna melaporkannya.
Selain toko online palsu, penipu memanfaatkan AI untuk menyamar sebagai orang lain dalam menjerat korban, misalnya menyamar sebagai anggota keluarga. Berikut beberapa modus yang penipuan yang paling sering terjadi di era AI:
Penipuan Video Call
Sudah lama penipuan berbasis chat dan obrolan telepon beredar di mana-mana. Masyarakat makin pintar dalam mendeteksinya. Jika ada chat masuk dari orang yang sudah lama tak jumpa, keluarga, atau teman, dengan nada mencurigakan dan meminta uang, masyarakat sudah bisa langsung mendeteksi modus penipuan.
Namun, berkat AI, penipu sekarang sudah bisa memanfaatkan video call. Mereka memanfaatkan AI untuk mengubah wajah video sebagai orang dekat atau orang yang dikenali korban. Kemudian, mereka bisa mengobrol hingga akhirnya meminta transfer uang.
"Sangat mudah dan sangat murah untuk melakukan panggilan Zoom secara real-time dengan penggantian seluruh tubuh dan perubahan suara dengan cara yang sepenuhnya realistis," kata Andrew Yoon, seorang peneliti di CivAI, sebuah organisasi nirlaba yang mengajarkan orang-orang tentang kemampuan AI.
