Pemerintah melalui Kementerian Komunikasi dan Digital (Kemenkomdigi) mendesak platform digital global menghadirkan fitur pengecekan untuk mengenali konten yang dibuat oleh artificial intelligence (AI). Fitur ini penting demi membantu masyarakat menangkal hoaks dan deepfake.
Deepfake merupakan manipulasi berbasis kecerdasan buatan yang mampu mengubah wajah, suara, maupun ekspresi seseorang dalam video hingga terlihat sangat nyata.
"Kami berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan," kata Wakil Menteri Komunikasi dan Digital Nezar Patria pada Rabu (10/9/2025).
Nezar juga menyerukan agar fitur tersebut dapat digunakan publik secara gratis sehingga pemanfaatannya bisa inklusif. Apalagi, kata Nezar, fenomena deepfake semakin mengkhawatirkan.
Data Sensity AI mencatat bahwa adanya peningkatan 550% konten deepfake dalam lima tahun terakhir. Nezar meyakini, jumlah kuantitas tersebut bisa jauh lebih besar, mengingat kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif.
Ia menambahkan, platform memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik, khususnya untuk mendeteksi hoaks dan deepfake.
"Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar," jelasnya.
Nezar menekankan pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks. Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis.
Saat ini, pemerintah juga menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab. Selain regulasi, Komdigi juga menggandeng ekosistem luas, termasuk Mafindo dan media, dalam program cek fakta.
"Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif," tegas Nezar.
Deepfake mulanya dikembangkan untuk industri kreatif, tetapi teknologi tersebut sering disalahgunakan untuk penipuan, pencemaran nama baik, hingga penyebaran hoaks politik. Belakangan, mantan menteri keuangan Sri Mulyani pun tidak luput dari target manipulasi ini.
