LENSANESIA.COM – Media sosial, seperti Facebook dan YouTube, diberi peringatan untuk berhati-hati dalam mengelola dan mengawasi konten, terutama konten yang terkait dengan teknologi deepfake. Deepfake merupakan teknologi yang memanipulasi video atau audio dengan cara yang canggih, seringkali sulit dibedakan dari rekaman asli.
Negara-negara di seluruh dunia sedang berupaya menyusun regulasi untuk mengatur penggunaan kecerdasan buatan (AI) dan teknologi deepfake. Salah satu negara yang menyoroti dalam hal ini adalah India, yang telah memberikan peringatan kepada perusahaan media sosial, termasuk Facebook dan YouTube, beserta penggunanya.
Pemerintah India menegaskan bahwa undang-undang lokal melarang publikasi konten deepfake di platform-platform tersebut. Seperti dilansir dari Reuters pada Sabtu (25/11/2023), peringatan tegas dari India disampaikan dalam pertemuan tertutup oleh Wakil Menteri Teknologi Informasi, Rajeev Chandrasekhar.
Baca Juga: JAM-Intelijen: Sentra Gakkumdu Upaya Penegakan Hukum Tangani Tindak Pidana Pemilu
Chandrasekhar menekankan bahwa platform media sosial diharapkan untuk lebih meningkatkan kesadaran terhadap regulasi tersebut dengan secara aktif mengingatkan pengguna agar tidak mengunggah konten-konten deepfake.
Di Indonesia, meskipun belum ada peraturan khusus terkait deepfake, Kementerian Komunikasi dan Informatika (Kemenkominfo) sedang dalam proses penyusunan surat edaran yang akan mengatur panduan penggunaan kecerdasan buatan (AI). Dalam surat edaran ini, akan dijelaskan norma-norma yang berlaku bagi pengembang, pengguna, dan pihak-pihak terkait lainnya yang terlibat dalam pemanfaatan AI.
Saat ini, surat edaran tersebut sedang dalam tahap penyempurnaan melibatkan berbagai pihak terkait. Targetnya, panduan penggunaan kecerdasan buatan (AI) ini diharapkan dapat diterbitkan pada bulan Desember 2023.
Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria mengungkapkan bahwa salah satu poin yang akan ditekankan dalam surat edaran tersebut adalah aspek transparansi. Sebagai contoh, dalam kasus aplikasi atau program yang memanfaatkan kecerdasan buatan generatif untuk menciptakan gambar atau video, produk tersebut diharapkan diberi label atau watermark. Langkah ini bertujuan agar masyarakat dapat mengidentifikasi bahwa produk tersebut dihasilkan melalui penggunaan kecerdasan buatan.
Baca Juga: Raih Penghargaan Dibeberapa Kejuaraan, Ketua Ketapel Purwakarta Bersatu Berbagi Kisah
Deepfake dapat digunakan untuk membuat video palsu yang menampilkan seseorang mengucapkan atau melakukan hal-hal yang sebenarnya tidak pernah dilakukan oleh mereka.
Salah satu perhatian utama adalah penggunaan deepfake dalam konteks politik, di mana video palsu dapat digunakan untuk merusak citra figur publik atau bahkan mempengaruhi opini pemilih. Oleh karena itu, pihak berwenang menegaskan perlunya platform-media sosial memastikan adanya mekanisme filter dan deteksi untuk mencegah penyebaran konten deepfake.
Facebook dan YouTube diminta untuk meningkatkan algoritma dan teknologi deteksi untuk mengidentifikasi dan menghapus konten deepfake secara efektif. Selain itu, keterlibatan komunitas pengguna dalam melaporkan konten yang mencurigakan juga diharapkan dapat menjadi bagian dari strategi pengawasan.
Baca Juga: Apa Itu Hari Anti Kekerasan Terhadap Perempuan Seluruh Dunia
Dengan peringatan ini, diharapkan kedua platform tersebut dapat berperan aktif dalam melawan penyebaran konten deepfake yang dapat merusak integritas dan keamanan informasi di dunia digital. Peningkatan pengawasan ini dianggap sebagai langkah yang strategis dalam memitigasi risiko yang mungkin timbul akibat teknologi manipulasi ini. ***
