Label AI Bisa Hilang, Warga Lutim Perlu Waspadai Deepfake

LUTIM – Foto yang tampak nyata, suara yang mirip anggota keluarga, hingga panggilan video yang menyerupai atasan, kini belum cukup untuk memastikan identitas seseorang.

Teknologi kecerdasan artifisial (AI) dapat digunakan untuk membuat konten palsu yang meyakinkan, sementara label penanda konten AI pun bisa hilang ketika gambar dibagikan.

Media teknologi asal Belanda, AI Insider, yang memublikasikan temuannya, Senin (19/10/2026), memperlihatkan label yang semula terlihat tidak lagi terbaca setelah gambar diproses ulang.

AI Insider menguji gambar yang dihasilkan ChatGPT, Gemini, Grok, dan Meta AI. Setelah satu kali tangkapan layar, label keaslian yang tertanam pada berkas gambar tidak lagi terbaca pada keempat layanan.

Hasil pemeriksaan juga menemukan perbedaan. Gambar dari Gemini dan Meta AI masih menyisakan watermark tak kasatmata, sedangkan pada gambar ChatGPT dan Grok tidak ditemukan jejak serupa yang dapat dikenali.

Meski begitu, pengujian ini masih terbatas pada empat layanan dan metode yang digunakan, sehingga hasilnya tidak dapat digeneralisasi untuk seluruh teknologi penandaan AI.

AI Insider lalu merangkum persoalan itu melalui kalimat, “De wet vraagt labels, maar een screenshot wist ze.” Artinya, aturan mewajibkan label, tetapi tangkapan layar dapat menghapusnya.

Interpol Ingatkan Modus Penipuan

Peringatan serupa turut disampaikan organisasi kepolisian kriminal internasional (Interpol) sehari sebelumnya.

Mereka meluncurkan kampanye kesadaran publik tentang penipuan berbasis deepfake yang marak beberapa tahun terakhir.

Kampanye itu menggunakan tiga video buatan AI untuk memperlihatkan bagaimana teknologi tersebut dapat dipakai menyamar sebagai rekan kerja, anggota keluarga, atau orang yang dipercaya.

Direktur Interpol Innovation Centre, Toshinobu Yasuhira, mengatakan, “AI is erasing the tell-tale signs of a scam.” AI, menurutnya, semakin menghapus tanda-tanda yang selama ini membantu orang mengenali penipuan.

Interpol menyoroti modus yang memanfaatkan wajah dan suara tiruan untuk meminta uang, informasi pribadi, atau transfer dengan alasan mendesak.

Pelaku juga dapat menyasar orang melalui penipuan investasi maupun hubungan asmara di internet. Buat warga Lutim, peringatan ini relevan dalam aktivitas sehari-hari melalui WhatsApp, media sosial, dan panggilan video.

Pesan yang seolah dikirim keluarga atau kenalan tidak selalu menjamin pengirimnya benar-benar orang yang bersangkutan.

Jika ada permintaan uang mendadak, terutama disertai desakan agar segera ditransfer atau dirahasiakan, segera berhati-hati.

Masyarakat sebaiknya memeriksa identitas pengirim melalui nomor atau saluran komunikasi lain yang sudah dikenal, jangan hanya mengandalkan suara dan wajah semata.

Komdigi Kaji Peraturan Menteri

Kementerian Komunikasi dan Digital (Komdigi) pula tengah mengkaji peraturan menteri mengenai pelabelan konten yang dihasilkan AI.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, menyampaikan rencana itu dalam Konvensi Humas Indonesia 2026 di Surakarta, Sabtu (17/10/2026).

“Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis,” ujarnya, dikutip laman Komdigi.

Menurut Nezar, pengembang AI perlu memberikan penanda yang membantu masyarakat mengenali keaslian produk digital.

Pemerintah juga memperhatikan pendekatan autentikasi dan penelusuran asal-usul konten (authentication and provenance) yang dikembangkan secara global.

“Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan,” tegasnya.

Nezar turut mencontohkan penipuan melalui rapat virtual di Hong Kong yang terungkap pada Februari 2024.

Seorang staf keuangan melakukan 15 kali transfer dengan total kerugian 25 juta dolar AS setelah mengikuti instruksi dalam rapat daring yang menampilkan jajaran pimpinan perusahaan.

Seluruh peserta lain ternyata merupakan hasil rekayasa digital. Selain mengkaji aturan pelabelan, pemerintah menyiapkan Rancangan Peraturan Presiden tentang Peta Jalan Nasional Kecerdasan Artifisial 2026–2029.

Penyusunannya melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri. Berdasarkan informasi yang tersedia pada Juli–Agustus 2026, rancangannya masih dalam proses menuju penetapan sebagai Perpres.

Nezar menegaskan AI harus tetap menjadi alat bantu, bukan pengganti pertimbangan dan tanggung jawab manusia.

“AI harus didudukkan sebagai alat, sebagai mitra kerja bukan pengganti nalar dan tanggung jawab manusia,” katanya.

Label Saja Tidak Cukup

Temuan AI Insider memperlihatkan tantangan yang perlu diperhitungkan dalam penyusunan aturan. Label dapat membantu masyarakat mengenali konten buatan AI, tetapi penanda yang hilang tidak otomatis membuat gambar menjadi asli.

Sebaliknya, keberadaan label juga tidak menjamin semua keterangan dalam konten benar.

Aturan pelabelan karena itu perlu memperhatikan ketahanan penanda saat gambar dibagikan ulang, kemudahan masyarakat memeriksa asal-usul konten, serta tanggung jawab pengembang dan platform digital.

Tanpa langkah pendukung, label berisiko tidak lagi membantu ketika gambar sudah berpindah dari satu layanan ke layanan lain.

Nezar menegaskan AI seharusnya menjadi alat bantu, bukan pengganti penilaian manusia. “AI harus didudukkan sebagai alat, sebagai mitra kerja bukan pengganti nalar dan tanggung jawab manusia,” katanya.

Langkah paling sederhana yang dapat dilakukan bagi masyarakat, adalah tetap memeriksa informasi sebelum mempercayai atau meneruskannya. Foto, suara, maupun video yang terlihat meyakinkan belum tentu menggambarkan kejadian sebenarnya.