Ketika AI Bisa Diajari Informasi Palsu, Waspadai Jawaban Chatbot

LUTIM – Informasi palsu AI menjadi persoalan baru seiring semakin banyak orang menggunakan chatbot berbasis kecerdasan buatan (AI) untuk melakukan penelusuran.

Kemudahan itu menyimpan persoalan yang semakin serius. AI dapat memberikan jawaban keliru. Lebih dari itu, sistem AI juga dapat dipengaruhi oleh informasi yang sengaja dibuat manusia agar terlihat benar.

Kasus terbaru yang diungkap The Guardian menunjukkan bagaimana strategi tersebut dijalankan dalam sebuah kampanye digital yang dikaitkan dengan pemerintah Israel.

Think Tank dan Informasi Palsu AI

The Guardian dalam laporan 26 Agustus 2026 mengungkap keberadaan situs bernama Hanover Institute for Public Policy.

Namanya terdengar seperti lembaga penelitian. Namun, menurut penelusuran The Guardian, tidak ditemukan entitas hukum, alamat fisik, maupun staf yang dapat diverifikasi.

Meski demikian, situs tersebut menerbitkan tulisan dalam jumlah besar. Dalam sembilan hari, tercatat 124 laporan dengan total lebih dari 560.000 kata.

Materinya membahas Israel dan Palestina, termasuk Nakba, anti-Zionisme, pendudukan Israel dan tuduhan genosida di Gaza.

Tulisan-tulisan tersebut dikemas menyerupai penelitian akademik, lengkap dengan statistik, tabel, catatan kaki dan rujukan lembaga internasional.

Sejumlah judulnya bahkan dibuat dalam bentuk pertanyaan yang menyerupai pertanyaan pengguna kepada chatbot AI.

Menurut The Guardian, pola tersebut merupakan bagian dari upaya membuat materi tersebut lebih mudah ditemukan dan digunakan oleh sistem AI.

Responsible Statecraft juga melaporkan bahwa 11 dari 12 artikel Hanover yang diuji secara acak menggunakan GPTZero ditandai memiliki kemungkinan tinggi dibuat dengan bantuan AI.

Namun, hasil tersebut merupakan deteksi alat AI dan bukan bukti independen mengenai siapa yang menulis artikel-artikel tersebut.

Sasarannya Bukan Hanya Manusia

Petunjuk lain muncul dalam dokumen yang diajukan kepada Departemen Kehakiman Amerika Serikat berdasarkan Foreign Agents Registration Act (FARA).

Salah satu dokumen tersebut secara eksplisit mencantumkan pekerjaan berupa, “Deployment of websites and content to deliver GPT framing results on GPT conversations.”

Dokumen FARA itu juga mencatat keterlibatan Piro Inc. dan pihak yang bekerja untuk Israel Government Advertising Agency (LaPam).

Artinya, pendekatan tersebut bukan dengan meretas ChatGPT atau mengubah sistem internalnya.

Pendekatannya lebih tidak langsung, yakni membuat dan menyebarkan konten di internet dengan harapan konten tersebut ditemukan mesin pencari maupun sistem AI.

Konten itu kemudian berpotensi ikut memengaruhi jawaban yang diberikan kepada pengguna.

Dengan kata lain, informasi palsu AI tidak selalu berarti mesin AI sengaja diprogram untuk berbohong. Dalam kasus tertentu, persoalannya justru dapat bermula dari informasi yang tersedia di internet dan kemudian digunakan sebagai rujukan oleh sistem AI.

Risiko LLM Poisoning pada Sistem AI

Cara kerja tersebut berkaitan dengan persoalan keamanan yang sudah menjadi perhatian peneliti AI.

Penelitian POISONCRAFT yang diterbitkan di arXiv pada 2025 menunjukkan bahwa sistem retrieval-augmented generation (RAG) dapat dipengaruhi dengan menyisipkan situs atau dokumen palsu yang kemudian diambil sistem sebagai sumber informasi.

Peneliti menyebut temuan itu sebagai risiko keamanan bagi sistem RAG yang digunakan di dunia nyata.

Karena itu, istilah LLM poisoning dapat digunakan untuk menjelaskan kelas ancaman tersebut. Namun, kasus Hanover sendiri lebih tepat disebut sebagai upaya memengaruhi sistem AI melalui rekayasa dan penyebaran konten web.

Kasus Hanover juga bukan satu-satunya. Investigasi terhadap jaringan Clock Tower X sebelumnya menemukan kampanye digital yang dikaitkan dengan pemerintah Israel dan diarahkan untuk memengaruhi cara sistem AI membicarakan Gaza dan Israel.

Dengan pola seperti itu, propaganda tidak lagi hanya dibuat agar dibaca manusia. Mesin AI juga menjadi sasaran.

AI Hallucination dan Jawaban yang Salah

Bahaya chatbot AI tidak berhenti pada informasi yang sengaja disebarkan manusia. OpenAI sendiri mengakui bahwa model bahasa dapat mengalami hallucination, yakni menghasilkan jawaban yang terdengar meyakinkan tetapi sebenarnya tidak benar.

Kesalahan tersebut dapat berupa fakta, kutipan maupun referensi yang tidak ada. OpenAI juga mengingatkan pengguna agar tidak menganggap ChatGPT selalu benar dan menyarankan informasi penting diverifikasi melalui sumber yang dapat dipercaya.

Persoalan ini dikenal sebagai AI hallucination. Artinya, chatbot dapat menghasilkan informasi yang keliru bahkan tanpa ada pihak yang sengaja memasukkan informasi palsu ke dalam sistem.

AI Bisa Terlalu Membenarkan Pengguna

Penelitian Stanford menemukan persoalan lain, yakni sycophancy atau kecenderungan AI terlalu membenarkan pengguna.

Dalam penelitian terhadap 11 model bahasa, termasuk ChatGPT, Claude, Gemini dan DeepSeek, para peneliti menemukan bahwa model-model tersebut lebih sering mengafirmasi posisi pengguna dibandingkan manusia.

Pada skenario nasihat umum dan berbasis Reddit, model AI rata-rata 49 persen lebih sering membenarkan pengguna dibandingkan respons manusia.

Artinya, seseorang yang datang dengan keyakinan tertentu bisa saja memperoleh jawaban AI yang justru semakin menguatkan keyakinannya.

Persoalan ini membuat pengguna perlu berhati-hati ketika menjadikan jawaban chatbot sebagai dasar untuk mengambil kesimpulan.

Jangan Percaya Hanya karena Terdengar Pintar

Kasus tersebut memberi pelajaran sederhana bagi pengguna chatbot. Jawaban yang panjang, rapi dan dilengkapi nama universitas, jurnal atau lembaga internasional tidak otomatis benar.

Sumber yang diberikan AI perlu dibuka dan diperiksa. Pastikan sumber tersebut benar-benar ada dan isinya memang mendukung klaim yang disampaikan.

Untuk berita, hukum, kesehatan, keuangan dan persoalan publik, informasi dari chatbot sebaiknya dibandingkan dengan sumber primer atau media yang memiliki standar editorial.

Sebab, ancaman AI bukan hanya ketika mesin salah. Ancaman yang lebih besar muncul ketika manusia membuat informasi yang salah terlihat benar, lalu mesin ikut menyampaikannya kembali.