Informasi AI Bisa Salah? Kenali AI Hallucination

Pernah nggak sih, kamu lagi ngerjain tugas akhir atau proposal penelitian, minta tolong AI buat cariin referensi jurnal, terus dikasih daftar pustaka yang kelihatan sahih banget, judulnya relevan, nama penulisnya ada, tahun terbitnya jelas, tapi pas kamu cari di Google Scholar, nggak ada? Selamat, kamu baru saja bertemu dengan AI hallucination.

Secara sederhana, AI hallucination adalah kondisi ketika model AI (seperti ChatGPT, Gemini, atau Claude) menghasilkan output yang terdengar lancar, meyakinkan, dan terstruktur dengan baik, tetapi faktanya salah, dibuat-buat, atau tidak berdasar pada data yang valid.

Peneliti dari Universitas Oxford bahkan menemukan fenomena yang lebih ekstrem yang mereka sebut CHOKE (Certain Hallucinations Overriding Known Evidence): AI bisa menjawab pertanyaan dengan benar, tetapi hanya dengan perubahan kecil pada pertanyaan yang sangat mungkin terjadi di dunia nyata, AI justru menghasilkan jawaban yang salah dengan keyakinan tinggi. Ini bukan sekadar "AI lagi error." Ini adalah bagian dari cara kerja AI yang memang didesain untuk memprediksi kata berikutnya, bukan untuk mencari kebenaran.

AI itu pada dasarnya mesin statistik. Ia dilatih dengan data dalam jumlah besar dari internet, termasuk artikel ilmiah, tapi juga forum, blog, hingga teori konspirasi. Dari data itulah AI belajar pola bahasa, lalu memprediksi kata selanjutnya yang paling mungkin muncul.

Masalahnya, data pelatihan AI itu penuh dengan informasi yang tidak akurat, kontradiktif, atau bahkan hoaks. Ketika AI tidak punya cukup data atau datanya bertentangan, ia tetap "memaksa" menghasilkan jawaban yang terdengar masuk akal, meskipun faktanya salah. Itulah sebabnya AI hallucination bukan bug, melainkan efek samping yang terprediksi dari cara AI dilatih dan dievaluasi.

Buat mahasiswa dan akademisi, AI hallucination bukan sekadar teori, ini ancaman nyata.

Studi menunjukkan bahwa AI generatif bisa menghasilkan referensi yang sama sekali tidak ada, dengan tingkat fabrikasi mencapai 20% hingga lebih dari 90% tergantung model yang digunakan. Bahkan untuk referensi yang nyata, sekitar 30-70% digunakan secara keliru oleh AI.

Seorang pengacara di AS pernah menggunakan enam kutipan yang dihalusinasi oleh AI dalam dokumen pengadilan. Di ranah yang lebih dekat dengan akademisi, laporan “Make America Healthy Again” tahun 2025 kedapatan penuh dengan referensi palsu hasil AI.

Survei terhadap mahasiswa di China menemukan bahwa hampir 80% dosen dan mahasiswa pernah menjumpai AI hallucination, dan lebih dari 65% mahasiswa pernah menghadapi sengketa akademik yang terkait dengan penggunaan AI.

Banyak mahasiswa cenderung percaya pada output AI karena terlihat meyakinkan. Padahal, penelitian menunjukkan bahwa hanya sekitar 12% mahasiswa yang menggunakan sumber terpercaya seperti Google Scholar atau JSTOR untuk memverifikasi kutipan dari AI.

Lebih parah lagi, ketika AI memberikan jawaban yang salah namun disertai argumen yang meyakinkan, mahasiswa justru lebih mudah setuju dengan AI daripada ketika AI tidak memberikan argumen sama sekali. Ini yang disebut verification drift: kecenderungan untuk mengurangi evaluasi kritis karena percaya pada AI.

Jadi, gimana cara mahasiswa tetap bisa pakai AI tanpa jadi korban halusinasi? Berdasarkan panduan dari perpustakaan Universitas Washington dan penelitian terkait, berikut langkah-langkahnya:

1. Cari langsung kutipannya: Tempelkan judul lengkap ke Google Scholar, CrossRef, atau PubMed.

2. Periksa DOI: DOI yang valid harus mengarah ke artikel sungguhan. Kalau link-nya rusak atau mengarah ke konten tidak terkait, itu red flag.

3. Kenali pola halusinasi: Nama penulis yang terlalu umum (misal Andi, Budi), judul yang terasa masuk akal tapi terkesan seperti campuran kata kunci, atau nama jurnal asli dengan judul artikel palsu.

4. Gunakan basis data tepercaya, seperti Google Scholar, PubMed, Semantic Scholar, atau Web of Science.

5. Jangan hanya mengandalkan AI karena AI hanyalah teman diskusi, bukan pengganti kemampuan berpikir kritis kamu.

AI hallucination bukanlah mitos atau isapan jempol. Ini adalah fenomena nyata yang sudah berdampak pada dunia akademik, hukum, dan bahkan kebijakan publik. Sebagai mahasiswa dan akademisi, kemampuan untuk membedakan informasi yang valid dari hasil halusinasi AI adalah keterampilan yang tidak bisa ditawar lagi.

Jadi, lain kali AI kasih kamu daftar referensi yang kelihatan meyakinkan, tahan dulu klik "copy". Cek, verifikasi, dan pastikan. Karena di era informasi yang serba cepat ini, yang membedakan mahasiswa biasa dari mahasiswa kritis adalah kebiasaan bertanya: "Ini beneran atau cuma rekayasa dari AI?"

Belum bisa. OpenAI mengklaim model terbarunya "secara signifikan lebih kecil kemungkinannya untuk berhalusinasi", tetapi selama AI masih bekerja dengan mekanisme prediksi kata berikutnya, halusinasi tetap menjadi tantangan teknis yang belum terpecahkan.

Salin judul lengkap atau DOI-nya, lalu tempelkan ke Google Scholar atau CrossRef. Kalau tidak muncul di basis data akademik mana pun, kemungkinan besar itu referensi palsu.

Iya tapi pada tingkat tertentu. Penelitian menunjukkan bahwa halusinasi terjadi karena AI dilatih untuk memaksimalkan skor pada tes yang menghargai tebakan daripada kejujuran tentang ketidakpastian. Bahkan model dengan akurasi tinggi pun tetap bisa berhalusinasi dalam kondisi tertentu.