Daftar Isi
Halusinasi AI adalah keluaran yang tampak meyakinkan tetapi memuat informasi keliru, dibuat-buat, atau tidak didukung bahan yang digunakan. Contohnya berupa kutipan yang tidak pernah diucapkan, judul penelitian yang tidak ada, atau ringkasan yang menambahkan keputusan di luar dokumen.
Cara memeriksa jawaban AI adalah memisahkan klaimnya, membuka sumber asli, mencocokkan isi dan tanggal, menghitung ulang angka, serta menandai bagian yang belum terbukti. Meminta chatbot menjawab “lebih yakin” tidak menggantikan langkah tersebut.
Apa itu halusinasi AI?
Dalam konteks AI generatif, istilah halusinasi digunakan untuk keluaran yang keliru atau tidak berdasar tetapi disajikan seolah masuk akal. Penjelasan IBM tentang halusinasi AI membahas bagaimana model dapat menghasilkan fakta atau rujukan yang tampak sah meskipun tidak benar.
Namun, tidak setiap kesalahan perlu diberi label halusinasi. Jawaban bisa tidak sesuai karena pertanyaan ambigu, bahan sumber sudah usang, atau instruksi tidak diikuti. Bagi pengguna, tindakan terpenting adalah menemukan bagian yang salah dan dasar koreksinya.
Misalnya, kalimat “rapat memutuskan peluncuran pada November” bermasalah jika catatan hanya berbunyi “November masih menjadi usulan”. Keduanya menyebut bulan yang sama, tetapi status informasinya berbeda. Pemeriksaan tidak cukup dilakukan dengan mencari kata yang cocok.
Mengapa AI bisa menghasilkan jawaban yang salah?
Model bahasa menyusun keluaran berdasarkan pola yang dipelajari dan konteks yang tersedia. Kelancaran kalimat tidak dengan sendirinya menunjukkan bahwa setiap klaim telah diperiksa terhadap kenyataan. Informasi yang kurang, konteks ambigu, atau proses pengambilan sumber yang tidak tepat dapat menghasilkan jawaban bermasalah.
Memberikan dokumen rujukan dapat membantu membatasi jawaban. Namun, sistem masih dapat salah mengambil bagian, melewatkan syarat, atau menyimpulkan lebih jauh daripada bahan. Karena itu, meminta rujukan merupakan awal pemeriksaan, bukan bukti bahwa pemeriksaan sudah selesai.
Jika istilah model dan aplikasi masih membingungkan, mulai dari penjelasan cara kerja AI. Aplikasi dapat menambahkan pencarian atau alat bantu lain, tetapi kualitas jawaban tetap perlu dinilai dari hasil yang dapat ditelusuri.
Tanda jawaban AI perlu diperiksa lebih lanjut
| Tanda | Contoh | Langkah pemeriksaan |
|---|---|---|
| Angka sangat spesifik tanpa dasar | Persentase muncul tanpa populasi, periode, atau metode. | Cari tabel atau laporan asal. |
| Rujukan terlihat resmi tetapi tidak bisa ditemukan | Judul, penulis, dan nama jurnal terdengar masuk akal. | Periksa katalog penerbit atau repositori aslinya. |
| Kesimpulan lebih kuat daripada sumber | “Dapat membantu” berubah menjadi “terbukti selalu berhasil”. | Baca konteks dan batasan pernyataan. |
| Status informasi berubah | Usulan dianggap keputusan, atau percobaan dianggap peluncuran. | Cocokkan kata kerja dan status dalam bahan. |
| Tanggal tidak sesuai | Dokumen lama dipakai untuk menjelaskan fitur saat ini. | Periksa tanggal publikasi dan pembaruan. |
Tanda-tanda tersebut bukan bukti otomatis bahwa seluruh jawaban salah. Gunakan sebagai petunjuk untuk menentukan bagian yang harus diperiksa terlebih dahulu.
7 langkah memeriksa jawaban AI
1. Pisahkan jawaban menjadi klaim kecil
Ubah paragraf panjang menjadi daftar pernyataan yang dapat diuji. Sebuah kalimat bisa memuat nama lembaga, tanggal kegiatan, jumlah peserta, dan kesimpulan sekaligus. Masing-masing memerlukan dukungan yang sesuai.
Mulai dari klaim yang paling menentukan keputusan atau inti tulisan. Tidak semua kata membutuhkan riset terpisah, tetapi fakta utama tidak boleh lolos hanya karena dikelilingi penjelasan yang lancar.
2. Buka sumber asli
Jika jawaban menyebut pengumuman perusahaan, buka pengumumannya. Jika mengutip penelitian, cari halaman penerbit atau naskah penelitiannya. Jangan berhenti pada judul hasil pencarian atau daftar tautan yang diberikan chatbot.
Alamat yang bisa dibuka belum cukup. Halaman tersebut mungkin membahas topik serupa tanpa mendukung klaim yang sedang diperiksa. Catat bagian yang relevan agar alasan menerima atau menolak klaim dapat ditelusuri.
3. Cocokkan makna, cakupan, dan syarat
Periksa apakah sumber membicarakan populasi, wilayah, versi produk, atau periode yang sama. Hasil pengujian pada satu tugas tidak otomatis berlaku untuk semua penggunaan AI.
Perhatikan kata pembatas seperti “pada percobaan ini”, “hingga”, “diperkirakan”, atau “tersedia untuk akun tertentu”. Menghapus pembatas dapat mengubah arti walaupun angka dan nama tetap sama.
4. Periksa tanggal dan status terbaru
Bedakan tanggal halaman diterbitkan, tanggal peristiwa, dan tanggal pembaruan. Untuk informasi yang berubah, cari dokumentasi yang masih berlaku dan pastikan informasi lama tidak disajikan sebagai keadaan sekarang.
Jika jawaban tidak menyertakan periode, tambahkan batas waktu dalam pertanyaan. Setelah itu, tetap cocokkan dengan sumber; menyebut tanggal dalam prompt tidak membuat aplikasi otomatis memiliki akses informasi terbaru.
5. Hitung ulang angka
Gunakan kalkulator atau spreadsheet untuk penjumlahan, rasio, dan persentase. Pastikan penyebutnya benar. “Naik 20 persen” berbeda dari “naik 20 poin persentase”.
Sebagai contoh rekaan, jika jumlah peserta naik dari 80 menjadi 100, penambahannya 20 orang dan kenaikan relatifnya 25 persen: 20 dibagi 80, lalu dikalikan 100. Jangan menerima label persentase hanya karena selisih angkanya terlihat cocok.
6. Tandai informasi yang belum terbukti
Gunakan status sederhana: terverifikasi, perlu koreksi, atau belum dapat diverifikasi. Status terakhir lebih jujur daripada memaksa sebuah klaim menjadi benar atau salah ketika buktinya belum cukup.
Dua chatbot yang memberikan jawaban sama belum menjadi dua bukti independen. Keduanya dapat mengulang sumber atau pola kesalahan serupa. Prioritaskan bukti yang dapat ditelusuri.
7. Sunting ulang hasil sebelum digunakan
Perbaiki angka, hapus klaim tanpa dasar, dan kembalikan syarat yang hilang. Setelah menyunting, baca ulang kalimat di sekitarnya karena satu koreksi dapat mengubah kesimpulan paragraf.
Untuk pekerjaan kantor, buat pemeriksaan ini bagian dari proses kerja. Lihat contoh prompt dan pemeriksaan draf kantor untuk menerapkannya pada email, catatan rapat, dan bahan presentasi.
Contoh pemeriksaan ringkasan rapat
Berikut latihan dengan bahan rekaan, bukan hasil pengujian produk tertentu.
Catatan sumber: Tim membahas usulan peluncuran pada November. Tanggal belum diputuskan. Dita akan mengirim estimasi biaya pada 12 Oktober. Anggaran masih menunggu persetujuan.
Misalkan ringkasan yang muncul berbunyi: “Tim menyetujui peluncuran pada November dengan anggaran yang sudah disahkan. Dita akan mengirim rincian biaya pada 12 Oktober.”
| Klaim dalam ringkasan | Hasil pemeriksaan |
|---|---|
| Peluncuran November sudah disetujui. | Perlu koreksi: masih berupa usulan dan tanggal belum diputuskan. |
| Anggaran sudah disahkan. | Perlu koreksi: sumber menyatakan masih menunggu persetujuan. |
| Dita mengirim biaya pada 12 Oktober. | Tanggal dan penanggung jawab sesuai; sebut sebagai estimasi, mengikuti sumber. |
Versi yang lebih tepat: “Tim membahas usulan peluncuran pada November, tetapi tanggal belum diputuskan. Dita akan mengirim estimasi biaya pada 12 Oktober. Anggaran masih menunggu persetujuan.”
Contoh prompt untuk membatasi tambahan tanpa dasar
Ringkas hanya berdasarkan bahan di bawah. Pisahkan keputusan, usulan, tugas, dan informasi yang belum tersedia. Jangan mengubah usulan menjadi keputusan. Jangan menambahkan angka, tanggal, atau nama yang tidak tercantum. Untuk setiap butir, sertakan bagian bahan yang mendukungnya. Jika dukungan tidak ditemukan, tulis “tidak disebutkan dalam bahan”.
Prompt ini membuat hasil lebih mudah diperiksa, tetapi bukan jaminan bebas kesalahan. Kutipan yang dicantumkan model juga perlu dicocokkan dengan bahan asli.
Pertanyaan umum tentang halusinasi AI
Apakah jawaban yang menyertakan sumber pasti benar?
Tidak. Sumber bisa tidak ada, tidak relevan, atau tidak mendukung kesimpulan. Buka dan baca bagian yang menjadi dasar klaim.
Apakah akses internet menghilangkan halusinasi?
Tidak otomatis. Informasi yang diambil masih dapat disalahartikan atau dirangkum secara tidak tepat. Akses sumber membantu pemeriksaan, tetapi tidak menggantikannya.
Apakah AI tetap berguna jika jawabannya perlu diperiksa?
Bisa, terutama untuk tugas yang hasilnya mudah dibandingkan dengan bahan. Nilai manfaat dari waktu keseluruhan, termasuk pemeriksaan dan revisi. Lihat contoh penggunaan AI sehari-hari untuk memilih tugas awal yang sesuai.
