Skandal AI Guncang Dunia Sastra — Buku Tentang Kebenaran Justru Penuh Kutipan Palsu Buatan Chatbot
Dunia penerbitan global sedang diguncang gelombang skandal penggunaan kecerdasan buatan yang belum pernah terjadi sebelumnya. Dalam rentang waktu kurang dari satu minggu pertengahan Mei 2026, tiga kasus besar muncul secara bersamaan — dan puncak ironinya datang dari sebuah buku yang ditulis khusus untuk memperingatkan ancaman AI terhadap kebenaran.
Steven Rosenbaum menerbitkan “The Future of Truth,” sebuah buku yang mengeksplorasi bagaimana kecerdasan buatan mengancam integritas informasi. Ironisnya, The New York Times menemukan setidaknya enam kutipan palsu dalam buku itu — semua dibuat oleh AI (Claude dan ChatGPT) yang ia gunakan sebagai “rekan percakapan” dalam proses riset.
Skandal ini bukan kasus terisolasi. Dalam minggu yang sama, penulis pemenang Nobel Olga Tokarczuk dituduh menggunakan AI untuk mengembangkan ide cerita, dua pemenang Commonwealth Short Story Prize 2026 juga terindikasi memanfaatkan AI, dan sebuah working paper terbaru memperkirakan lebih dari 50 persen buku baru di Amazon kini mengandung teks yang dihasilkan oleh AI.
Ini bukan lagi soal satu atau dua penulis nakal. Ini adalah krisis kepercayaan sistemik di industri yang selama ini mengandalkan integritas kata tertulis.
Buku Tentang Bahaya AI, Justru Jadi Korban AI
Steven Rosenbaum adalah seorang penulis yang menghabiskan tahun-tahun terakhir memperingatkan publik tentang bahaya AI dalam konteks kebenaran informasi. Bukunya, “The Future of Truth,” dimaksudkan sebagai panduan untuk memahami ancaman yang ditimbulkan oleh chatbot terhadap fakta, jurnalisme, dan narasi intelektual.
Namun pada 19 Mei 2026, The New York Times memuat investigasi yang mengungkap realitas yang jauh lebih memalukan: buku tersebut memuat lusinan kutipan fiktif yang diciptakan oleh AI. Di antara kutipan palsu itu adalah atribusi kepada Kara Swisher — jurnalis teknologi ternama — yang tidak pernah mengatakan hal-hal tersebut.
Respon Rosenbaum berubah seiring berjalannya waktu. Awalnya ia mengatakan “tanggung jawab penuh ada pada saya.” Namun dalam wawancara dengan The Atlantic, nadanya berubah: “ChatGPT fucked up the book,” ujarnya. Ia menggambarkan dirinya sebagai korban yang “tergoda dan dikhianati” oleh AI, tergantung pada tingkat “paranoia” seseorang — apakah AI itu “quirky, evil, atau sneaky.”
Mekanisme kejadiannya relatif sederhana dan sekaligus menakutkan. Rosenbaum menggunakan Claude dan ChatGPT sebagai “conversation partner” dalam risetnya — meminta AI membantu menemukan kutipan, konteks, dan referensi. Model bahasa besar memiliki kecenderungan yang sudah dikenal: hallucination. AI menghasilkan kutipan yang terdengar sangat meyakinkan, dengan nama tokoh yang nyata dan konteks yang masuk akal — tapi isi kutipan itu sendiri sepenuhnya fiktif.
Masalahnya, bagi penulis yang tidak memeriksa ulang setiap kutipan secara manual, hasil AI ini hampir tidak bisa dibedakan dari kutipan asli. Dan ketika AI sudah cukup bagus untuk menipu, batas antara riset dan fabrikasi menjadi kabur.
Skandal Meluas: Dari Nobel Sampai Sastra Persemakmuran
Skandal Rosenbaum ternyata hanya puncak gunung es. Dalam minggu yang sama, industri sastra global dikejutkan oleh serangkaian pengungkapan lain yang memperluas skala krisis.
Olga Tokarczuk — penulis Polandia peraih Nobel Sastra — menghadapi tudahan bahwa ia menggunakan kecerdasan buatan untuk “mempertajam ide cerita.” Meskipun Tokarczuk tidak secara eksplisit mengakui penggunaan AI, kontroversi ini memicu perdebatan panas tentang batasan penggunaan alat digital dalam proses kreatif. LitHub memuat respons yang berusaha memberikan konteks, tapi perdebatan publik terus berlanjut.
Sementara itu, Commonwealth Short Story Prize 2026 menghadapi krisis kredibilitasnya sendiri. Pemenang Jamir Nazir terindikasi kuat menggunakan AI dalam karya yang menang. Dua pemenang lain juga disorot dengan kecurigaan serupa. Commonwealth Foundation awalnya menyatakan bahwa “AI tidak digunakan” dalam proses penjurian, namun kemudian mengoreksi pernyataannya dengan mengatakan bahwa mereka “menanggapi serius semua tudahan” dan melakukan peninjauan ulang.
Yang menarik dari kasus Commonwealth adalah pergeseran narasi institusional: dari penyangkalan penuh ke pengakuan bahwa masalah ini memang nyata dan perlu ditangani. Ini mencerminkan pola yang lebih luas — institusi sastra global perlahan-lahan mulai mengakui bahwa AI bukan ancaman hipotetis, tapi realitas yang sudah ada di depan mata.
Lebih dari 50 Persen Buku Baru di Amazon Mengandung Teks AI
Mungkin data yang paling mengkhawatirkan datang dari sebuah working paper yang dikutip oleh The Atlantic. Penelitian tersebut memperkirakan bahwa lebih dari setengah buku baru yang diterbitkan di Amazon mengandung teks yang dihasilkan oleh kecerdasan buatan.
Angka ini bukan sekadar statistik akademis — ini adalah gambaran tentang apa yang sudah terjadi di pasar. AI telah berkembang cukup baik untuk mengecoh guru dalam tugas menulis, untuk memanipulasi rating produk di Amazon, dan sekarang telah menembus ruang intelektual yang selama ini dianggap “aman” dari manipulasi otomatis.
Implikasinya bagi industri penerbitan sangat besar. Jika separuh dari apa yang diterbitkan di platform penerbitan terbesar di dunia mengandung teks AI, maka pertanyaan tentang originalitas, kualitas, dan kepercayaan pembaca menjadi masalah yang tidak bisa lagi diabaikan.
Kenapa AI Bisa ‘Membohongi’ Penulisnya?
Inti dari semua skandal ini terletak pada satu konsep teknis yang perlu dipahami: hallucination dalam Large Language Model (LLM).
Ketika Anda meminta ChatGPT atau Claude untuk “cari kutipan dari tokoh X tentang topik Y,” model tersebut tidak benar-benar mencari database kutipan yang sudah terverifikasi. Sebaliknya, ia memprediksi apa yang seharusnya dikatakan oleh tokoh X berdasarkan pola bahasa yang pernah dilatih. Hasilnya terdengar otentik — karena secara linguistik memang konsisten dengan cara tokoh tersebut berbicara — tapi isinya bisa jadi sepenuhnya rekaan.
Ini bukan bug. Ini adalah konsekuensi fundamental dari cara LLM bekerja. Model bahasa dilatih untuk menghasilkan teks yang mirip dengan data pelatihan, bukan untuk menghasilkan teks yang benar. Dan bagi penulis yang menggunakan AI sebagai alat bantu riset tanpa verifikasi manual, konsekuensinya bisa fatal.
Rosenbaum menggambarkan dinamika ini dengan jujur: ketika AI menjadi “conversation partner,” ada ketergantungan psikologis yang terbentuk. Penulis mulai percaya pada hasil AI karena hasilnya terdengar bagus, koheren, dan meyakinkan. Dan semakin pintar AI-nya, semakin sulit membedakan antara riset yang sah dan fabrikasi yang halus.
Relevansi untuk Indonesia: Apakah Kita Butuh Regulasi?
Pertanyaan yang relevan untuk industri penerbitan Indonesia: sejauh mana AI sudah digunakan oleh penulis dan penerbit lokal? Saat ini, belum ada data publik yang menunjukkan skala penggunaan AI dalam industri buku Indonesia. Namun, melihat tren global dan aksesibilitas tools AI yang semakin murah, adopsi di Indonesia kemungkinan hanya masalah waktu.
Di Amerika Serikat, sudah mulai muncul respons institusional. Beberapa penerbit mulai mempertimbangkan kebijakan disclosure wajib untuk penggunaan AI. Di Indonesia, diskusi serupa belum terlihat secara terbuka.
Beberapa pertanyaan yang perlu dijawab oleh industri penerbitan Indonesia:
- Apakah penerbit besar seperti Gramedia atau Mizan sudah memiliki kebijakan internal tentang penggunaan AI dalam proses penulisan dan penyuntingan?
- Apakah perlu ada disclosure wajib — semacam label “menggunakan AI” — pada buku yang diproduksi dengan bantuan kecerdasan buatan?
- Seberapa bisa diandalkan AI detector tools yang saat ini tersedia? Beberapa tool sudah menunjukkan tingkat false positive yang mengkhawatirkan, menuduh karya manusia sebagai AI-generated.
- Bagaimana melindungi penulis yang benar-benar menulis sendiri dari tuduhan yang tidak berdasar?
Yang jelas, skandal Mei 2026 ini mengirim pesan yang tidak bisa diabaikan: industri penerbitan global sedang berada di persimpangan jalan. Pilihan yang dibuat sekarang — tentang regulasi, transparansi, dan kepercayaan — akan menentukan apakah kata tertulis masih bisa dipercaya di era AI.
Fakta Cepat
- 6+ kutipan palsu ditemukan dalam buku “The Future of Truth” karya Steven Rosenbaum — semuanya dibuat oleh AI (Claude dan ChatGPT)
- >50% buku baru di Amazon diperkirakan mengandung teks AI-generated (working paper, dikutip The Atlantic)
- Olga Tokarczuk (Nobel Sastra) dituduh pakai AI untuk pengembangan ide cerita
- Commonwealth Short Story Prize 2026 — pemenang Jamir Nazir terindikasi pakai AI, 2 pemenang lain disorot
- Rosenbaum quote: “AI fucked up the book” — wawancara dengan The Atlantic
Sumber: The New York Times (19 Mei 2026), The Atlantic (22-24 Mei 2026), The Verge (Mei 2026), Ars Technica (wawancara Rosenbaum), LitHub (respons Tokarczuk), Commonwealth Foundation (pernyataan resmi).
