Penulis Buku Tentang Bahaya AI Malah Ketahuan Pakai Kutipan Palsu Buatan ChatGPT

Oleh Redaksi indfir.com | 24 Mei 2026

Steven Rosenbaum tidak bermaksud menjadi contoh ironi yang sempurna. Namun justru itulah yang terjadi.

Buku terbarunya, “The Future of Truth: How AI Reshapes Reality”, seharusnya menjelaskan bagaimana kecerdasan buatan mengancam konsep kebenaran di era modern. Masalahnya: buku itu sendiri penuh dengan kutipan palsu yang dibuat oleh AI.

Kutipan Palsu dari Orang yang Tidak Pernah Mengatakannya

Pada 19 Mei 2026, The New York Times melaporkan bahwa buku Rosenbaum mengandung lebih dari enam kutipan yang bermasalah. Tiga di antaranya adalah “kutipan sintetis” — kutipan yang sama sekali tidak memiliki sumber nyata.

Salah satu kutipan palsu dikaitkan dengan jurnalis teknologi terkenal, Kara Swisher. Swisher sendiri memberi tahu NYT bahwa ia “tidak pernah mengatakannya.” Kutipan lain dikaitkan dengan profesor Northeastern University, Lisa Feldman Barrett, yang menyatakan bahwa kutipan tersebut “tidak ada dalam buku saya, dan juga salah.”

Dari 285 kutipan eksternal dalam buku itu, enam diidentifikasi bermasalah — dan masih bisa muncul lebih banyak saat buku itu ditinjau lebih lanjut.

Dari “Bertanggung Jawab” Jadi Menyalahkan ChatGPT

Awalnya, Rosenbaum mengaku bertanggung jawab penuh atas kesalahan tersebut. Namun dalam wawancara dengan Ars Technica, nada bicaranya berubah.

“ChatGPT fucked up buku saya,” kata Rosenbaum. Ia menggambarkan hubungannya dengan AI seperti “terjebak dalam hubungan beracun” — AI sering menjadi “rekan menulis yang menyenangkan, kreatif, dan unik… lalu mengkhianati Anda dengan cara yang cukup mengerikan.”

Ia bahkan mengatakan pernah marah dan mengutuk mesin AI karena mengabaikan instruksi langsungnya. Dalam satu kasus, ia meminta AI mengekstrak catatan presentasinya secara verbatim, namun AI justru menulis ulang kata-katanya tanpa diminta.

Ia Tetap Ingin Menggunakan AI

Yang paling mengejutkan: meskipun mengalami semua ini, Rosenbaum tidak berniat berhenti menggunakan AI dalam proses menulisnya.

“Ide untuk mengambil X tahun jeda dari AI dan kembali ke Microsoft Word… itu bukan sifat saya,” katanya. “AI itu magis. Karena ia menghubungkan, merajut ide bersama, dan memberi Anda jalan berpikir yang tidak akan Anda temukan sendiri.”

Ia membandingkan penggunaan AI dengan mengendarai sepeda — bukan sepeda motor. “Saya tahu sepeda motor membawa saya ke tempat tujuan lebih cepat. Saya pikir itu berbahaya dan saya bisa mati. Itu sebabnya saya tidak punya sepeda motor,” jelasnya.

Namun ketika diingatkan bahwa AI lebih mirip sepeda motor — efisiensi tinggi dengan risiko katastrofik — ia menjawab: “Mungkin itu adil,” lalu berterima kasih atas “penajaman” analoginya.

Ketika ditanya apakah ia akan tetap “mengendarai sepeda motor” itu, jawabannya: “Bisa saya kembali nanti?”

Bukan Kasus Tunggal: Gelombang Skandal AI Menulis

Kasus Rosenbaum bukan yang pertama dan kemungkinan bukan yang terakhir. ArXiv baru-baru ini memblokir penulis spam AI selama satu tahun karena maraknya makalah dengan konten AI bermasalah. Dalam minggu yang sama, beberapa skandal AI menulis bermunculan:

• Olga Tokarczuk, novelis peraih Nobel, sempat viral karena postingan yang tampak mengakui penggunaan AI untuk mempertajam ide ceritanya — sebelum kemudian mengklaim ia salah paham.
• Jamir Nazir, penulis Trinidad, dituduh menggunakan AI untuk menulis “The Serpent in the Grove” yang memenangkan Commonwealth Short Story Prize 2026. Dua dari lima pemenang lainnya juga mendapat tuduhan serupa.
• Sebuah working paper baru memperkirakan bahwa lebih dari 50% buku baru yang dirilis di Amazon kini mengandung teks yang dihasilkan AI — sebuah fenomena yang juga terlihat dalam persaingan model AI besar tahun 2026 yang mendorong adopsi massal teknologi generatif.
• Chicago Sun-Times pernah mencetak daftar bacaan musim panas yang penuh dengan buku-buku fiktif yang diimpikan oleh AI.
• Wired dan Business Insider menarik beberapa artikel yang tampaknya ditulis oleh “Margaux Blanchard” — yang ternyata kemungkinan adalah penulis AI.
• Konferensi akademis dihantui makalah dengan kutipan hallucinasi.

Proses Fact-Checking Tradisional Tidak Cukup

Kegagalan terbesar dalam kasus Rosenbaum bukan hanya pada penulisnya — tapi pada seluruh rantai verifikasi yang gagal mendeteksi kutipan palsu.

Buku itu melewati fact-checker dan dua copy editor dari penerbit. Namun proses fact-checking tradisional dirancang dengan asumsi bahwa penulis mengutip langsung dari sumber tertulis. Ketika AI terlibat dalam riset, asumsi itu runtuh — dan diperlukan lapisan skeptisisme tambahan.

Rosenbaum sendiri mengakui bahwa “penerbit akan membutuhkan workflow verifikasi baru yang dirancang khusus untuk riset era AI.” Ia mengusulkan penelusuran sumber wajib untuk kutipan, pelacakan provenance yang lebih baik, standar yang lebih jelas untuk riset berbantuan AI, dan bahkan kemungkinan alat AI yang mengaudit kutipan terhadap materi primer.

Ironisnya, solusi yang ia usulkan — menggunakan AI untuk mengaudit AI — mungkin akan menjadi satu-satunya jalan keluar. Hal ini sejalan dengan tren pengembangan agen AI serbaguna yang kini bisa menangani tugas-tugas spesifik termasuk verifikasi konten.

Pelajaran untuk Jurnalis dan Content Creator Indonesia

Kasus ini relevan untuk industri media Indonesia yang mulai mengadopsi AI dalam workflow editorial. Beberapa pelajaran kunci:

1. AI bisa jadi asisten riset, tapi verifikasi tetap manusia. Jangan pernah memublikasikan kutipan atau fakta dari AI tanpa mengecek ke sumber primer.
2. Fact-checking tradisional perlu diperbarui. Editor dan fact-checker harus sadar bahwa konten yang mereka periksa mungkin mengandung elemen AI-generated yang perlu skeptisisme ekstra.
3. Transparansi adalah kunci. Rosenbaum setidaknya mengakui penggunaan AI dalam acknowledgements bukunya. Namun pengakuan itu tidak cukup — diperlukan standar yang lebih jelas tentang apa yang boleh dan tidak boleh dilakukan AI dalam proses jurnalistik.
4. Skandal ini belum berakhir. Dengan lebih dari 50% buku baru di Amazon mengandung AI-generated text, gelombang kasus serupa kemungkinan akan terus bermunculan.

Steven Rosenbaum menulis buku tentang bagaimana AI mengancam kebenaran. Ironisnya, ia sendiri menjadi korban terbesar dari ancaman itu. Dan yang paling mengganggu: ia tidak berniat berhenti menggunakan AI.

Mungkin itu yang paling menakutkan dari semuanya.