Agar Konten Buatan AI Tidak Mengarang Klaim: Penjaga di Kode, Bukan Sekadar Perintah di Prompt

Jika Anda memakai AI untuk menulis deskripsi produk, naskah, atau balasan pelanggan, cepat atau lambat AI akan menulis sesuatu yang tidak benar: jaminan yang tidak pernah diberikan produk, hasil yang tidak pernah dijanjikan, atau nama merek yang tidak ada. Menambahkan perintah "jangan mengarang" di prompt memang sedikit membantu, tetapi tidak menyelesaikan masalah. Di pipeline penulisan AI yang kami bangun untuk salah satu produk kami sendiri, perbaikan yang benar-benar berhasil semuanya ada di kode.

1. Cocokkan hasil tulisan dengan data sumber

Siapkan daftar frasa berisiko untuk bidang Anda: klaim mutlak seperti "dijamin" atau "100%", kata-kata ajaib seperti "permanen" atau "instan", dan janji hasil. Setelah AI menulis, periksa teksnya. Jika frasa berisiko muncul padahal tidak ada di data produk yang Anda berikan, tulisan ditolak. Kuncinya ada pada perbandingan dengan sumber: jika data produk memang menyebut "tahan air", kata itu boleh dipakai. Jika tidak, berarti tidak boleh.

2. Tangkap nama yang dikarang

Model AI suka membuat tulisan terdengar spesifik dengan menambahkan nama merek atau produk. Aturan sederhana sudah bisa menangkap sebagian besar kasus: nama berhuruf kapital di tengah kalimat yang tidak ada di data masukan dianggap karangan. Sediakan daftar pengecualian kecil untuk kata yang memang wajar berhuruf kapital, lalu tolak sisanya.

3. Tolak, jelaskan, ulangi, lalu hentikan

Saat pemeriksaan gagal, jangan sekadar membuat ulang secara membabi buta. Kirim kembali drafnya dengan catatan singkat yang menyebut kesalahannya secara persis ("kata 'permanen' tidak ada di data produk") dan minta ditulis ulang. Beri beberapa kesempatan. Jika masih gagal, blokir dan tampilkan pesan yang jelas, jangan teruskan hasil yang salah ke pengguna. Kegagalan yang terlihat lebih baik daripada kesalahan yang terdengar meyakinkan.

4. Contoh lebih kuat daripada aturan

Kami mempelajari ini dengan cara yang lambat. Mengubah aturan tertulis di prompt sering kali hampir tidak berpengaruh, karena contoh naskah yang ikut disertakan ternyata lebih kuat daripada instruksinya. Begitu contohnya diganti dengan yang menunjukkan struktur yang kami inginkan, hasilnya langsung berubah. Kurasi contoh secermat Anda menyusun aturan, dan pensiunkan contoh lama ketika standar Anda berubah.

5. Periksa hasil akhirnya, bukan hanya teksnya

Jika teks masih melewati tahap lain, periksa juga tahap itu. Pada pipeline suara, misalnya, audio yang dihasilkan bisa melewatkan satu kalimat. Kami mentranskripsikan hasilnya dan membandingkannya dengan naskah, dan hasil yang tidak mengucapkan seluruh naskah tidak pernah sampai ke pengguna. Prinsip ini berlaku untuk otomasi apa pun: periksa hal yang benar-benar diterima pengguna.

Yang tidak tertangkap oleh pemeriksaan ini

Pemeriksaan di kode bagus untuk klaim yang eksplisit, tetapi lemah untuk klaim tersirat, misalnya kalimat yang mengesankan manfaat tanpa memakai kata berisiko. Untuk itu, jawaban praktisnya adalah membiarkan orang menyunting draf sebelum diterbitkan, dan membuat proses suntingnya mudah. Otomasi yang baik tidak menghilangkan pemeriksaan manusia. Otomasi membuat pemeriksaan lebih cepat dan fokus pada hal yang penting.