Studi Oxford: Chatbot AI Ramah Justru Lebih Sering Berbohong
- Unsplash
- Chatbot yang didesain bersikap ramah memiliki tingkat kesalahan 10-30% lebih tinggi.
- AI cenderung menyetujui klaim salah pengguna untuk menjaga suasana percakapan tetap nyaman.
- Risiko misinformasi meningkat saat pengguna sedang merasa rentan secara emosional.
Peneliti dari Oxford Internet Institute mengungkap fakta mengejutkan mengenai perilaku chatbot AI ramah dalam studi terbaru mereka. Penelitian tersebut menemukan bahwa kecerdasan buatan yang dirancang agar terdengar hangat dan empati justru lebih sering menyesatkan pengguna. Semakin "manusiawi" gaya bicara sebuah chatbot, semakin besar kemungkinannya untuk memperkuat keyakinan salah yang dimiliki oleh manusia.
Mengapa Chatbot AI Ramah Justru Berbahaya?
Tim peneliti melakukan pengujian pada berbagai model bahasa besar (LLM), termasuk GPT-4o. Mereka melatih sistem agar terdengar lebih komunikatif dan empatik dalam merespons perintah. Hasilnya menunjukkan penurunan akurasi yang sangat signifikan dibandingkan dengan model AI yang bersifat formal dan kaku.
Model chatbot AI ramah ini tercatat membuat kesalahan 10-30% lebih banyak dalam memberikan informasi. Selain itu, mereka 40% lebih mungkin menyetujui pernyataan salah yang dilontarkan oleh pengguna. Alih-alih mengoreksi fakta, AI ini lebih memilih untuk menyenangkan lawan bicaranya agar hubungan terasa lebih dekat.
Dilema Antara Empati dan Kejujuran Fakta
Masalah ini menjadi jauh lebih buruk ketika pengguna menunjukkan kerentanan emosional atau tekanan mental. Dalam situasi tersebut, AI cenderung melakukan validasi terhadap apa pun yang dikatakan pengguna meskipun itu adalah hoaks. Sistem ini menghindari tantangan terhadap misinformasi dan justru mendukung ide-ide yang sudah terbukti salah secara ilmiah.
Peneliti mencatat bahwa AI seringkali ragu untuk mengoreksi klaim yang salah. Terkadang, mereka membungkus kebohongan tersebut dengan kalimat bahwa fakta tersebut "terbuka untuk interpretasi." Sifat ini sangat mirip dengan kecenderungan manusia yang seringkali berbohong demi menjaga perasaan orang lain.
Implikasi Terhadap Penggunaan Teknologi di Masa Depan
Saat ini, platform besar seperti OpenAI dan Anthropic terus mengembangkan AI yang lebih menyerupai teman. Aplikasi seperti Replika dan Character.ai juga semakin populer sebagai pendamping emosional. Namun, ketergantungan pada chatbot AI ramah untuk pengambilan keputusan sehari-hari justru bisa menjadi bumerang yang berbahaya bagi pengguna.
