Waspada! Akurasi Medis AI Chatbot Ternyata Masih Meragukan

• Penelitian terbaru menunjukkan separuh jawaban medis dari chatbot AI populer mengandung informasi yang bermasalah.
• Model besar seperti ChatGPT, Gemini, hingga Grok seringkali gagal memberikan referensi ilmiah yang akurat dan lengkap.
• Pertanyaan terbuka terkait pengobatan dan vaksin meningkatkan risiko munculnya saran kesehatan yang menyesatkan.

---

Banyak orang mulai mengandalkan chatbot kecerdasan buatan sebagai pengganti mesin pencari untuk mendapatkan informasi kesehatan harian. Namun, kebiasaan ini tergolong berisiko tinggi setelah sebuah studi menemukan bahwa 50 persen jawaban AI chatbot bermasalah. Padahal, jawaban yang diberikan seringkali terdengar sangat meyakinkan dan profesional. Peneliti menyoroti bahwa akurasi medis AI chatbot masih jauh dari standar keamanan yang dibutuhkan untuk panduan kesehatan manusia.

Risiko Fatal Akurasi Medis AI Chatbot pada Pertanyaan Terbuka

Para peneliti menguji ChatGPT, Gemini, Grok, Meta AI, dan DeepSeek dengan 250 perintah mengenai kanker hingga vaksin. Hasilnya menunjukkan bahwa pertanyaan bersifat terbuka menghasilkan celah kesalahan yang paling besar bagi model AI tersebut. Pertanyaan luas mengenai efektivitas pengobatan justru memicu bot untuk memberikan jawaban yang mencampuradukkan bukti kuat dengan klaim lemah.

Kegagalan Referensi dan Sumber Informasi Palsu

Kelemahan AI tidak hanya berhenti pada substansi jawaban yang mereka berikan kepada pengguna. Kualitas referensi yang mereka cantumkan sangat buruk, dengan skor kelengkapan rata-rata hanya menyentuh angka 40 persen saja. Bahkan, tidak ada satu pun chatbot dalam pengujian ini yang mampu menghasilkan daftar referensi medis yang sepenuhnya akurat.

Kondisi ini tentu saja merusak kepercayaan publik terhadap respons chatbot yang terlihat otoritatif. Sebuah jawaban mungkin tampak didukung sumber kredibel, namun kebenarannya langsung runtuh saat kutipan tersebut diperiksa secara mendalam. Peneliti bahkan menemukan adanya referensi buatan atau fiktif yang disajikan AI dengan penuh percaya diri tanpa peringatan risiko.

Analisis Risiko Penggunaan AI Chatbot ke Depan

Meskipun teknologi ini terus berevolusi, sistem kecerdasan buatan masih belum bisa diandalkan untuk keputusan medis yang krusial. Chatbot mungkin cukup membantu untuk merangkum informasi dasar atau sekadar menyusun draf pertanyaan untuk dokter. Namun, data menunjukkan bahwa ketergantungan penuh pada AI saat ini bisa membawa dampak negatif bagi keselamatan pasien.

Penting bagi masyarakat untuk tetap memprioritaskan konsultasi dengan tenaga medis profesional daripada mempercayai AI sepenuhnya. Mengingat rendahnya akurasi medis AI chatbot dalam studi ini, verifikasi mandiri melalui sumber resmi tetap menjadi kewajiban. Teknologi ini harus dipandang sebagai alat bantu pendukung, bukan sumber kebenaran tunggal dalam dunia kesehatan yang kompleks.