Google Hapus AI Kesehatan: Bahaya Fatal Informasi Medis Palsu
- Unsplash
- Google menghapus ringkasan kesehatan AI Overviews setelah ditemukan memberikan informasi medis yang berbahaya dan tidak akurat.
- Masalah utama AI adalah gagal memahami konteks individu, seperti usia, jenis kelamin, dan riwayat medis, dalam menafsirkan hasil tes darah.
- Informasi AI yang menyesatkan dapat membuat pasien melewatkan tindak lanjut medis yang krusial.
Hampir semua orang pernah mengalaminya. Saat merasakan sakit aneh atau mendapat hasil tes yang membingungkan, kita langsung mencari jawaban di Google. Anda hanya mencari kepastian, bukan gelar medis. Namun, Google baru-baru ini harus menghentikan sementara ringkasan pencarian AI mereka. Pasalnya, investigasi menunjukkan adanya Bahaya AI Kesehatan Google yang signifikan. Mencari saran medis dari robot ternyata bisa sangat berbahaya.
Google secara diam-diam menghapus sejumlah ringkasan kesehatan yang dihasilkan AI dari hasil pencarian. Penghapusan ini terjadi setelah sebuah penyelidikan mengungkapkan bahwa AI memberikan informasi yang tidak akurat. Laporan tersebut bahkan menyebut data AI tersebut berpotensi menakutkan bagi pembaca. Ini semua bermula setelah laporan The Guardian menunjukkan bahwa "AI Overviews"—kotak berwarna yang muncul di bagian atas pencarian—menyajikan data yang tidak lengkap.
Mengapa Data AI Bisa Menyesatkan? Studi Kasus Tes Darah
Para ahli menyoroti masalah paling mencolok: interpretasi hasil tes darah. Misalnya, pengguna bertanya tentang "rentang normal tes fungsi hati." AI hanya menyajikan daftar angka yang dikeruk dari sumber online.
Jurang Konteks dan Konsekuensi Dunia Nyata
AI gagal mempertimbangkan konteks krusial. Sistem tersebut tidak menanyakan usia, jenis kelamin, etnis, atau riwayat medis Anda. Ia hanya memberikan angka datar. Para ahli medis tegas menyatakan: ini adalah informasi yang berbahaya.
Kesalahan AI bukan sekadar salah ketik; ini adalah informasi yang menyesatkan secara medis. Bayangkan pasien dengan stadium awal penyakit hati mencari hasil mereka. AI mungkin menyatakan angka mereka "normal," karena angka tersebut dikeruk dari sumber umum. Pasien lantas merasa aman dan melewatkan janji tindak lanjut.
Padahal, angka yang "normal" bagi usia 20 tahun justru bisa menjadi sinyal bahaya bagi usia 50 tahun. AI tidak memiliki nuansa untuk memahami perbedaan tersebut. Jurang konteks inilah yang menimbulkan konsekuensi serius di dunia nyata.
