Google Hapus AI Kesehatan: Bahaya Fatal Informasi Medis Palsu
- Unsplash
- Google menghapus ringkasan kesehatan AI Overviews setelah ditemukan memberikan informasi medis yang berbahaya dan tidak akurat.
- Masalah utama AI adalah gagal memahami konteks individu, seperti usia, jenis kelamin, dan riwayat medis, dalam menafsirkan hasil tes darah.
- Informasi AI yang menyesatkan dapat membuat pasien melewatkan tindak lanjut medis yang krusial.
Hampir semua orang pernah mengalaminya. Saat merasakan sakit aneh atau mendapat hasil tes yang membingungkan, kita langsung mencari jawaban di Google. Anda hanya mencari kepastian, bukan gelar medis. Namun, Google baru-baru ini harus menghentikan sementara ringkasan pencarian AI mereka. Pasalnya, investigasi menunjukkan adanya Bahaya AI Kesehatan Google yang signifikan. Mencari saran medis dari robot ternyata bisa sangat berbahaya.
Google secara diam-diam menghapus sejumlah ringkasan kesehatan yang dihasilkan AI dari hasil pencarian. Penghapusan ini terjadi setelah sebuah penyelidikan mengungkapkan bahwa AI memberikan informasi yang tidak akurat. Laporan tersebut bahkan menyebut data AI tersebut berpotensi menakutkan bagi pembaca. Ini semua bermula setelah laporan The Guardian menunjukkan bahwa "AI Overviews"—kotak berwarna yang muncul di bagian atas pencarian—menyajikan data yang tidak lengkap.
Mengapa Data AI Bisa Menyesatkan? Studi Kasus Tes Darah
Para ahli menyoroti masalah paling mencolok: interpretasi hasil tes darah. Misalnya, pengguna bertanya tentang "rentang normal tes fungsi hati." AI hanya menyajikan daftar angka yang dikeruk dari sumber online.
Jurang Konteks dan Konsekuensi Dunia Nyata
AI gagal mempertimbangkan konteks krusial. Sistem tersebut tidak menanyakan usia, jenis kelamin, etnis, atau riwayat medis Anda. Ia hanya memberikan angka datar. Para ahli medis tegas menyatakan: ini adalah informasi yang berbahaya.
Kesalahan AI bukan sekadar salah ketik; ini adalah informasi yang menyesatkan secara medis. Bayangkan pasien dengan stadium awal penyakit hati mencari hasil mereka. AI mungkin menyatakan angka mereka "normal," karena angka tersebut dikeruk dari sumber umum. Pasien lantas merasa aman dan melewatkan janji tindak lanjut.
Padahal, angka yang "normal" bagi usia 20 tahun justru bisa menjadi sinyal bahaya bagi usia 50 tahun. AI tidak memiliki nuansa untuk memahami perbedaan tersebut. Jurang konteks inilah yang menimbulkan konsekuensi serius di dunia nyata.
Respon Google dan Masalah 'Digital Whack-a-Mole'
Google merespons dengan menghapus kueri spesifik yang ditandai sebagai masalah. Mereka bersikeras bahwa sistem AI mereka pada umumnya sangat membantu. Sayangnya, tindakan tersebut tidak menyelesaikan masalah secara menyeluruh.
Organisasi kesehatan, seperti British Liver Trust, menemukan kelemahan fatal lainnya. Ketika pertanyaan diubah sedikit saja, informasi buruk yang sama kembali muncul. Ini ibarat permainan 'digital whack-a-mole.' Anda memperbaiki satu kesalahan, dan AI menghasilkan yang baru lima detik kemudian.
Menimbang Ulang Kepercayaan pada Informasi Medis Digital
AI Overviews muncul di bagian paling atas halaman pencarian. Posisi ini memberikan otoritas yang kuat. Ringkasan AI bahkan diletakkan di atas tautan resmi rumah sakit atau jurnal medis.
Kita cenderung memercayai hasil teratas. Saat Google menyajikan jawaban dalam kotak rapi, otak kita secara tidak sadar menganggapnya sebagai jawaban yang benar. Padahal, itu hanyalah mesin prediksi yang mencoba menebak kata-kata selanjutnya.
Bahaya AI Kesehatan Google ini jelas menjadi peringatan besar. AI mungkin hebat untuk meringkas surel atau merencanakan perjalanan. Akan tetapi, untuk urusan kesehatan, AI jelas belum siap digunakan. Sampai sistem ini dapat memahami konteks medis secara mendalam—atau sampai Google menerapkan pagar pembatas yang lebih ketat—lebih aman bagi Anda untuk mengklik tautan dokter nyata. Kecepatan memang nyaman, namun akurasi adalah satu-satunya hal yang penting saat kita membicarakan kesehatan Anda.
