Google Hapus AI Kesehatan: Bahaya Fatal Informasi Medis Palsu

Respon Google dan Masalah 'Digital Whack-a-Mole'

Google merespons dengan menghapus kueri spesifik yang ditandai sebagai masalah. Mereka bersikeras bahwa sistem AI mereka pada umumnya sangat membantu. Sayangnya, tindakan tersebut tidak menyelesaikan masalah secara menyeluruh.

Organisasi kesehatan, seperti British Liver Trust, menemukan kelemahan fatal lainnya. Ketika pertanyaan diubah sedikit saja, informasi buruk yang sama kembali muncul. Ini ibarat permainan 'digital whack-a-mole.' Anda memperbaiki satu kesalahan, dan AI menghasilkan yang baru lima detik kemudian.

Menimbang Ulang Kepercayaan pada Informasi Medis Digital

AI Overviews muncul di bagian paling atas halaman pencarian. Posisi ini memberikan otoritas yang kuat. Ringkasan AI bahkan diletakkan di atas tautan resmi rumah sakit atau jurnal medis.

Kita cenderung memercayai hasil teratas. Saat Google menyajikan jawaban dalam kotak rapi, otak kita secara tidak sadar menganggapnya sebagai jawaban yang benar. Padahal, itu hanyalah mesin prediksi yang mencoba menebak kata-kata selanjutnya.

Bahaya AI Kesehatan Google ini jelas menjadi peringatan besar. AI mungkin hebat untuk meringkas surel atau merencanakan perjalanan. Akan tetapi, untuk urusan kesehatan, AI jelas belum siap digunakan. Sampai sistem ini dapat memahami konteks medis secara mendalam—atau sampai Google menerapkan pagar pembatas yang lebih ketat—lebih aman bagi Anda untuk mengklik tautan dokter nyata. Kecepatan memang nyaman, namun akurasi adalah satu-satunya hal yang penting saat kita membicarakan kesehatan Anda.