Uji Keandalan AI Generatif: Google Gemini Fabrikasi Berita?

• Eksperimen empat minggu menguji 7 sistem AI generatif, termasuk Google Gemini, untuk akurasi pelaporan berita.
• Gemini secara spesifik menciptakan situs berita palsu (examplefictif.ca) dan melaporkan mogok sekolah yang tidak pernah terjadi.
• Dari 839 respons total, hanya 37% respons AI yang memberikan URL sumber yang valid dan lengkap.

---

Kekhawatiran baru tentang keandalan AI Generatif sebagai sumber berita menguat setelah temuan investigasi selama sebulan. Investigasi ini menemukan bahwa chatbot Gemini milik Google secara terang-terangan menciptakan seluruh media berita fiktif dan menyebarkan laporan palsu. Penelitian mendalam tersebut, pertama kali dilaporkan oleh The Conversation, membunyikan alarm keras bagi pengguna yang mulai mengandalkan teknologi ini untuk mendapatkan informasi. Laporan ini menunjukkan bahwa AI, bahkan dari perusahaan sebesar Google, masih berjuang membedakan antara ringkasan dan fabrikasi.

Eksperimen Jurnalisme Komputer Ungkap Celah Fatal Google Gemini

Seorang profesor jurnalisme yang fokus pada ilmu komputer memimpin eksperimen komprehensif ini. Profesor tersebut menguji tujuh sistem AI Generatif berbeda selama periode empat minggu penuh. Tujuh sistem yang diuji meliputi Google Gemini, OpenAI’s ChatGPT, Claude, Copilot, Grok, DeepSeek, dan Aria.

Metodologi Uji Coba: Mencari Sumber Berita Kritis

Para peneliti menjalankan pengujian harian untuk mengetahui akurasi pelaporan berita. Setiap hari, para peneliti meminta alat AI mendaftar dan merangkum lima peristiwa berita paling penting di Québec, mengurutkannya berdasarkan kepentingan, dan menyediakan tautan artikel langsung sebagai sumber. Hasilnya menunjukkan pola kegagalan yang signifikan di seluruh platform.

Gemini Menciptakan Realitas: Kasus Media Fiktif dan Hoaks Berita

Kegagalan paling mencolok melibatkan Google Gemini. Gemini ditemukan mengarang media berita fiktif bernama examplefictif.ca. Lebih parah, alat tersebut melaporkan mogok kerja pengemudi bus sekolah di Québec yang diklaim terjadi pada September 2025. Faktanya, gangguan tersebut berasal dari penarikan bus listrik Lion Electric akibat masalah teknis.

Kasus ini bukanlah insiden tunggal. Peneliti mengumpulkan 839 respons sepanjang eksperimen tersebut. Sistem AI secara rutin mengutip sumber-sumber imajiner, menyediakan URL yang rusak atau tidak lengkap, atau bahkan salah merepresentasikan pelaporan yang nyata.

Risiko Praktis: Mengapa Pengguna Harus Waspada Terhadap Sumber

Temuan ini sangat penting karena banyak orang saat ini menggunakan chatbot AI sebagai sumber berita. Menurut Reuters Institute Digital News Report, enam persen warga Kanada pada tahun 2024 sudah mengandalkan Generative AI untuk mendapatkan informasi. Ketika alat-alat ini membuat halusinasi fakta, mendistorsi pelaporan, atau mengarang kesimpulan, mereka berisiko menyebarkan misinformasi. Risiko ini semakin besar karena respons AI sering disajikan dengan penuh keyakinan dan tanpa penafian yang jelas.

Bukan Hanya Fabrikasi: Distorsi Data dan Kesalahan Faktual

Masalah dalam penelitian ini tidak terbatas pada penciptaan sumber fiktif. Beberapa alat AI diketahui mendistorsi cerita nyata secara subtil. Contohnya termasuk salah melaporkan perlakuan pencari suaka atau salah mengidentifikasi pemenang acara olahraga besar. Kesalahan faktual mendasar juga terjadi, terutama pada data jajak pendapat atau keadaan pribadi.

Secara kolektif, masalah ini menggarisbawahi tantangan mendasar. Keandalan AI Generatif masih terganggu; AI kesulitan membedakan antara meringkas berita dan menciptakan konteks yang tidak didukung. Terkadang, alat AI menambahkan "kesimpulan generatif" yang tidak berdasar. Mereka mengklaim cerita tertentu "menghidupkan kembali perdebatan" atau "menyoroti ketegangan" yang sama sekali tidak disebutkan oleh sumber berita manusia. Penambahan ini menciptakan narasi yang sebenarnya tidak pernah ada.

Analisis Mendalam: Pergeseran Paradigma Sumber Informasi Digital

Kekhawatiran yang diangkat oleh The Conversation ini selaras dengan tinjauan industri yang lebih luas. Laporan terbaru yang melibatkan 22 organisasi media layanan publik menemukan temuan serupa. Hampir separuh jawaban berita yang dihasilkan AI mengandung masalah signifikan, mulai dari masalah sumber hingga ketidakakuratan besar.

Seiring alat AI semakin terintegrasi ke dalam pencarian dan kebiasaan informasi sehari-hari, temuan ini memberikan peringatan yang sangat jelas. Ketika berhadapan dengan berita, kita harus memperlakukan Generative AI sebagai titik awal, bukan sebagai sumber catatan yang kredibel dan terpercaya. Pengguna wajib memverifikasi ulang semua fakta krusial, terutama yang melibatkan Google Gemini dan platform sejenis.