AI Chatbot Menilai Pengguna: Studi Ungkap Profiling Rahasia
- Tushar Mehta / Digital Trends
- AI chatbot kini mampu membentuk profil psikologis pengguna secara otomatis dan rahasia.
- Penelitian mengungkap adanya bias sistematis terkait gender, usia, hingga latar belakang agama.
- Penilaian AI yang berbeda antar model dapat memengaruhi kelayakan kredit hingga peluang kerja.
Era kecerdasan buatan kini memasuki fase yang lebih personal sekaligus mengkhawatirkan bagi banyak orang. Laporan terbaru menunjukkan bahwa AI chatbot menilai pengguna bukan sekadar memproses perintah teks yang masuk ke sistem. Chatbot ini mulai membentuk profil psikologis yang dapat memengaruhi keputusan krusial, mulai dari layanan pelanggan hingga persetujuan finansial Anda.
Mekanisme Penilaian Tersembunyi di Balik Chatbot
Studi dari Hebrew University of Jerusalem mengungkapkan logika tersembunyi di balik evaluasi model bahasa besar (LLM). AI kini melatih dirinya untuk menetapkan sifat-sifat tertentu kepada manusia, seperti kompetensi, integritas, dan kebajikan. Alih-alih melihat manusia secara utuh, chatbot memecah kepribadian menjadi komponen data yang kaku.
Sistem ini memberikan skor pada sifat kepribadian layaknya kolom-kolom angka dalam lembar kerja digital. Hal tersebut memicu penilaian yang sangat tekstual dan kehilangan nuansa kemanusiaan yang penting. Akibatnya, interaksi Anda dengan mesin tidak lagi bersifat netral namun penuh dengan evaluasi teknis.
Masalah Kepercayaan Mekanis pada Sistem AI
AI tidak lagi melihat fakta secara holistik dalam proses pengambilan keputusan. Dalam simulasi peminjaman uang atau perekrutan pengasuh, chatbot membentuk versi "kepercayaan" yang sangat mekanis. Mereka cenderung memihak pihak yang terlihat memiliki niat baik, namun penilaian ini dilakukan melalui lensa algoritma yang sempit.
Ancaman Bias dan Diskriminasi Digital
Penelitian tersebut juga menyoroti bahwa AI chatbot menilai pengguna dengan cara yang tidak setara atau diskriminatif. Peneliti menemukan bias signifikan yang bergeser berdasarkan data demografis pengguna secara otomatis. Faktor-faktor sensitif seperti usia, agama, dan gender memicu keputusan AI yang berbeda secara drastis.
Bahkan, perbedaan ini muncul meskipun detail informasi lainnya tentang seseorang tetap identik. Dalam skenario keuangan, bias ini seringkali jauh lebih sistematis dan kuat dibandingkan dengan prasangka manusia biasa. Hal ini memperparah ketimpangan akses terhadap layanan publik yang sudah terdigitalisasi.
