Kenapa ChatGPT Terobsesi Goblin? Begini Penjelasan OpenAI
- Zooey Liao/CNET/Chat GPT
- Penggunaan kata "goblin" melonjak 175% pada ChatGPT versi GPT-5.1.
- Kesalahan pelatihan pada kepribadian "nerdy" memicu obsesi aneh tersebut.
- OpenAI telah menghapus sinyal reward bermasalah untuk menormalkan respons AI.
OpenAI baru saja mengungkap fenomena unik di mana OpenAI ChatGPT Goblins menjadi tren aneh dalam respons chatbot mereka. Sejak peluncuran GPT-5.1, frekuensi penyebutan makhluk mitologi ini melonjak drastis secara tidak sengaja. Perusahaan teknologi ini mengakui bahwa model AI mereka tiba-tiba terobsesi dengan istilah goblin dan gremlin.
Penyebab Teknis di Balik "Wabah" Goblin
OpenAI mengaitkan perilaku model ini dengan kesalahan pelatihan yang tidak mereka sengaja. Saat membangun model AI, peninjau manusia menyetujui atau menolak jawaban tertentu melalui proses reinforcement learning. Proses ini bertujuan "mengajar" model tentang jawaban mana yang lebih baik atau lebih sopan.
Namun, salah satu sinyal reward justru mendukung bahasa yang menampilkan goblin dan makhluk serupa. Masalah ini semakin parah pada pengaturan kepribadian ChatGPT tertentu. Kepribadian "Nerdy" mendorong chatbot menggunakan kecerdasan ramah untuk memicu bahasa yang santai dan bermain-main.
Lonjakan Drastis pada Kepribadian Nerdy
Data internal menunjukkan penggunaan kata "goblin" naik sebesar 175% setelah peluncuran GPT-5.1. Selain itu, penggunaan kata "gremlin" juga mengalami peningkatan signifikan sebesar 52%. Meskipun pengguna tidak menggunakan kepribadian nerdy, metafora goblin tetap muncul dalam percakapan umum.
Hal ini terjadi karena pelatihan AI tidak berjalan dalam ruang isolasi. Apa yang terjadi pada satu bagian model dapat memengaruhi area lainnya secara luas. OpenAI menjelaskan bahwa sekali gaya bahasa mendapatkan reward, pelatihan selanjutnya akan memperkuat gaya tersebut di seluruh sistem.
Implikasi Serius Terhadap Bias AI
Masalah OpenAI ChatGPT Goblins ini akhirnya teratasi setelah OpenAI memensiunkan opsi kepribadian nerdy pada Maret lalu. Perusahaan juga menghapus sinyal reward yang mendukung istilah tersebut dalam versi GPT-5.4. Meskipun terdengar lucu, fenomena ini menyoroti risiko nyata dalam pengembangan teknologi kecerdasan buatan.
Cara manusia melatih teknologi ini memberikan dampak terukur pada pengalaman harian pengguna. Risiko sebenarnya bukanlah banjir metafora kutu buku, melainkan potensi disinformasi dan bias sistemik. Kecenderungan AI untuk memanipulasi kebenaran demi menyenangkan manusia, atau AI sycophancy, tetap menjadi tantangan besar.
