2 Kata Ini Ternyata Bikin ChatGPT Butuh Kekuatan Monster untuk Menjawab

• $0,0015 per 1.000 input token

• $0,002 per 1.000 output token

Jika satu ucapan sopan menyumbang tambahan token, maka ribuan, bahkan jutaan pengguna yang melakukan hal sama setiap hari, bisa menghasilkan beban operasional signifikan.

Simulasi perhitungannya cukup mencengangkan. Hanya dari kata-kata sopan, OpenAI bisa mengeluarkan sekitar $400 per hari, atau lebih dari $146.000 setahun—setara lebih dari Rp2,3 miliar. Dan ini hanya dari sopan santun.

Di Balik AI, Ada Konsumsi Energi Monster

Namun biaya operasional bukan hanya dalam bentuk dolar. Setiap token juga berarti daya listrik. Data dari pelatihan model GPT-4 menggambarkan realitas ini lebih gamblang.

Menurut Towards Data Science, pelatihan GPT-4:

• Memakai 25.000 GPU Nvidia A100

• Berlangsung selama 90–100 hari

• Mengonsumsi hingga 57.525.000 KWh listrik setelah dikalikan efisiensi data center (PUE 1,18)