2 Kata Ini Ternyata Bikin ChatGPT Butuh Kekuatan Monster untuk Menjawab

• Baca Juga :

  Haier RHXG-H1, Mesin Penggosok Lantai Canggih 20.000Pa dengan Teknologi AI dan Sterilisasi Maksimal

  $0,0015 per 1.000 input token

• $0,002 per 1.000 output token

Jika satu ucapan sopan menyumbang tambahan token, maka ribuan, bahkan jutaan pengguna yang melakukan hal sama setiap hari, bisa menghasilkan beban operasional signifikan.

Simulasi perhitungannya cukup mencengangkan. Hanya dari kata-kata sopan, OpenAI bisa mengeluarkan sekitar $400 per hari, atau lebih dari $146.000 setahun—setara lebih dari Rp2,3 miliar. Dan ini hanya dari sopan santun.

Di Balik AI, Ada Konsumsi Energi Monster

Namun biaya operasional bukan hanya dalam bentuk dolar. Setiap token juga berarti daya listrik. Data dari pelatihan model GPT-4 menggambarkan realitas ini lebih gamblang.

Menurut Towards Data Science, pelatihan GPT-4:

• Memakai 25.000 GPU Nvidia A100

• Berlangsung selama 90–100 hari

• Mengonsumsi hingga 57.525.000 KWh listrik setelah dikalikan efisiensi data center (PUE 1,18)

Halaman Selanjutnya

Bandingkan dengan GPT-3 yang "hanya" mengonsumsi sekitar 1.287 MWh. Artinya, GPT-4 lebih dari 40 kali lipat lebih haus energi.