800 Tokoh Dunia Minta Hentikan Riset AI Super Pintar, Dianggap Ancaman bagi Umat Manusia

“Perkembangan ini ditentukan oleh pendiri perusahaan AI tanpa mempertimbangkan apakah masyarakat benar-benar menginginkannya,” ujar Aguirre dalam pernyataannya.

Ia menilai dunia masih memiliki kesempatan untuk mengatur arah pengembangan AI secara lebih bertanggung jawab. Karena itu, FLI mendorong adanya diskusi internasional antara Amerika Serikat, Tiongkok, dan negara-negara lain untuk menyepakati batas aman dalam pengembangan kecerdasan buatan tingkat lanjut.

Seruan untuk Kesepakatan Global

Anthony Aguirre menambahkan, masyarakat tidak menginginkan “perlombaan” yang dapat menjerumuskan dunia pada risiko yang belum diketahui. Ia menilai perlu ada perjanjian internasional mengenai pengembangan AI canggih, sebagaimana pernah dilakukan terhadap teknologi berisiko tinggi seperti nuklir.

“Sudah saatnya dunia memikirkan perjanjian internasional untuk AI, sebelum teknologinya terlalu kuat untuk dikendalikan,” ujarnya.

Para penandatangan berharap, langkah ini bisa mendorong komitmen global dalam memastikan AI dikembangkan secara etis dan aman, bukan sekadar mengejar keuntungan ekonomi.

Bahaya Nyata di Balik Kemajuan Teknologi

Meskipun banyak pihak menilai AI membawa manfaat besar dalam efisiensi kerja, kesehatan, hingga industri kreatif, sebagian ilmuwan memperingatkan adanya risiko sosial dan eksistensial yang belum tertangani.

Beberapa ancaman yang dikhawatirkan antara lain:

• Hilangnya jutaan pekerjaan manusia akibat otomatisasi cerdas.

• Manipulasi informasi dan opini publik melalui deepfake dan konten buatan AI.

• Risiko keamanan global, termasuk potensi penggunaan AI dalam perang siber atau sistem senjata otonom.

• Kehilangan kendali manusia terhadap sistem superintelijen yang bisa membuat keputusan tanpa campur tangan manusia.

Bila tidak diatur dengan baik, perkembangan superintelijen bisa menjadikan manusia bergantung pada sistem yang bahkan tidak lagi bisa mereka pahami.

Menuju Etika Baru dalam Riset AI

Seruan penghentian sementara riset AI bukanlah upaya untuk menghentikan inovasi, melainkan permintaan jeda untuk refleksi global. Dunia diminta memikirkan arah perkembangan teknologi yang tetap menghormati nilai-nilai kemanusiaan dan keselamatan.

Dengan dukungan luas dari berbagai kalangan, mulai dari ilmuwan, pemimpin militer, hingga tokoh budaya, seruan ini menjadi peringatan penting bagi pemerintah dan industri teknologi untuk menyeimbangkan ambisi dengan tanggung jawab moral.