Silicon Valley Berselisih: Perlukah Senjata AI Diberi Wewenang Memutuskan Pembunuhan?
- Silicon Valley
Gadget – Di akhir September, sebuah pernyataan dari pendiri Shield AI, Brandon Tseng, menciptakan gelombang perdebatan di kalangan para ahli teknologi. Tseng menyatakan bahwa senjata yang sepenuhnya otonom di Amerika Serikat tidak akan pernah diizinkan untuk membuat keputusan final soal pembunuhan, dengan mengatakan bahwa Kongres dan masyarakat umum menentang hal tersebut. Namun, pernyataan ini segera mendapat respons beragam dari sesama penggiat teknologi di Silicon Valley.
Lima hari setelah pernyataan Tseng, salah seorang pendiri Anduril, Palmer Luckey, memberikan pandangannya yang berbeda. Dalam sebuah ceramah di Pepperdine University, Luckey mengungkapkan skeptisismenya terhadap argumen bahwa senjata otonom tidak boleh menentukan siapa yang hidup atau mati. Ia menyoroti bagaimana senjata tradisional seperti ranjau darat, yang juga membunuh tanpa pandang bulu, telah lama digunakan, meskipun tak mampu membedakan target yang sah seperti tank Rusia dari bus sekolah.
Ketika dimintai penjelasan lebih lanjut, juru bicara Anduril, Shannon Prior, mengklarifikasi bahwa Luckey tidak mengadvokasi pembunuhan otonom tanpa kontrol manusia. Sebaliknya, ia mengkhawatirkan skenario di mana musuh, seperti negara lain, menggunakan AI secara tidak bertanggung jawab. Dengan kata lain, Luckey mengangkat kekhawatiran bahwa teknologi AI yang digunakan oleh pihak "jahat" dapat menimbulkan ancaman baru.
Sikap Beragam di Silicon Valley
Sikap Silicon Valley terhadap pengembangan senjata otonom tampaknya bervariasi. Contohnya, Trae Stephens, salah satu pendiri Anduril, menyatakan tahun lalu bahwa AI seharusnya membantu manusia membuat keputusan yang tepat dalam konteks persenjataan. Namun, ia tidak mengatakan bahwa manusia harus selalu terlibat dalam setiap keputusan. Fokusnya adalah memastikan adanya tanggung jawab atas keputusan terkait kematian.
Pernyataan ini menyoroti ketidakpastian yang melingkupi topik senjata AI di AS. Hingga kini, militer AS belum membeli senjata yang sepenuhnya otonom, meskipun teknologi seperti rudal dan ranjau darat telah beroperasi secara semi-otomatis selama bertahun-tahun. Namun, banyak ahli memperingatkan bahwa senjata yang dapat mengambil keputusan secara mandiri, tanpa campur tangan manusia, akan membawa konsekuensi moral dan etika yang berat.
