Beritagosip.com – Sejumlah peneliti Google DeepMind memilih mundur dari perusahaan. Mereka menolak AI besutannya dipakai untuk operasi militer.
Sofia Ligouri, insinyur riset asal Inggris, mengundurkan diri pekan lalu setelah tiga tahun bekerja di Google. Ia menyoroti kontrak Google dengan militer AS dan Israel.
“Menyadari bahwa perusahaan tempat saya bekerja semakin mendorong penggunaan sistem AI dalam operasi militer membuat saya merasa malu bekerja di Google,” ungkap Ligouri kepada BBC.
“Saya tidak setuju dengan arah ini. Hal tersebut membuat saya kehilangan kepercayaan bahwa perusahaan saya benar-benar berpegang pada nilai-nilai etika yang selama ini mereka nyatakan,” tambahnya.
Nilai yang ia maksud tertuang dalam prinsip AI Google: penerapan dengan “pengawasan manusia” dan keselarasan dengan “hukum internasional dan hak asasi manusia”.
Khawatir AI Lepas Kendali
Kesepakatan AI militer yang Pentagon dan Google teken tahun ini memperluas cakupan penggunaan teknologi itu. Perjanjian tersebut membolehkan pemerintah memakai model AI Google untuk “segala tujuan pemerintah yang sah secara hukum”, namun melarang pengawasan massal warga sipil dan senjata otonom tanpa kendali manusia.
Peneliti lain, Andreas Krisch, juga mundur awal bulan ini. Ia menilai tata kelola Google belum memadai untuk menerapkan AI secara aman dalam operasi militer yang rahasia.
“Google tampaknya tidak memiliki hak untuk mengendalikan atau memveto cara Pentagon menggunakan AI mereka. Google juga tampaknya memiliki akses informasi yang terbatas mengenai bagaimana teknologi tersebut diterapkan,” jelas Krisch.
Sejumlah karyawan mengaku takut bersuara karena kontrak kerja melarang kritik terbuka. Ligouri sendiri bergeming.
“Pada prinsipnya, saya tidak diizinkan untuk mengkritik Google seumur hidup saya. Karena saya percaya hal-hal seperti ini perlu diketahui. Saya juga berpikir bahwa membicarakan fakta bukanlah tindakan mengkritik,” tutur Ligouri.
Jawaban Google
Juru bicara Google merespons bahwa perusahaan mengikuti proses konsisten dalam meninjau kontrak, termasuk kepatuhan pada kebijakan penggunaan dan prinsip AI.
“Kami juga memiliki saluran khusus bagi karyawan untuk menyampaikan kekhawatiran dengan aman,” kata juru bicara itu.
