Google Drops Janji untuk tidak mengembangkan senjata AI

Perusahaan induk Google Alphabet telah menjatuhkan janji untuk tidak menggunakan kecerdasan buatan (AI) dalam sistem senjata atau alat pengawasan, mengutip kebutuhan untuk mendukung keamanan nasional “demokrasi”.

CEO Google Sundar Pichai, dalam sebuah blogpost yang diterbitkan Juni 2018, sebelumnya menguraikan bagaimana perusahaan akan “tidak mengejar” aplikasi AI yang “menyebabkan atau kemungkinan menyebabkan kerusakan keseluruhan”, dan secara khusus berkomitmen untuk tidak mengembangkan AI untuk digunakan dalam “senjata atau lainnya Teknologi yang tujuan atau implementasi utamanya adalah untuk menyebabkan atau secara langsung memfasilitasi cedera pada orang -orang ”.

Dia menambahkan bahwa Google juga tidak akan mengejar “teknologi yang mengumpulkan atau menggunakan informasi untuk pengawasan yang melanggar norma yang diterima secara internasional”.

Google-moto perusahaannya ‘Don’t Be Evil’ digantikan pada tahun 2015 dengan ‘Do the Right Thing’-membela keputusan untuk menghapus tujuan ini dari halaman web prinsip AI di blogpost yang ditulis bersama oleh Demis Hassabis, CEO Google DeepMind ; dan James Manyika, wakil presiden senior perusahaan untuk teknologi dan masyarakat.

“Ada persaingan global yang terjadi untuk kepemimpinan AI dalam lanskap geopolitik yang semakin kompleks. Kami percaya demokrasi harus memimpin dalam pengembangan AI, dipandu oleh nilai -nilai inti seperti kebebasan, kesetaraan dan penghormatan terhadap hak asasi manusia, ”tulis mereka pada 4 Februari.

“Dan kami percaya bahwa perusahaan, pemerintah, dan organisasi yang berbagi nilai -nilai ini harus bekerja sama untuk menciptakan AI yang melindungi orang, mempromosikan pertumbuhan global dan mendukung keamanan nasional.”

Mereka menambahkan bahwa prinsip -prinsip AI Google sekarang akan fokus pada tiga penyewa inti, termasuk “inovasi berani”, yang bertujuan untuk “membantu, memberdayakan, dan menginspirasi orang -orang di hampir setiap bidang upaya manusia” dan mengatasi tantangan terbesar kemanusiaan; “Pengembangan dan Penyebaran yang Bertanggung Jawab”, yang berarti mengejar AI secara bertanggung jawab di seluruh sistem seluruh siklus hidup; dan “Kemajuan Kolaboratif, Bersama”, yang berfokus pada pemberdayaan “orang lain untuk memanfaatkan AI secara positif”.

Mengomentari Perubahan Kebijakan Google, Elke Schwarz – seorang profesor teori politik di Queen Mary University London dan penulis Mesin Kematian: Etika Teknologi Kekerasan – mengatakan bahwa sementara itu “sama sekali tidak mengejutkan” mengingat perusahaan telah memasok militer AS (dan dilaporkan IDF) dengan layanan cloud, dia masih khawatir tentang suasana hati yang bergeser di antara perusahaan teknologi besar menuju AI militer; Banyak di antaranya sekarang berpendapat “tidak etis untuk tidak terjebak” mengembangkan aplikasi AI untuk konteks ini.

“Google sekarang merasa cukup nyaman untuk membuat perubahan publik yang begitu besar tanpa harus menghadapi reaksi atau dampak yang signifikan memberi Anda rasa di mana kami dengan kekhawatiran etis tentang pencatutan dari kekerasan (untuk membuatnya agak kasar). Ini menunjukkan penerimaan yang mengkhawatirkan untuk membangun ekonomi perang, ”katanya kepada Computer Weekly, menambahkan bahwa perubahan kebijakan Google menyoroti perubahan yang jelas bahwa industri teknologi global sekarang juga merupakan industri militer global.

“Ini menunjukkan militerisasi yang merambah segalanya. Ini juga menandakan bahwa ada posisi pasar yang signifikan dalam membuat AI untuk keperluan militer dan bahwa ada bagian yang signifikan dari keuntungan finansial untuk diperebutkan di mana perusahaan -perusahaan top saat ini bersaing. Betapa berguna dorongan ini menuju AI untuk tujuan militer masih sangat spekulatif. ”

Para ahli AI militer sebelumnya telah menyampaikan kekhawatiran tentang implikasi etis dari pembunuhan yang memungkinkan secara algoritmik, termasuk potensi dehumanisasi ketika orang -orang di ujung penerima kekuatan mematikan dikurangi menjadi titik data dan angka pada layar; risiko diskriminasi selama pemilihan target karena bias dalam pemrograman atau kriteria yang digunakan; serta detasemen emosional dan psikologis operator dari konsekuensi manusia dari tindakan mereka.

Ada juga kekhawatiran tentang apakah akan ada kontrol manusia yang bermakna atas Autonomous Weapons Systems (AWS), karena kombinasi bias otomatisasi dan bagaimana senjata tersebut meningkatkan kecepatan peperangan di luar kognisi manusia.

Sepanjang tahun 2024, sejumlah pengembang AI lainnya – termasuk OpenAi, Antropik dan Meta – berjalan kembali kebijakan penggunaan AI mereka sendiri untuk memungkinkan kami agen intelijen dan pertahanan menggunakan sistem AI mereka. Mereka masih mengklaim bahwa mereka tidak membiarkan AI mereka menyakiti manusia.

Computer Weekly menghubungi Google tentang perubahan – termasuk bagaimana ia bermaksud mendekati pengembangan AI secara bertanggung jawab dalam konteks keamanan nasional, dan jika ia bermaksud untuk menempatkan batasan pada jenis aplikasi sistem AI -nya dapat digunakan dalam – tetapi tidak menerima tanggapan.

admin456UyyTT

Apa yang seharusnya diajarkan oleh keajaiban satu hit Covid

Raja Musang Malaysia Mata Takhta di Tiongkok setelah kejatuhan Durian Thailand

Chip Qualcomm berikutnya mungkin bukan elit Snapdragon 8s

Sarjana Grant dan Juliana pindah ke Boston setelah proposal

Pedagang ‘Uang Cepat’ berbicara tentang pendapatan nike

Culpa Tuya: Tanggal Rilis, Plot, Pemeran, dan Cara Menonton Sekuelnya

Cara Mengatasi Kekurangan Bakat dan Kesenjangan Keterampilan

Apa Itu Perlindungan Cerukan & Bagaimana Cara Kerjanya?

ERP vs CRM: Memahami Perbedaan Utama

MrBeast Bertunangan dengan Pacar Thea Booysen: ‘Ya Boy Melakukan Sesuatu’

MSI Meluncurkan Jajaran Monitor 2025 Dengan Refresh Rate Hingga 600Hz Menjelang CES...

‘Jangan jahat’

Related posts