Perencana militer dan tokoh-tokoh industri mengatakan kecerdasan buatan (AI) dapat membuka efisiensi back-office untuk angkatan bersenjata Inggris dan membantu komandan membuat keputusan yang lebih cepat dan lebih berpengetahuan luas, tetapi “masalah intractable” yang dipanggang ke dalam teknologi selanjutnya dapat mengurangi akuntabilitas militer.
Berbicara di panel tentang etika menggunakan teknologi otonom dalam peperangan di acara AI UK AI-Hosted Institute di pertengahan Maret, tokoh-tokoh industri dan seorang pensiunan pejabat senior tentara Inggris Inggris yang pensiunanmengklaim ada keharusan etis untuk menggunakan AI di militer.
Mereka berpendapat bahwa AI yang berkembang biak di seluruh pertahanan Inggris akan menghalangi konflik di masa depan, membebaskan sumber daya, meningkatkan berbagai proses pengambilan keputusan-termasuk perencanaan militer dan pemilihan target-dan menghentikan negara itu dari jatuh di belakang musuh-musuhnya secara ireversibel.
Sementara para penutur ini memang menyoroti pentingnya memastikan pengawasan manusia yang bermakna terhadap AI militer, dan perlunya regulasi global untuk membatasi proliferasi sistem AI yang “tidak terkendali” dalam konteks ini, Elke Schwarz, seorang profesor teori politik di Queen Mary University London dan penulis dari Mesin Kematian: Etika Teknologi Kekerasanberpendapat ada ketegangan yang jelas antara otonomi dan kontrol yang dimasukkan ke dalam teknologi.
Dia menambahkan “masalah yang tidak dapat diatasi” ini dengan AI berarti ada risiko nyata bahwa manusia dikeluarkan lebih jauh dari loop pengambilan keputusan militer, pada gilirannya mengurangi akuntabilitas dan menurunkan ambang batas untuk beralih ke kekerasan.
Potensi militer AI
Mayor Jenderal Rupert Jones, misalnya, berpendapat bahwa penggunaan AI yang lebih besar dapat membantu pertahanan Inggris dengan lebih baik menavigasi “konteks berlumpur” dari perang modern, yang ditandai oleh musuh yang kurang jelas dan konflik proxy.
“Warfare lebih rumit. Kemenangan dan kesuksesan lebih sulit untuk didefinisikan,” katanya, menambahkan potensi penggunaan AI tertinggi adalah bagaimana hal itu dapat membantu komandan membuat keputusan sebaik mungkin dalam waktu sesedikit kali.
“Bagi mereka yang tidak terbiasa dengan pertahanan, itu benar -benar merupakan perlombaan – Anda balapan musuh Anda untuk membuat keputusan yang lebih baik dan lebih cepat daripada yang mereka bisa. Jika mereka membuat keputusan yang lebih cepat kepada Anda, bahkan jika mereka bukan posisi yang sempurna, mereka mungkin akan dapat memperoleh momentum atas Anda.”
Dengan pengambilan keputusan, Anda harus memiliki data yang sangat kuat, andal dan selalu terkini untuk menggantikan kemampuan dan kapasitas kognitif pembuat keputusan manusia
Elke Schwarz, Queen Mary University London
Di atas potensi teknologi untuk meningkatkan pengambilan keputusan, Jones mengatakan sifat “sangat mahal” dari menjalankan organisasi pertahanan berarti AI juga dapat digunakan untuk meningkatkan efisiensi back-office, yang pada gilirannya akan membuka lebih banyak dana untuk digunakan pada kemampuan garis depan.
“AI memberi Anda efisiensi yang sangat besar, membawa manusia keluar dari lingkaran, membebaskan uang – dan satu hal yang kami butuhkan di pertahanan Inggris saat ini adalah membebaskan sejumlah uang sehingga kami dapat memodernisasi ujung depan,” katanya.
Namun, ia mencatat bahwa potensi teknologi untuk meningkatkan pengambilan keputusan dan membuka efisiensi back-office akan bertumpu pada kemampuan pertahanan Inggris untuk meningkatkan praktik data yang mendasarinya sehingga sejumlah besar informasi yang dimilikinya dapat dieksploitasi secara efektif oleh AI.
Jones menambahkan bahwa organisasi pertahanan Inggris harus mulai mengerahkan di belakang kantor terlebih dahulu untuk membangun kepercayaan mereka dalam menggunakan teknologi, sebelum beralih ke kasus penggunaan yang lebih kompleks seperti senjata otonom dan sistem garis depan bertenaga AI lainnya: “Bangun garis dasar AI yang dapat Anda tanam.”
Sementara Schwarz sepakat bahwa AI akan paling berguna bagi militer untuk tugas-tugas back-office, ia mengambil pandangan ini karena teknologinya sama sekali tidak cukup baik untuk kasus penggunaan yang mematikan, dan bahwa penggunaan AI dalam pengambilan keputusan akan melumpuhkan air lebih jauh.
“Dengan pengambilan keputusan, misalnya, Anda harus memiliki data yang sangat kuat, andal, dan selalu terkini untuk menggantikan kemampuan dan kapasitas kognitif pembuat keputusan manusia,” katanya, menambahkan dinamika yang melekat dalam teknologi menciptakan ketegangan yang jelas antara kecepatan dan kontrol.
“Di satu sisi, kita berkata, ‘Yah, kita perlu memiliki kontrol manusia yang bermakna di semua titik menggunakan sistem ini’, tetapi pada akhirnya raison d’être untuk sistem ini adalah membawa manusia lebih jauh dari loop, jadi selalu ada ketegangan,” kata Schwarz.
“Alasan manusia diambil lebih jauh dari loop adalah karena logika sistem tidak menyatu dengan logika kognitif tentang bagaimana kita, sebagai manusia, memproses data.”
Elke menambahkan bahwa di atas ketegangan yang jelas antara kecepatan kognisi dan kontrol manusia yang bermakna, ada juga masalah bias otomatisasi, di mana manusia lebih cenderung mempercayai output komputer karena ada pengertian yang salah tempat hasilnya secara inheren objektif.
“Kami lebih cenderung mempercayai keputusan mesin bahwa kami memiliki lebih sedikit waktu untuk mengesampingkan, di mana kami tidak dapat membuat gambaran mental penuh pada waktunya untuk membuat keputusan manusia – karena kami semakin tertanam ke dalam sistem digital, itu adalah jenis ketegangan yang saya tidak lihat hilang dalam waktu dekat. Mereka masalah yang tidak dapat diatasi,” katanya.
“Itu membawa kita ke etika dan pertanyaan tentang, apa yang kita lakukan dengan keputusan etis ketika manusia dikeluarkan?”
Sementara Schwarz mendesak kehati -hatian yang ekstrem, Henry Gates, associate director di Helsing startup pertahanan AI, mengatakan ada kebutuhan mendesak untuk “bergerak cepat” dengan pengembangan AI militer sehingga Inggris tidak tertinggal di belakang “aktor jahat lainnya” dan mampu memiliki suara yang lebih besar tentang bagaimana sistem militer otonom diatur.
“Jika kita hanya sebuah negara yang tidak memiliki senjata ini … orang -orang tidak benar -benar akan mendengarkan kita,” katanya, seraya menambahkan bahwa bergerak dengan kecepatan dengan AI militer juga dapat membantu membangun pencegahan alternatif.
“Dengan cara yang sama kita memiliki senjata nuklir sebagai pencegahan perang nuklir, AI berpotensi memberikan rute menuju pencegahan konvensional yang mengurangi konflik bersenjata.”
Schwarz, bagaimanapun, memperingatkan terhadap “menempatkan semua telur kami di keranjang AI untuk mencegah perang”, dengan alasan perlu ada investasi yang lebih besar dalam kemampuan manusia untuk dialog, kepercayaan, dan diplomasi.
Dia juga memperingatkan bahwa alih-alih bertindak sebagai pencegah, sifat sosial-teknis AI-di mana komponen teknis dari suatu sistem yang diberikan diinformasikan oleh proses sosial dan sebaliknya-berarti dapat membentuk perspektif manusia secara negatif satu sama lain, yang mengarah pada dehumanisasi.
“Pada akhirnya, selalu menjadi kasus (dengan) teknologi bahwa semakin banyak kita mengandalkan mereka, semakin banyak mereka membentuk perspektif kita tentang kita, dan tentang orang lain juga,” katanya, menambahkan ini tentu saja dengan AI sebagai, tidak seperti alat perang lainnya, seperti tank atau senjata yang digunakan sebagai prostetik fisik, teknologi bertindak sebagai prosthetik kognitif.
“Apa logika dari semua itu? Nah, sistem AI melihat manusia lain sebagai objek, tentu – tepi dan jejak – begitu implisit maka merupakan objektifikasi, yang bermasalah jika kita ingin menjalin hubungan.”
Di luar kognisi manusia
Pada masalah kontrol manusia yang bermakna, Gates menambahkan ada tiga hal yang perlu dipertimbangkan: sejauh mana pengambilan keputusan didelegasikan ke AI, pemantauan kinerja untuk memastikan model tidak “melayang” dari tujuan mereka, dan menjaga manusia dalam kendali penuh tentang bagaimana sistem AI sedang dikembangkan.
Dengan cara yang sama kita memiliki senjata nuklir sebagai pencegahan perang nuklir, AI berpotensi memberikan rute menuju pencegahan konvensional yang mengurangi konflik bersenjata
Henry Gates, Helsing
Namun, Keith Dear, direktur pelaksana Pusat Teknologi Kognitif dan Lanjutan Fujitsu, berpendapat bahwa kemampuan AI telah datang sejauh ini dalam waktu singkat sehingga akan segera dapat mengungguli manusia tentang cara menerapkan hukum perang pada keputusannya.
“Agar target untuk dibenarkan berdasarkan hukum konflik bersenjata, itu harus diidentifikasi secara positif, harus diperlukan … harus proporsional, itu harus manusiawi, jadi tidak ada efek yang tidak terkendali, dan ia harus sah yang sah. Semua hal yang Anda tes.
“Ketika Anda mendelegasikan otoritas, itu harus mengungguli kami pada hal -hal itu, dan jika itu mengungguli kami dalam peran -peran di mana Anda dapat baseline dan membandingkannya, menjadi tidak etis untuk tidak mendelegasikan otoritas ke mesin, yang memiliki negatif palsu yang lebih rendah dalam membuat keputusan itu daripada kita.”
Menyoroti bagaimana kecepatan perdagangan saham modern berarti sebagian besar diserahkan kepada komputer, AI menambahkan sayang akan menciptakan situasi yang sama dalam peperangan dalam hal itu, karena akan melampaui kecepatan kognisi manusia, pengambilan keputusan dapat dan harus diserahkan pada sistem otonom ini.
“Ini adalah AI yang menonton AI. Anda mungkin memiliki manusia sebelum lingkaran, tetapi gagasan bahwa, ketika peperangan mempercepat dan kita sampai ke AGI (kecerdasan umum buatan), akan ada seseorang di loop itu sesat – saya pikir itu adalah pilihan untuk kalah,” katanya.
Mengomentari gagasan bahwa AI akan mengurangi penderitaan manusia dalam konflik dan menciptakan masa depan di mana perang diperjuangkan di antara pasukan drone, Gates menambahkan itu tidak mungkin, mencatat bahwa sementara itu dapat mengubah karakter perang, itu tidak mengubah logika yang mendasarinya, yang merupakan bagaimana satu kelompok dapat “memaksakan kehendaknya” pada yang lain.
Jones setuju, mencatat bahwa apakah AI duduk di tengah atau tidak, idenya adalah untuk “melukai” orang -orang di sisi lain. “Anda masih berusaha mempengaruhi populasi, pembuat keputusan politik, militer,” katanya.
Untuk sayang, tidak akan ada peran bagi manusia di medan perang. “Ketika mesin Anda selesai bertarung dan satu pihak telah menang, tidak akan berbeda dengan memiliki pasukan manusia yang menang di medan perang – intinya adalah bahwa (bagaimanapun) Anda tidak punya pilihan selain menyerah atau menghadapi perang pemusnahan,” katanya.
Namun, Schwarz menyoroti kenyataan bahwa banyak sistem AI saat ini belum terlalu bagus, dan diperingatkan agar tidak membuat klaim “sangat optimis” tentang dampak revolusioner teknologi dalam setiap aspek kehidupan, termasuk peperangan. “Ini bukan obat mujarab untuk segalanya,” katanya.
ADVERTISEMENT:
Halo, para pengemar slots pernahkah mendengar semboyan “slot gaco”? jika tidak, siap-siap jatuh cinta sama konsep ini. slot gacor adalah mesin slots yang sering kasih win. Ya, slot-slot ini bisa dibilang sebagai andalannya tuk bawa come back cuan. but, cemana sih
tekniknya jumpain slot gaco yang benar? Tenang Bro, kita beri tenang aja di tempat ini
Games terbaik saat ini hanya satu berada Indonesia yaitu pasti memberikan return on Investment tertinggi
SEGERA dengan di :
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
