💣 🕋 🤤 Jika robot membunuh seseorang, siapa yang akan bersalah? 👴🏼 👩🏾‍🌾 👩🏽‍🎓

Jika Anda mencari tanda-tanda kiamat yang akan datang di mana robot akan bersalah , perhatikan zona demiliterisasi antara Korea Utara dan Korea Selatan. Di sini, di sepanjang perbatasan paling berbenteng di dunia, lebih dari sekadar prajurit berjaga-jaga.

Temui SGR-A1, robot jam tangan yang dikembangkan oleh Samsung di Korea Selatan. Unit 1,2 meter terlihat sedikit lebih besar dari sepasang kotak sepatu black metal, tetapi matanya yang tanpa jiwa yang dilengkapi dengan port inframerah dapat mendeteksi musuh hingga empat kilometer jauhnya. Senapan mesinnya sudah siap.

gambar

Saat ini, robot memberi tahu penciptanya tentang tersangka penyerang yang duduk di ruang kontrol. Dan agar dia melepaskan tembakan, persetujuan manusia diperlukan. Tetapi robot ini juga bekerja dalam mode otomatis dan dapat menembak terlebih dahulu atas kebijakannya sendiri. Perlawanan, sesama manusia, tidak berguna.

Pentagon dan militer di seluruh dunia sedang mengembangkan senjata yang semakin otonom yang jauh melampaui drone yang dikendalikan jarak jauh yang digunakan oleh Washington di Pakistan, Afghanistan, dan negara-negara lain. Kemajuan teknologi akan memungkinkan senjata jenis baru ini untuk memilih target dan menembaknya sesuai pilihan mereka tanpa persetujuan manusia. Beberapa memperkirakan bahwa robot-robot ini suatu hari akan bertarung bersama dengan prajurit manusia.

Tidak mengherankan, berita tentang robot yang membunuh membuat beberapa orang gugup. Pada bulan April tahun ini, sebuah koalisi internasional para desainer, ilmuwan dan pembela hak asasi manusia melancarkan kampanye menentang penciptaan robot pembunuh dan mengajukan banding ke diplomat PBB di Jenewa. Para pegiat ingin melarang pengembangan dan penggunaan "senjata otonom yang mematikan", meskipun mereka mengakui bahwa senjata semacam itu, meskipun secara teknologi memungkinkan, belum pernah digunakan.

"Masuk akal untuk bertanya: apakah nilai kehidupan manusia akan berkurang dari fakta bahwa robot dibiarkan membunuh orang?" Kata Peter Asaro, asisten profesor di School of Media Studies di New York dan juru bicara Kampanye Robot Pembunuh.

Ini hanya satu pertanyaan yang telah diperjuangkan para filsuf, sarjana hukum, dan ilmuwan sejak zaman dahulu, sementara dunia sedang mempersiapkan serangan gempuran robot baru, yang, kita diberitahu, akan memotong rumput, merawat orang yang lebih tua, mengajar anak-anak dengan autisme , dan bahkan mengendarai mobil kami. Robot-robot ini tidak dapat membunuh, tetapi pejabat lalu lintas ingin memaksa pemerintah dan pengadilan untuk mempertimbangkan sejumlah masalah hukum dan etika. Siapa yang harus saya tuntut jika saya ditabrak mobil tanpa sopir? Bagaimana jika robot medis memberi pasien obat yang salah? Apa yang harus saya lakukan jika penyedot debu robot secara tidak sengaja menghisap rambut saya ketika saya tertidur di lantai (seperti yang sebenarnya terjadi pada seorang wanita di Korea Selatan belum lama ini)? Bisakah robot melakukan kejahatan perang?

Pertanyaan terakhir inilah yang paling mengkhawatirkan Profesor Asaro. Dia dan anggota koalisi Human Rights Watch lainnya mengklaim bahwa jika sistem komputer otonom yang diprogram untuk membedakan tentara musuh dari warga sipil benar-benar menarik pelatuk tanpa "persetujuan manusia," akan sangat sulit untuk menjaga situasi tetap di bawah kontrol jika terjadi kesalahan.

Jika robot menabrak dan membunuh seluruh desa, Anda tidak dapat meletakkan benda mati di depan Pengadilan Kriminal Internasional atau memberikannya ke pengadilan lapangan militer. Dan beberapa ahli mengatakan bahwa Anda tidak dapat menyalahkan pengembang robot bahkan jika mereka tidak menganggap bahwa robot itu bisa menjadi gila.

Dalam hukum pidana, pengadilan harus menemukan apa yang dikenal sebagai mens rea, atau niat bersalah (dari bahasa Latin). Tetapi mereka tidak mungkin menemukan informasi bahwa robot - dengan tingkat perkembangan kecerdasan buatan saat ini - memiliki prinsip pada prinsipnya. Desainer robot dapat dimintai pertanggungjawaban jika diketahui bahwa robot berada di luar kendali karena kegagalan fungsi dalam program. Namun, mereka mungkin tidak bertanggung jawab atas tindakan robot pembunuh.

Robot pembunuh ini bisa terlihat seperti apa saja, dari drone otonom hingga robot penemu dengan senapan mesin. Dalam arahan 2012, Departemen Pertahanan AS memutuskan bahwa sistem otonom "harus dirancang sehingga komandan dan operator dapat menggunakan tingkat kontrol manusia yang tepat atas penggunaan kekuatan." Menanggapi email dari pertanyaan The Globe and Mail, Departemen Pertahanan Dalam Negeri Kanada mengatakan bahwa "senjata mematikan yang otonom tidak sedang dikembangkan", tetapi agen penelitian mereka secara aktif terlibat dalam "program penelitian dalam sistem tak berawak."

Setidaknya satu perusahaan robot, Clearpath Robotics Inc. yang berbasis di Waterloo, menentang robot pembunuh, meskipun menciptakan robot untuk militer Kanada dan AS. Ryan Gariepie, salah satu pendiri ClearPath dan kepala teknologinya, mengatakan bahwa penghapusan ranjau atau pengawasan, tetapi tidak membunuh, adalah penggunaan yang baik untuk robot tempur otonom, terutama jika kendaraan seperti itu hanya di satu sisi pertempuran: "Bisakah robot memutuskan siapa yang tahan "hukuman mati? Apakah seseorang memiliki hak untuk mengambil nyawa tentara musuh dengan cara ini?

Tak pelak, diskusi tentang pembunuh robot berputar di sekitar "tiga hukum robotik" dari kisah penulis fiksi ilmiah Isaac Asimov. Hukum pertama melarang robot melukai manusia; yang kedua memerintahkan mereka untuk menaati orang hanya jika ini tidak bertentangan dengan hukum pertama; yang ketiga memerintahkan robot untuk melindungi hidup mereka sendiri - asalkan ini tidak melanggar dua hukum pertama. Tetapi sebagian besar ahli mengatakan bahwa hukum-hukum ini tidak akan banyak berguna di dunia nyata: bahkan Asimov menunjukkan kekurangannya dalam cerita-ceritanya.

Namun, Profesor Ronald Arkin dari Institut Teknologi Georgia, perancang robot terkenal Amerika yang bekerja pada proyek Pentagon, mengklaim bahwa robot pembunuh atau sistem senjata otomatis lainnya dapat diprogram untuk mengikuti hukum perang - dan mengikutinya lebih baik daripada manusia . Robot, katanya, tidak akan pernah menembak untuk mempertahankan hidupnya atau karena takut. Dia akan memiliki akses ke informasi dan data yang tidak bisa diproses oleh prajurit manusia dengan begitu cepat, membuat kesalahan dalam panasnya pertempuran tidak begitu mungkin. Dia tidak akan pernah sengaja membunuh warga sipil sebagai pembalasan atas kematian seorang kawan. Dan dia benar-benar bisa mengawasi para prajurit sehingga mereka tidak melakukan kekejaman.

Profesor Arkin juga mengklaim bahwa teknologi otonom pada dasarnya sudah ada di medan perang. Menurutnya, baterai rudal Patriot AS secara otomatis memilih target dan memberi seseorang hingga sembilan detik untuk membatalkan target dan menghentikan roket. Dan sistem Phalanx Angkatan Laut AS melindungi kapal-kapal dengan menembak jatuh rudal secara otomatis.

Tetapi bahkan mereka membutuhkan moratorium pengembangan senjata yang lebih otonom selama dapat ditunjukkan bahwa mereka dapat mengurangi korban sipil. “Tidak ada yang menginginkan penampilan Terminator. Siapa yang ingin memiliki sistem yang dapat dikirim pada misi, dan akan secara mandiri memutuskan siapa yang perlu dibunuh? - kata Profesor Arkin. "Sistem ini harus dikembangkan dengan sangat hati-hati dan hati-hati, dan saya pikir ada cara untuk melakukan ini."

Baru-baru ini, perusahaan teknologi besar semakin khawatir tentang kecerdasan buatan. Fisikawan Stephen Hawking memperingatkan bahwa kedatangan AI "bisa berarti akhir dari umat manusia." Elon Musk, pendiri Tesla Motors, menyebut AI sebagai "ancaman eksistensial" - tidak kalah berbahaya dari senjata nuklir. Bill Gates, pendiri Microsoft, juga prihatin.

Orang-orang yang benar-benar mengerjakan kecerdasan buatan mengatakan ada sesuatu yang perlu dikhawatirkan. Yoshua Bengio, seorang peneliti AI terkemuka di Universitas Montreal, mencatat bahwa fiksi Star Wars dan Star Trek sangat melebih-lebihkan kemampuan robot dan kecerdasan buatan. Suatu hari, katanya, kita dapat membangun mesin yang akan bersaing dengan otak manusia. Namun sekarang AI belum berkembang.

Masih banyak yang perlu dilakukan sebelum robot menjadi seperti yang Anda lihat di film, ”kata Profesor Bengio. - Kita masih sangat jauh dari mendapatkan tingkat pemahaman dunia yang kita harapkan, katakanlah, dari anak berusia lima tahun atau bahkan orang dewasa. Dan untuk mencapai tujuan ini, mungkin butuh waktu puluhan tahun atau lebih. Kami bahkan tidak dapat mengulangi kecerdasan tingkat mouse.

Tanpa ragu, pengembangan perangkat keras dan perangkat lunak untuk robot terus berupaya maju.

Robot yang dikembangkan oleh Boston Dynamics, yang baru-baru ini dibeli Google, dapat dikenakan di medan yang kasar seperti anjing dan merangkak seperti tikus di daerah bencana.

Seekor anjing robot bernama Spot dapat berdiri di atas kakinya setelah dipukuli dan kaki logamnya terlihat sangat realistis.

Tetapi jika Anda takut revolusi robot pembunuh tidak terhindarkan, Atlas, sebuah robot humanoid seberat 330 kaki, dapat membantu Anda tenang. Juga dibuat oleh Boston Dynamics, dapat berjalan menaiki tangga dan batu. Sepertinya Cyberman dari Doctor Who, seri yang dikembangkan oleh Apple. Namun, baterainya hanya bertahan 1 jam.

Sepertinya, kata Jan Kerr, kepala departemen etika, hukum, dan teknologi di Universitas Ottawa, bahwa orang akan secara bertahap mengambil alih kendali mesin dengan kecerdasan buatan - komputer yang pada akhirnya akan melakukan hal-hal tertentu lebih baik daripada kita. Meskipun akan membutuhkan waktu sebelum mobil yang tidak memerlukan sopir muncul, bahkan sekarang sudah ada mobil yang dapat parkir sendiri. Robot IBM Watson dari International Business Machines Corp, yang memenangkan kuis Jeopardy! pada tahun 2011, saat ini digunakan untuk menganalisis jutaan halaman penelitian medis untuk merekomendasikan prosedur untuk pasien kanker.

— ... - , , , , , - . — , , , … , , .

Jika robot membunuh seseorang, siapa yang akan bersalah?

More articles: