Bangkitnya mesin? Bahaya senjata otonom

Ini adalah tema umum dalam fiksi ilmiah – mesin bangkit melawan tuan manusianya. Namun hal ini bisa menjadi ancaman nyata, demikian peringatan para peneliti di Forum Ekonomi Dunia baru-baru ini. Berbeda dengan drone saat ini, yang masih dikendalikan oleh operator manusia, senjata otonom berpotensi diprogram untuk memilih dan menyerang target sendiri.

“Itu adalah salah satu kekhawatiran yang kami sampaikan tahun lalu,” Toby Walsh, profesor kecerdasan buatan (AI) di sekolah ilmu komputer dan teknik di Universitas New South Wales, mengatakan kepada FoxNews.com.

“Sebagian besar dari kita percaya bahwa kita tidak memiliki kemampuan untuk membuat robot yang beretika,” tambahnya. “Hal yang sangat mengkhawatirkan adalah bahwa berbagai militer di seluruh dunia akan menggunakan robot hanya dalam beberapa tahun ke depan, dan kami tidak berpikir ada orang yang akan membuat robot yang etis.”

Penulis fiksi ilmiah terkenal Isaac Asimov menulis “Tiga Hukum Robotika” yang menawarkan bahwa “Robot tidak boleh melukai manusia atau, karena tidak bertindak, membiarkan manusia disakiti. Robot harus mematuhi perintah, mematuhi apa yang diberikan oleh manusia kecuali jika perintah tersebut bertentangan dengan Hukum Pertama. Robot harus melindungi keberadaannya sendiri selama perlindungan tersebut tidak bertentangan dengan Hukum Pertama atau Kedua.”

Terkait: Kapal induk Amerika yang berteknologi tinggi menjadi lebih penting dari sebelumnya, kata para ahli

Aturan seperti itu, menurut para peneliti, akan diperlukan untuk “robot etis” mana pun, namun terserah pada pembuatnya untuk memastikan etika tersebut diprogram ke dalamnya. Namun, dalam beberapa hal ini bisa menjadi sebuah lompatan.

“Secara umum, senjata seperti ini belum ada saat ini,” kata Paul Scharre, rekan senior dan direktur Proyek Otonomi Etis di Pusat Keamanan Amerika Baru, kepada FoxNews.com. “Sebagian besar sistem masih menyala dan lupa dan bahkan sistem yang canggih dirancang bukan untuk memilih target tetapi untuk melakukan koreksi agar mencapai target.”

Scharre, yang menyampaikan catatan pers di Forum Ekonomi Dunia, menekankan fakta bahwa hukum perang tidak secara inheren melarang senjata otonom, namun ia memperingatkan bahwa akan sangat sulit bagi perangkat tersebut untuk memenuhi aturan yang berlaku. Bahkan jika hal ini mungkin terjadi, masih disepakati secara luas bahwa senjata otonom menimbulkan tantangan moral dan etika yang serius.

Ada juga kekhawatiran teknologi.

Terkait: Evolusi kamuflase militer

“Seandainya kita bisa membuat robot etis yang mengikuti aturan hukum, ada argumen bahwa ini bisa menjadi hal yang baik,” kata Scharre kepada FoxNews.com. “Mesin etis, misalnya, tidak akan melakukan kekejaman, namun hal ini mungkin tidak sebanding dengan kekhawatiran bahwa kita masih tidak dapat membangun sistem apa pun yang tidak dapat diretas.”

Sistem kendali jarak jauh saat ini

Meskipun belum ada negara yang benar-benar mengerahkan senjata otonom, beberapa negara, termasuk Amerika Serikat, telah menggunakan kendaraan tak berawak dalam situasi pertempuran. AS telah menggunakan drone – atau Kendaraan Udara Tak Berawak (UAVS) – tidak hanya untuk pengawasan, namun juga sebagai sarana untuk menargetkan dan membunuh tersangka teroris dari jarak jauh.

Bahayanya adalah UAV mungkin tidak sepenuhnya aman. Pada tahun 2011, militer Iran mengklaim telah “membajak” pesawat mata-mata RQ-170. Meskipun para pejabat AS membantah klaim tersebut, ini hanyalah satu insiden yang menyoroti ancaman peretasan perangkat jarak jauh.

“Ada upaya untuk memperkuat enkripsi tautan data untuk membuat koneksi dengan operator lebih aman,” Huw Williams, editor IHS Jane’s International Defense Review, mengatakan kepada FoxNews.com. “Hal ini masih menjadi kekhawatiran, tidak ada enkripsi yang sempurna dan masih ada bahaya bahwa tautan data dapat dibobol. Tingkat keamanannya sangat tinggi, namun ada juga upaya lain yang dapat digunakan untuk mendapatkan kendali sistem jarak jauh untuk mengganggu .”

Bahaya ini dapat meningkat seiring dengan semakin otomatisnya sistem, meskipun platform tidak sepenuhnya otonom.

Terkait: Selamat ulang tahun keseratus untuk tangki

“Kita akan melihat lebih banyak AI dalam sistem jarak jauh, termasuk drone,” Michael Blades, analis industri senior untuk kedirgantaraan dan pertahanan di Frost & Sullivan, mengatakan kepada FoxNews.com. “Sensornya mencakup LIDAR, radar, video, dan bahkan sensor akustik dan semuanya semakin canggih. Tidak jauh berbeda dengan apa yang saat ini kita lihat pada mobil otonom.”

Selain itu, seperti halnya kasus peretasan kendaraan yang terhubung dan otonom, kini terdapat kekhawatiran yang sah bahwa seseorang dapat meretas sistem senjata tak berawak.

“Kita berada pada tahap awal perlombaan senjata, dimana tindakan penanggulangan sekarang sedang dilakukan untuk memastikan bahwa kendaraan jarak jauh tidak dapat diambil alih,” kata Blades kepada FoxNews.com. “Semuanya memiliki tautan data terenkripsi, namun ancamannya masih ada. Ketika drone pertama terbang di Irak dan Afghanistan, sangat mungkin bagi mereka yang sedang menonton untuk mengakses video dengan mudah. ​​Tautan data diperkeras, namun kita berada dalam situasi yang sulit. perlombaan senjata sekarang sementara yang lain mencoba mengaksesnya.”

Peretasan bukan satu-satunya kekhawatiran.

Terkait: Kapal induk bersejarah dalam gambar

“Keamanan pada sistem jarak jauh saat ini sangatlah tinggi, sehingga hal ini bukanlah sesuatu yang dapat dilakukan oleh sembarang orang,” jelas Williams. “Tetapi mungkin ada upaya untuk mengganggunya, mengganggu kontrol, mengganggu GPS, atau mengganggu kendali pesawat dengan cara lain.”

Amunisi Tersesat

Langkah pertama menuju senjata yang benar-benar otonom dalam penggunaan di dunia nyata adalah Harop dari Israel Aerospace Industries, versi yang lebih canggih dari sistem Harpy-nya. Ia diumpamakan dengan elang karena ia akan mengelilingi suatu daerah dan menunggu untuk menyerang mangsanya.

Sebagai salah satu bentuk amunisi nyasar, senjata ini dapat diluncurkan seperti rudal dan terbang menuju sasaran, meskipun operator manusia mengawasi untuk menentukan apakah senjata tersebut harus menyerang. Keunggulannya adalah dapat berkeliaran di sekitar area target hingga enam jam, menunggu target muncul. Meskipun Harpy dirancang terutama untuk menargetkan sistem anti-radar, Harop dapat digunakan untuk menyerang kendaraan dan objek lain di darat.

“Ini adalah jenis senjata yang dapat memilih sasarannya sendiri dengan mengikuti suatu program,” kata Scharre kepada FoxNews.com. “Tetapi ini bisa menjadi sangat licin. Mobil self-driving, sebagai perbandingan, adalah tentang menavigasi lalu lintas untuk menjaga keselamatan penumpangnya, namun ia tidak mengambil keputusan sendiri.”

Terkait: Senjata era Perang Dingin dalam gambar

Saat ini, mesin tersebut masih belum bisa melakukan tembakan fatal.

“Di satu sisi, mesin ini dapat menunggu serangan yang lebih tepat sasaran untuk mengurangi kerusakan tambahan, jadi daripada menggunakan rudal Hellfire, senjata yang lebih kecil dapat digunakan; seseorang dapat menunggu hingga targetnya berada di tempat terbuka, “tambah Lemme. “Dan tembakan maut tetap tidak boleh diberikan kepada sebuah mesin, setidaknya tidak oleh siapa pun di dunia yang beradab. Namun, tidak sulit untuk melihat bagaimana teroris atau aktor jahat lainnya tidak akan membiarkan mesin tersebut melakukan tindakannya sendiri. mengambil keputusan.”