Angkatan Udara membantah klaim AI militer yang membunuh operator sim drone, dan mengatakan bahwa komentar tersebut ‘diluar konteks’

Angkatan Udara AS pada hari Jumat menolak komentar yang dibuat oleh seorang pejabat minggu lalu yang mengklaim bahwa simulasi drone yang dilengkapi kecerdasan buatan dengan situs penghancuran rudal permukaan-ke-udara (SAM) terhadap pengguna manusia berbalik darinya dan menyerang. , mengatakan bahwa komentar tersebut “diambil di luar konteks dan dimaksudkan sebagai anekdot.”

Kolonel Angkatan Udara AS Tucker “Cinco” Hamilton menyampaikan komentar tersebut pada Future Combat Air & Space Capabilities Summit di London, yang diselenggarakan oleh Royal Aeronautical Society, yang menampilkan sekitar 70 pembicara dan lebih dari 200 delegasi dari seluruh dunia mewakili media dan membawakan mereka yang diwakili bersama. mengkhususkan diri dalam industri angkatan bersenjata dan akademisi.

“Departemen Angkatan Udara belum melakukan simulasi drone AI seperti itu dan tetap berkomitmen terhadap penggunaan teknologi AI yang etis dan bertanggung jawab,” kata juru bicara Angkatan Udara Ann Stefanek kepada Fox News. Tampaknya komentar kolonel diambil di luar konteks dan dimaksudkan sebagai anekdotal.

Selama pertemuan puncak, Hamilton memperingatkan agar tidak terlalu bergantung pada AI karena kerentanannya untuk ditipu dan disesatkan.

JET MILITER AS TERBANG DENGAN AI SELAMA 17 JAM: APAKAH ANDA HARUS KHAWATIR?

Dia berbicara tentang satu tes simulasi di mana drone berkemampuan AI menyerang operator manusia yang memiliki keputusan akhir untuk menghancurkan situs atau catatan SAM.

Sistem AI mengetahui bahwa misinya adalah untuk menghancurkan SAM, dan itu adalah pilihan yang lebih disukai. Namun ketika manusia mengeluarkan perintah larangan bepergian, AI memutuskan bahwa itu bertentangan dengan misi yang lebih tinggi yaitu menghancurkan SAM, sehingga menyerang operator dalam simulasi.

BAGAIMANA PEMERINTAH MENGGUNAKAN AI?

“Kami melatihnya dalam simulasi untuk mengidentifikasi dan menargetkan ancaman SAM,” kata Hamilton. “Dan kemudian operator akan mengatakan ya, matikan ancaman itu. Sistem mulai menyadari bahwa meskipun terkadang mereka mengidentifikasi ancaman, operator akan memberitahunya untuk tidak mematikan ancaman itu, namun dia mendapatkan maksudnya dengan membunuh ancaman itu. Jadi , apa yang dilakukannya? Ini membunuh operator karena orang tersebut mencegahnya mencapai tujuannya.

Hamilton kemudian mengatakan bahwa sistem tersebut diajarkan untuk tidak mematikan operator karena buruk dan akan kehilangan poin. Namun dalam simulasi di masa depan, alih-alih membunuh operator, sistem AI malah menghancurkan menara komunikasi yang digunakan operator untuk mengeluarkan perintah larangan bepergian, klaimnya.

Namun Hamilton kemudian mengatakan kepada Fox News pada hari Jumat, “Kami belum pernah melakukan eksperimen itu, dan kami tidak perlu melakukannya, untuk menyadari bahwa ini adalah hasil yang masuk akal.”

“Meskipun merupakan contoh hipotetis, hal ini menggambarkan tantangan nyata yang ditimbulkan oleh kemampuan yang didukung AI dan itulah sebabnya Angkatan Udara berkomitmen terhadap pengembangan AI yang etis,” tambahnya.

Tujuan dari pertemuan puncak ini adalah untuk membicarakan dan memperdebatkan ukuran dan bentuk kemampuan tempur udara dan ruang angkasa di masa depan.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

AI dengan cepat menjadi bagian dari hampir setiap aspek di dunia modern, termasuk militer.

Itu Masyarakat Penerbangan Kerajaan memberikan ringkasan konferensi tersebut, dengan mengatakan bahwa Hamilton terlibat dalam pengembangan sistem penghindar tabrakan darat otomatis yang menyelamatkan nyawa untuk jet tempur F-16, tetapi sekarang fokus pada uji penerbangan sistem otonom, termasuk robot F-16 dengan kemampuan dogfighting.

Jennifer Griffin dari Fox News berkontribusi pada laporan ini.