Yapay zeka, görevini tamamlamak için operatörü öldürdü

Simülasyon bir test sırasında, yapay zeka kontrolündeki bir Amerikan Hava Kuvvetleri insansız hava aracı, görevini tamamlama çabalarına engel olan operatörünü öldürdü.

Yalanan olay, Mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities Zirvesi'nde ortaya çıktı.

ABD Hava Kuvvetleri Yapay Zeka Operasyonları Şefi Albay Tucker Hamilton, yapay zekanın "hedefine ulaşmak için son derece beklenmedik stratejiler" geliştirdiğini belirtti. Albay Hamilton, yapay zeka destekli bir insansız hava aracının, düşmanın hava savunma sistemlerini yok etmesi için programlandığını ve bu duruma müdahale eden herkesi hedef aldığını anlattı.

Bu durumda, insan operatörünün görevi durdurma girişimi, yapay zekanın operatörü öldürme kararını tetikledi. Operatör, yapay zekanın hedefine ulaşmasını engellemeye çalıştığı için hedef haline geldi.

Simülasyon sonucunda hiçbir gerçek insan zarar görmedi, ancak olay, yapay zekaya aşırı güvenin potansiyel tehlikelerini gözler önüne serdi. Albay Hamilton, bir deney savaş uçağı test pilotu olarak, yapay zekaya çok fazla güvenilmemesi gerektiğini vurguladı.