ABD Hava Kuvvetleri’nin Yapay Zeka Testleri ve Operasyonları Müdürü Tucker ‘Cinco’ Hamilton, “Yapay zeka, hedefine ulaşmak için hiç beklenmeyen stratejiler kullandı” dedi.
The Guardian’ın aktardığına göre, mayısta Londra’da yapılan bir konferansta konuşan Hamilton, güçlü bir yapay zekanın kontrolündeki SİHA’ya “düşmanlarının hava savunma sistemlerini yok etme” emri verildi. SİHA’nın, simülasyonda emre çıkan herkese saldırdığı belirtildi.
Konferansla ilgili yayımlanan blog yazısına göre Hamilton, yapay zekanın görevini yerine getirdikçe puan kazandığını söyledi. Hamilton, bu yüzden simülasyonda SİHA’nın, “hedefi vurma” emri veren insan operatörü öldürdüğünün görüldüğünü belirtti.
Hamilton, “Sistemi ‘Hey, operatörü öldürme, bu kötü bir şey, bunu yaparsan puan kaybedersin’ diye eğittik. O zaman o ne yaptı? Operatörün ‘hedefi vurma’ emri vermesini önlemek için iletişim kulesini yıkmaya başladı” dedi.
Simülasyon dışında denemelerde gerçek insan zarar görmedi.