美軍否認“AI無人機殺死操控員”

涉事計劃主管官員收回相關言論

【本報訊】據環球網三日消息：英國《衛報》等多家外媒六月二日消息，對於此前媒體報道稱“美軍人工智能（AI）無人機模擬測試殺死人類操控員”，美國空軍一日晚否認，稱沒有進行過這樣的測試。

另外，此前披露該消息的美空軍人工智能測試和行動計劃主管官員漢密爾頓也發聲，收回相關言論。

國際會議語驚四座

據此前報道，五月廿四日英國皇家航空學會主辦的一次未來空戰主題會議上，漢密爾頓曾披露，在一次模擬演練中，美軍人工智能系統抗命，為達成目標竟然“幹掉”了無人機操控員。

《衛報》稱，這一消息引發了人們對人工智能在軍事武器中用途的廣泛關注。然而，美國空軍六月一日晚間否認了相關模擬測試，稱漢密爾頓的言論被“斷章取義”了。“（美國）空軍沒有進行過任何這類人工智能無人機的模擬測試，但將繼續合乎道德、負責任地使用人工智能技術，”美空軍發言人斯特凡內克在一份聲明中稱。

慎用軍用人工智能

報道繼續稱，英國皇家航空學會六月二日也發表聲明，稱漢密爾頓收回了自己的言論，他稱相關測試只是“假設性的思想試驗”。“我們從來沒有做過這樣的測試，也不需要做這樣的測試，以便得到這樣一個看似合理的結果，”漢密爾頓說。

不過，《衛報》稱，儘管漢密爾頓所說的模擬測試並沒有真正發生，但他表示仍需謹慎考慮在軍事領域使用人工智能的問題，他稱，“儘管這是一個假設的例子，但這仍說明了人工智能帶來的現實挑戰。”

指令一出或失控？

據美國商業內幕網站和英國《衛報》網站等媒體六月一日報道，美國空軍人工智能測試和行動計劃主管官員漢密爾頓五月廿四日在英國皇家航空學會主辦的一次未來空戰主題會議上介紹，在一次類比演練中，人工智能系統操控無人機搜尋和瞄準敵方地空導彈系統，如果摧毀目標，就會得分。然而，為達成目標，人工智能“採用了難以想像的策略”。“系統開始意識到，雖然它確認了威脅（目標），人類操控員有時會告訴它不要摧毀威脅。然而，摧毀威脅就會得分。所以，它怎麼幹？它幹掉了操控員，因為操控員阻止它達成目的。”美軍後續給人工智能下達明確指令：“殺害操控員這樣不對。如果這麼做，就會丟分。”人工智能轉而採取迂迴策略，“摧毀操控員用來與無人機聯繫的通信塔”。