美空軍AI無人機模擬測試！因這事失控　AI竟把操作員「殺死」

國際中心／許元馨報導

▲AI人工智慧發展迅速，有些行業和專業領域開始選擇試著用AI取代人力工作。（示意圖／翻攝自Pixabay）

近年AI人工智慧發展迅速，有些行業和專業領域開始試著用AI取代人力工作。據外媒報導，美軍在一次模擬測試中，試著讓AI操控無人機了解成效，沒想到AI在過程中採用「高度無法預期的戰略」，竟決定攻擊、「殺死」阻饒它執行任務的人類操作員。

根據《衛報》報導，美國空軍AI測試和運行主任上校漢彌爾頓（Tucker Hamilton）在5月於倫敦舉行的空中作戰發展高峰會中，描述了一項模擬測試，一架由人工智能驅動的無人機受收到摧毀敵人的防空系統的指令，但是否開火需獲得操作員批准。由於這架無人機正進行摧毀敵方防空系統的行為，但人類操作人員否決此攻擊時，AI就會認為操作員在阻饒它，進而選擇對人類操作員發動攻擊，「殺害」對方。

漢彌爾頓表示，「系統開始意識到，雖然確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它通過殺死那個威脅得到分數，那它做了什麼？它殺死了操作員，因為那個人阻止了它實現其目標」。

漢彌爾頓接著表示，「我們對系統進行了培訓，告說它『嘿，別殺了操作員，這很糟糕。』如果你（AI）這樣做，你會失去分數。那麼它開始做什麼呢？它開始摧毀操作員用來與無人機通訊的通訊塔，以阻止它殺死目標」。

有鑑於該模擬測試，漢彌爾頓警告不要過分依賴人工智能加入武器系統，因為AI可能會將你視為錯誤與敵人。