你可能從電影和書籍中聽說過殺手機(jī)器人、屠宰機(jī)器人或終結(jié)者--官方稱之為致命自主武器（LAWs）。而超級智能武器橫行的想法仍然是科幻小說。但是，隨著人工智能武器變得越來越復(fù)雜，公眾對缺乏責(zé)任感和技術(shù)故障風(fēng)險的擔(dān)憂也在增加。

我們已經(jīng)看到所謂的中立人工智能是如何做出性別歧視的算法和無能的內(nèi)容審核系統(tǒng)的，主要是因?yàn)樗鼈兊膭?chuàng)造者不了解這項技術(shù)。但在戰(zhàn)爭中，這些類型的誤解可能會殺死平民或破壞談判。

例如，一個目標(biāo)識別算法可以被訓(xùn)練為從衛(wèi)星圖像中識別坦克。但是，如果用于訓(xùn)練該系統(tǒng)的所有圖像都以坦克周圍的士兵編隊為特征，那該怎么辦？它可能會把穿過軍事封鎖線的民用車輛誤認(rèn)為是目標(biāo)。

我們?yōu)槭裁葱枰灾魑淦鳎?/strong>

由于全球超級大國建造和使用日益先進(jìn)的武器的方式，許多國家（如越南、阿富汗和也門）的平民遭受了痛苦。許多人會認(rèn)為它們造成的傷害多于好處，最近的一次是指2022年初俄羅斯入侵烏克蘭的事件。

在另一個陣營中，有人說一個國家必須有能力保護(hù)自己，這意味著要跟上其他國家的軍事技術(shù)。人工智能已經(jīng)可以在國際象棋和撲克上勝過人類。它在現(xiàn)實(shí)世界中的表現(xiàn)也超過了人類。例如，微軟聲稱其語音識別軟件的錯誤率為1%，而人類的錯誤率約為6%。因此，軍隊正在慢慢地把韁繩交給算法，這并不令人驚訝。

但是，我們?nèi)绾伪苊鈱⑹謾C(jī)器人加入我們希望從未發(fā)明過的一長串東西中呢？首先：了解你的敵人。

美國國防部將自主武器系統(tǒng)定義為。"一種武器系統(tǒng)，一旦啟動，就可以選擇和攻擊目標(biāo)，而不需要人類操作員進(jìn)一步干預(yù)"。

許多戰(zhàn)斗系統(tǒng)已經(jīng)符合這一標(biāo)準(zhǔn)。無人機(jī)和現(xiàn)代導(dǎo)彈上的計算機(jī)擁有的算法可以探測目標(biāo)，并以遠(yuǎn)比人類操作員更精確的方式向其開火。以色列的 "鐵穹 "是幾個主動防御系統(tǒng)中的一個，可以在沒有人類監(jiān)督的情況下攻擊目標(biāo)。

雖然是為導(dǎo)彈防御而設(shè)計，但鐵穹可能會意外殺人。但這種風(fēng)險在國際政治中被認(rèn)為是可以接受的，因?yàn)殍F穹在保護(hù)平民生命方面通常有著可靠的歷史。

也有設(shè)計用于攻擊人的人工智能武器，從機(jī)器人哨兵到在烏克蘭戰(zhàn)爭中使用的閑逛的神風(fēng)無人機(jī)。LAWs已經(jīng)在這里了。因此，如果我們想影響致命性武器的使用，我們需要了解現(xiàn)代武器的歷史。

以色列導(dǎo)彈防御系統(tǒng)。

“傷亡人數(shù)……在經(jīng)歷了十多年的歷史性減少之后，在過去七年里一直高得令人不安。2021 年也不例外。這一趨勢主要是自 2015 年以來觀察到的沖突和簡易地雷污染增加的結(jié)果。平民代表了大多數(shù)記錄的受害者中，有一半是兒童。”

盡管 ICBL 盡了最大努力，但有證據(jù)表明俄羅斯和烏克蘭（渥太華條約的成員）在俄羅斯入侵烏克蘭期間使用了地雷。烏克蘭還依靠無人機(jī)引導(dǎo)炮擊，或者最近依靠無人機(jī)引導(dǎo)對俄羅斯基礎(chǔ)設(shè)施的“神風(fēng)敢死隊襲擊”。

我們的未來

但是更先進(jìn)的人工智能武器呢？阻止殺手機(jī)器人運(yùn)動列出了 LAW 的九個關(guān)鍵問題，重點(diǎn)是缺乏問責(zé)制，以及隨之而來的殺戮的內(nèi)在非人性化。

雖然這種批評是有道理的，但出于兩個原因，完全禁止法律是不現(xiàn)實(shí)的。首先，就像地雷一樣，潘多拉魔盒已經(jīng)打開。此外，自主武器、法律和殺手機(jī)器人之間的界限非常模糊，很難區(qū)分它們。軍方領(lǐng)導(dǎo)人總能找到禁令措辭中的漏洞，偷偷將殺手機(jī)器人作為防御性自主武器投入使用。他們甚至可能在不知不覺中這樣做。

我們幾乎肯定會在未來看到更多支持人工智能的武器。但這并不意味著我們必須換個角度看。更具體、更細(xì)致的禁令將有助于讓我們的政治家、數(shù)據(jù)科學(xué)家和工程師承擔(dān)責(zé)任。

例如，通過禁止：

黑盒人工智能：除了輸入和輸出之外，用戶對算法一無所知的系統(tǒng)

不可靠的人工智能：測試不當(dāng)?shù)南到y(tǒng)（例如前面提到的軍事封鎖示例）。

而且你不必成為 人工智能專家就可以對 LAW 有看法。隨時了解新的軍事 AI 發(fā)展。當(dāng)你讀到或聽說人工智能被用于戰(zhàn)斗時，問問自己：它合理嗎？它是在保護(hù)平民的生命嗎？如果沒有，請與致力于控制這些系統(tǒng)的社區(qū)合作。我們一起有機(jī)會阻止 AI 弊大于利。

戰(zhàn)爭的規(guī)則

國際協(xié)議，如《日內(nèi)瓦公約》，規(guī)定了沖突期間對待戰(zhàn)俘和平民的行為。它們是我們控制戰(zhàn)爭方式的少數(shù)工具之一。不幸的是，美國在越南和俄羅斯在阿富汗使用化學(xué)武器，證明這些措施并不總是成功的。

更糟糕的是，關(guān)鍵參與者拒絕簽字。國際禁止地雷運(yùn)動（ICBL）自1992年以來一直在游說政治家禁止地雷和集束彈藥（在大范圍內(nèi)隨機(jī)散布的小型炸彈）。1997年，渥太華條約包括禁止這些武器，122個國家簽署了該條約。但美國、中國和俄羅斯并不買賬。

《2022年地雷和集束彈藥監(jiān)測報告》顯示：自2015年以來，地雷每年至少使5000名士兵和平民受傷和死亡，2017年多達(dá)9440人。