美國哈佛大學(xué)法學(xué)院的邦妮·多徹蒂出席了聯(lián)合國大會，會上通過了第一個關(guān)于“殺手機(jī)器人”的決議。

長期以來，被稱為 "殺手機(jī)器人 "的自主武器系統(tǒng)一直是科幻小說中的情節(jié)，但由于人工智能的快速發(fā)展，它正準(zhǔn)備成為現(xiàn)實。對此，國際組織一直在加緊呼吁限制甚至完全禁止使用它們。聯(lián)合國大會于 11 月通過了有史以來第一份關(guān)于這些武器系統(tǒng)的決議，因為它們可以在沒有人類干預(yù)的情況下選擇和攻擊目標(biāo)。

為了闡明這些武器引發(fā)的法律和倫理問題，美國媒體《The Gazette》采訪了哈佛大學(xué)法學(xué)院國際人權(quán)診所（IHRC）的法律講師邦妮-多切蒂（Bonnie Docherty），她參加了聯(lián)合國的一些會議。多切蒂還是人權(quán)觀察組織武器部的高級研究員。

殺手機(jī)器人究竟是什么？它們在多大程度上已經(jīng)成為現(xiàn)實？

殺手機(jī)器人，或者用更專業(yè)的術(shù)語來說是自主武器系統(tǒng)，是一種根據(jù)傳感器輸入而非人為輸入選擇目標(biāo)并向其開火的系統(tǒng)。它們已經(jīng)研發(fā)了一段時間，但正在迅速成為現(xiàn)實。我們對它們的擔(dān)憂與日俱增，因為在戰(zhàn)場上已經(jīng)使用了可以自主使用武力的武器系統(tǒng)。

它們是什么？在哪里使用過？

什么算殺人機(jī)器人，什么不算，這還真有點微妙。在利比亞使用過的一些系統(tǒng)，以及在[亞美尼亞和阿塞拜疆就]納戈爾諾-卡拉巴赫[Nagorno-Karabakh]發(fā)生的種族和領(lǐng)土沖突中使用過的其他系統(tǒng)，都顯示出了很強的自主性，即它們可以自行識別目標(biāo)并進(jìn)行攻擊。

它們被稱為 "閑逛彈藥"，越來越多地利用自主性，使其能夠在戰(zhàn)場上空盤旋，等待發(fā)現(xiàn)目標(biāo)后發(fā)動攻擊。這些系統(tǒng)是否被視為殺手機(jī)器人取決于具體因素，如人類控制的程度，但這些武器顯示了軍事技術(shù)中自主性的危險。

殺手機(jī)器人會帶來哪些倫理問題？

倫理問題非常嚴(yán)重。對許多人來說，把生死攸關(guān)的決定權(quán)交給機(jī)器是一條紅線。它將使暴力失去人性，并將人類簡化為數(shù)值。

此外，還存在算法偏見的嚴(yán)重風(fēng)險，即可能出現(xiàn)基于種族、性別、殘疾等原因的歧視，因為機(jī)器可能被有意編程為尋找某些標(biāo)準(zhǔn)，也可能無意中產(chǎn)生偏見。有大量證據(jù)表明，人工智能可能會產(chǎn)生偏見。我們?nèi)藱?quán)界非常擔(dān)心這種情況會被用于設(shè)計用來殺人的機(jī)器上。

有哪些法律問題？

還有非常嚴(yán)重的法律問題，例如機(jī)器無法區(qū)分士兵和平民。在戰(zhàn)斗人員與平民混雜的環(huán)境中，機(jī)器很難做到這一點。即使技術(shù)可以克服這個問題，它們也缺乏人類的判斷力。這一點對于所謂的相稱性測試非常重要，即權(quán)衡對平民的傷害是否大于軍事優(yōu)勢。這一測試需要人類做出道德和法律上的決定。這種判斷無法編程到機(jī)器中，因為戰(zhàn)場上會發(fā)生無數(shù)種情況。你不可能給機(jī)器編程來處理無限多的情況。

缺乏問責(zé)制令人擔(dān)憂

我們非常擔(dān)心自主武器系統(tǒng)的使用會陷入問責(zé)空白，因為很明顯，你無法追究武器系統(tǒng)本身的責(zé)任。讓操作者對自主運行系統(tǒng)的行為負(fù)責(zé)，在法律上也是一個挑戰(zhàn)，而且可以說是不公平的。根據(jù)侵權(quán)法追究武器制造商的責(zé)任也存在困難。國家、軍隊和其他人普遍擔(dān)心，這些自主武器可能會出現(xiàn)責(zé)任空白。我們還認(rèn)為，這些武器系統(tǒng)的使用將破壞現(xiàn)有的國際刑法，因為它在框架中制造了一個缺口；它將制造一些現(xiàn)有刑法沒有涵蓋的東西。

人們一直在努力禁止殺手機(jī)器人，但至今沒有成功。這是為什么呢？

有些國家反對采取任何行動來解決這些武器引發(fā)的問題，尤其是俄羅斯。一些國家，如美國、英國等，支持不具約束力的規(guī)則。我們認(rèn)為，有約束力的條約是解決這些嚴(yán)重關(guān)切的唯一答案。

大多數(shù)尋求制定不具約束力的規(guī)則或不采取任何行動的國家都是那些正在開發(fā)該技術(shù)的國家，它們顯然不想放棄在未來使用該技術(shù)的選擇。

禁止這些武器系統(tǒng)之所以具有挑戰(zhàn)性，可能有幾個原因。這些武器系統(tǒng)在我們說話的時候還在研發(fā)中，不像地雷和集束彈藥在被禁止時已經(jīng)存在了一段時間。我們可以用文件證明地雷和集束彈藥造成的傷害，而這正是促使人們采取行動的一個因素--當(dāng)傷害已經(jīng)存在的時候。

就激光致盲武器而言，這是一項先發(fā)制人的禁令[以確保它們只用于光學(xué)設(shè)備，而不是軍事人員]，因此這與自主武器系統(tǒng)有很好的相似之處，盡管這些武器系統(tǒng)是一個更廣泛的類別?，F(xiàn)在的政治氣候也有所不同。在世界范圍內(nèi)，政治氣候要保守得多，這使得裁軍更具挑戰(zhàn)性。

您對美國政府的立場有何看法？

我們認(rèn)為，它們沒有達(dá)到解決方案的要求。我們認(rèn)為，我們需要具有法律約束力的規(guī)則，這些規(guī)則要比美國政府提出的規(guī)則更強有力，其中需要包括禁止某些類型的自主武器系統(tǒng)，而且這些規(guī)則需要成為義務(wù)，而不僅僅是建議。

最近，聯(lián)合國在長達(dá)十年的禁止這些武器系統(tǒng)的努力中出現(xiàn)了新的進(jìn)展。

聯(lián)合國大會裁軍和國際安全第一委員會于11月以164個國家贊成、5個國家反對的巨大優(yōu)勢通過了一項決議，呼吁聯(lián)合國秘書長收集各國和民間社會對自主武器系統(tǒng)的意見。

雖然這看似一小步，卻是向前邁出的關(guān)鍵一步。它將討論的中心從《常規(guī)武器公約》（CCW）轉(zhuǎn)移到了聯(lián)合國大會，而《常規(guī)武器公約》的進(jìn)展一直非常緩慢，并受到俄羅斯和其他國家的阻撓。聯(lián)合國大會（UNGA）包括更多國家，以投票而非協(xié)商一致的方式運作。

許多國家（超過 100 個）都表示支持制定一項新條約，其中包括禁止和規(guī)范自主武器系統(tǒng)。這與這些系統(tǒng)在現(xiàn)實世界中越來越多的使用相結(jié)合，推動了外交方面的行動。

秘書長表示，他希望在 2026 年之前看到一項新條約。聯(lián)合國大會產(chǎn)生的條約可以考慮更廣泛的議題，如人權(quán)、法律、倫理，而不僅僅局限于人道主義法。我們非常希望這將在未來幾年改變游戲規(guī)則。

國際禁止自主武器系統(tǒng)條約的內(nèi)容是什么？

我們呼吁制定一項包含三個部分的條約。其一是禁止缺乏有意義的人為控制的自主武器系統(tǒng)。我們還呼吁禁止以人為目標(biāo)的自主武器系統(tǒng)，因為它們會引起人們對歧視和倫理挑戰(zhàn)的擔(dān)憂。第三點是，我們呼吁對所有其他自主武器系統(tǒng)進(jìn)行監(jiān)管，以確保它們只能在一定的地理或時間范圍內(nèi)使用。我們樂觀地認(rèn)為，各國將在未來幾年內(nèi)通過這樣一項條約。