“殺手機器人”的倫理悖論

不久前，人工智能領域的1000多名專家聯合發表一封公開信，呼吁在世界范圍內禁止“殺手機器人”。著名科學家斯蒂芬·霍金、特斯拉首席執行官埃隆·馬斯克以及蘋果聯合創始人史蒂夫·沃茲尼亞克都在這封信上簽了名。

公眾對“殺手機器人”并不陌生。好萊塢大片《終結者》系列中，人類研制的高級計算機控制系統“天網”有了自己的意志，將人類視為仇敵，剝奪了數以億計的生命。導演詹姆斯·卡梅隆在呈獻給觀眾無比震撼的視聽享受時，也將一個問題帶給熒屏之外的觀眾：人類是否將面對機器人帶來的威脅？

盡管科幻小說、電影從未停止刻畫對“殺手機器人”的焦慮和恐慌，但在現實世界中，相關機器人的研發與應用卻不斷發展。據報道，美國陸軍計劃以數萬機器人代替普通士兵服役，并會在未來繼續擴充。盡管目前應用于軍事行動中的機器人依舊高度依賴人類的指令，主要從事偵察、爆破、后勤和安保等任務，距離自動化軍事機器人尚遠。但不難預見，一旦軍事機器人突破了依賴人類的“奇點”，它們帶來的問題將遠遠超過技術層面。

軍事機器人的辯護者認為，機器人將代替人類成為戰爭負面因素的承受者。一方面，它們讓士兵遠離戰場，從而避免了人類的傷亡；另一方面，它們代替人類執行殺戮，善良的人們不會被迫去終結他人的生命。此外，軍事機器人還將在打擊恐怖主義、抗擊自然災害、開展人道主義救援等領域大展拳腳。“那時，打開電視看看哪一方取得了戰爭的勝利，就像觀看一場足球比賽一樣輕松。”

當然，還有更“務實”的考慮。與人類士兵相比，機器人的成本要低得多，維護一臺機器人的成本預計不到培養一名人類士兵成本的1/10。美軍司令部曾表示：“它們不會饑餓，不會恐懼，不會遺忘命令，不會在意身邊的伙伴剛剛被射殺。它們會比人類表現得更好嗎？當然。”

不過，現實往往會和理想的路徑錯位。“殺手機器人”代替人類執行殺戮，決定死亡降臨到誰的頭上，勢必產生難以回避的倫理困境。

一直以來，戰爭的殘酷性都受到人類拒不傷害同類的自然本性的抑制。倘若參與戰爭的是機器人，情況就完全不同了。此外，人類的法律體系如何適用于人類以外的行為主體，這又將是人類社會面臨的新挑戰。

人們有理由問，“殺手機器人”會不會扮演現代社會里的斷頭臺角色？它們讓真正的戰場離發動戰爭的人更為遙遠，這也將造成人道主義的幻覺，讓戰爭更易于接受。正如《金融時報》評論認為的，在減少殺人方面，對殺戮的厭惡是重要因素，其作用不亞于任何技術突破。將人工智能插入這條因果鏈，將弄混“殺人決定”背后的責任。

縱有無數種技術層面的理由證明“殺手機器人”的優越，但如何直面披上人道主義外衣的“殺手”，仍將是難解的謎題。