科幻電影《終結(jié)者》的鏡頭：專家認(rèn)為未來科幻領(lǐng)域中的全自動化武器“機器人殺手”或?qū)⒑芸斐蔀楝F(xiàn)實。

一些國家正在利用無人駕駛設(shè)備執(zhí)行戰(zhàn)場任務(wù),，比如“死神”無人機。但是，攻擊目標(biāo)的選擇如果沒有人類的決策,，那世界將會變成一個極其危險的世界,。

北京時間6月21日消息，據(jù)國外媒體報道,，隨著人工智能技術(shù)的飛速發(fā)展,，機器人的“智商”越來越高，功能越來越強大,。在人類享受機器人所帶來的各種便利的同時,，機器人對人類的威脅也越來越大。專家認(rèn)為,，機器人的威脅性將遠(yuǎn)大于其便利性,，未來科幻領(lǐng)域中的全自動化武器“機器人殺手”或?qū)⒑芸斐蔀楝F(xiàn)實。2017年,，人類必須要啟動關(guān)于禁止“致命性自動武器系統(tǒng)”的磋商程序,。

這些全自動化武器可能將徹底改變武裝沖突和法律執(zhí)行的過程。支持者認(rèn)為,，這些機器人殺手是必需的,，因為現(xiàn)代戰(zhàn)爭需要速度，機器人可以讓士兵和警察遠(yuǎn)離傷害,。但是,，更多的人認(rèn)為，機器人所帶來的威脅要遠(yuǎn)大于其在軍事行動和執(zhí)法過程中的好處,，即弊大于利,。攻擊目標(biāo)的選擇如果沒有人類的決策，那世界將會變成一個極其危險的世界,，機器人將在無人控制的情況下做出生死決斷，平民被誤傷的風(fēng)險和幾率將大幅提升,，而且沒有任何人需要對此負(fù)責(zé),。

考慮到全自動化武器所帶來的道德、法律,、人身等方面的風(fēng)險,，人類必須要先發(fā)制人，阻止其發(fā)展,、生產(chǎn)和使用,，已刻不容緩。處理這種威脅的最佳方式就是制定一系列具有法律效力的國際性武器禁令,，這里的武器主要是指沒有人類意識控制的全自動化武器,。至少已有20個國家在聯(lián)合國會議上提出了這種倡議，即人類應(yīng)該控制攻擊目標(biāo)的選擇和交戰(zhàn)與否的決定。四月份,，人權(quán)觀察組織和哈佛法學(xué)院國際人權(quán)研究中心發(fā)表一份最新報告,，提出了許多關(guān)于禁令的建議。這兩個組織一直在致力于禁止全自動化武器的研發(fā)與生產(chǎn),。

無生命的機器人,，它們根本無法真正理解生命的價值與意義。這些福斯特-米勒“魔爪”機器人裝備了多種武器,。專家認(rèn)為,，如果這樣的系統(tǒng)被制造成全自動化，它們有可能攻擊錯誤的目標(biāo),。

這款“死神”無人機攜帶有GBU-12鋪路Ⅱ激光制導(dǎo)炸彈。

人類對武器保持控制也是一種道德的必要,，因為人類有惻隱之心,，在傷害其他個體時他們會有情感上的壓力。對人類尊嚴(yán)的尊重,，可以也是應(yīng)該作為對殺戮的抑制,。相反，機器人沒有真正的情感,，它們根本沒有方向和限度,。此外，無生命的機器人,，它們根本無法真正理解生命的價值與意義,。

人為控制也可以推動人類對國際法的遵守，因為國際法也是為了保護平民和士兵,。人類可以根據(jù)以往的經(jīng)驗和道德考量做出自己的判斷,，可以根據(jù)不同的實際情況做出不同的決定。然而,，全自動化武器則幾乎不可能有此判斷力,，它們所執(zhí)行的程序也不可能考慮到所有的情節(jié)。因此,，這些武器不可能成為一名“理性的指揮官”,，擁有傳統(tǒng)的處置復(fù)雜,、不可預(yù)見局面的能力。此外,，失去人類控制將可能威脅目標(biāo)的一種權(quán)利,，即不能任意剝奪別人的生命權(quán)。在任何的執(zhí)法環(huán)節(jié)和軍事行動中,，保證這一基本權(quán)利也是一種責(zé)任,。在評估攻擊的必要性時，必須要做出此判斷,，而做出合理的判斷,，人類的能力要強于機器人。

現(xiàn)在,，要想找到可以負(fù)法律責(zé)任的全自動化武器研發(fā)者和生產(chǎn)商仍然存在不少障礙,。在美國，政府為大多數(shù)武器生產(chǎn)商制訂了豁免政策,。當(dāng)然,，美國檢測武器產(chǎn)品質(zhì)量的標(biāo)準(zhǔn)也非常高，這樣也可以促使武器生產(chǎn)商更具法律責(zé)任感,。在4月份在日內(nèi)瓦召開的一次聯(lián)合國會議上,，94個國家倡議啟動關(guān)于“致命性自動武器系統(tǒng)”的磋商。這些國家將共同商討常規(guī)武器公約是否能夠限制“致命性自動武器系統(tǒng)”的生產(chǎn),。12月,，加入這一公約的國家將召開會議，制定未來工作的日程表,。最為關(guān)鍵的是,，各成員國應(yīng)該商定于2017年正式啟動關(guān)于“致命性自動武器系統(tǒng)”的磋商程序。

在不久的將來，《鋼鐵俠2》中的軍用機器人或?qū)⒆哌M現(xiàn)實,。

裁軍首先需要人類對武器的控制,。比如，國際社會已經(jīng)制定了得到廣泛認(rèn)可的公約,，用來禁止生物武器、化學(xué)武器和地雷等,。因此,，各國現(xiàn)在也應(yīng)該禁止“致命性自動武器系統(tǒng)”。專家建議,，在12月的會議上,，各個已加入常規(guī)武器公約的國家也應(yīng)該齊心一致向這一目標(biāo)努力。他們首先要通過談判達成一個新的國際性協(xié)定來定義“致命性自動武器”。其次,，在2017年,，各國還需要花費足夠的時間進行深入研究?？紤]到國際法律的制定過程漫長,，各國可以先快速地定義“致命性自動武器”的威脅。專家最后還建議,，各國應(yīng)該抓住這次會議的最佳機遇,，因為別無選擇，不能因為科技超越外交而給人類帶來可怕的后果,。(彬彬)