科幻電影《終結(jié)者》的鏡頭：專家認(rèn)為未來(lái)科幻領(lǐng)域中的全自動(dòng)化武器“機(jī)器人殺手”或?qū)⒑芸斐蔀楝F(xiàn)實(shí),。

一些國(guó)家正在利用無(wú)人駕駛設(shè)備執(zhí)行戰(zhàn)場(chǎng)任務(wù),，比如“死神”無(wú)人機(jī)。但是,，攻擊目標(biāo)的選擇如果沒(méi)有人類的決策,，那世界將會(huì)變成一個(gè)極其危險(xiǎn)的世界,。

北京時(shí)間6月21日消息，據(jù)國(guó)外媒體報(bào)道,，隨著人工智能技術(shù)的飛速發(fā)展,，機(jī)器人的“智商”越來(lái)越高，功能越來(lái)越強(qiáng)大,。在人類享受機(jī)器人所帶來(lái)的各種便利的同時(shí),，機(jī)器人對(duì)人類的威脅也越來(lái)越大。專家認(rèn)為,，機(jī)器人的威脅性將遠(yuǎn)大于其便利性，未來(lái)科幻領(lǐng)域中的全自動(dòng)化武器“機(jī)器人殺手”或?qū)⒑芸斐蔀楝F(xiàn)實(shí),。2017年,，人類必須要啟動(dòng)關(guān)于禁止“致命性自動(dòng)武器系統(tǒng)”的磋商程序。

這些全自動(dòng)化武器可能將徹底改變武裝沖突和法律執(zhí)行的過(guò)程,。支持者認(rèn)為,，這些機(jī)器人殺手是必需的，因?yàn)楝F(xiàn)代戰(zhàn)爭(zhēng)需要速度,，機(jī)器人可以讓士兵和警察遠(yuǎn)離傷害,。但是，更多的人認(rèn)為,，機(jī)器人所帶來(lái)的威脅要遠(yuǎn)大于其在軍事行動(dòng)和執(zhí)法過(guò)程中的好處,，即弊大于利。攻擊目標(biāo)的選擇如果沒(méi)有人類的決策,，那世界將會(huì)變成一個(gè)極其危險(xiǎn)的世界,，機(jī)器人將在無(wú)人控制的情況下做出生死決斷，平民被誤傷的風(fēng)險(xiǎn)和幾率將大幅提升,，而且沒(méi)有任何人需要對(duì)此負(fù)責(zé),。

考慮到全自動(dòng)化武器所帶來(lái)的道德、法律,、人身等方面的風(fēng)險(xiǎn),，人類必須要先發(fā)制人，阻止其發(fā)展,、生產(chǎn)和使用,，已刻不容緩。處理這種威脅的最佳方式就是制定一系列具有法律效力的國(guó)際性武器禁令,，這里的武器主要是指沒(méi)有人類意識(shí)控制的全自動(dòng)化武器,。至少已有20個(gè)國(guó)家在聯(lián)合國(guó)會(huì)議上提出了這種倡議，即人類應(yīng)該控制攻擊目標(biāo)的選擇和交戰(zhàn)與否的決定,。四月份,，人權(quán)觀察組織和哈佛法學(xué)院國(guó)際人權(quán)研究中心發(fā)表一份最新報(bào)告,，提出了許多關(guān)于禁令的建議。這兩個(gè)組織一直在致力于禁止全自動(dòng)化武器的研發(fā)與生產(chǎn),。

無(wú)生命的機(jī)器人,，它們根本無(wú)法真正理解生命的價(jià)值與意義。這些福斯特-米勒“魔爪”機(jī)器人裝備了多種武器,。專家認(rèn)為,，如果這樣的系統(tǒng)被制造成全自動(dòng)化，它們有可能攻擊錯(cuò)誤的目標(biāo),。

這款“死神”無(wú)人機(jī)攜帶有GBU-12鋪路Ⅱ激光制導(dǎo)炸彈。

人類對(duì)武器保持控制也是一種道德的必要,，因?yàn)槿祟愑袗烹[之心,，在傷害其他個(gè)體時(shí)他們會(huì)有情感上的壓力。對(duì)人類尊嚴(yán)的尊重,，可以也是應(yīng)該作為對(duì)殺戮的抑制,。相反，機(jī)器人沒(méi)有真正的情感,，它們根本沒(méi)有方向和限度,。此外，無(wú)生命的機(jī)器人,，它們根本無(wú)法真正理解生命的價(jià)值與意義,。

人為控制也可以推動(dòng)人類對(duì)國(guó)際法的遵守，因?yàn)閲?guó)際法也是為了保護(hù)平民和士兵,。人類可以根據(jù)以往的經(jīng)驗(yàn)和道德考量做出自己的判斷,，可以根據(jù)不同的實(shí)際情況做出不同的決定。然而,，全自動(dòng)化武器則幾乎不可能有此判斷力,，它們所執(zhí)行的程序也不可能考慮到所有的情節(jié)。因此,，這些武器不可能成為一名“理性的指揮官”,，擁有傳統(tǒng)的處置復(fù)雜、不可預(yù)見(jiàn)局面的能力,。此外,，失去人類控制將可能威脅目標(biāo)的一種權(quán)利,，即不能任意剝奪別人的生命權(quán)。在任何的執(zhí)法環(huán)節(jié)和軍事行動(dòng)中,，保證這一基本權(quán)利也是一種責(zé)任,。在評(píng)估攻擊的必要性時(shí)，必須要做出此判斷,，而做出合理的判斷,，人類的能力要強(qiáng)于機(jī)器人。

現(xiàn)在,，要想找到可以負(fù)法律責(zé)任的全自動(dòng)化武器研發(fā)者和生產(chǎn)商仍然存在不少障礙,。在美國(guó)，政府為大多數(shù)武器生產(chǎn)商制訂了豁免政策,。當(dāng)然,，美國(guó)檢測(cè)武器產(chǎn)品質(zhì)量的標(biāo)準(zhǔn)也非常高，這樣也可以促使武器生產(chǎn)商更具法律責(zé)任感,。在4月份在日內(nèi)瓦召開(kāi)的一次聯(lián)合國(guó)會(huì)議上，94個(gè)國(guó)家倡議啟動(dòng)關(guān)于“致命性自動(dòng)武器系統(tǒng)”的磋商,。這些國(guó)家將共同商討常規(guī)武器公約是否能夠限制“致命性自動(dòng)武器系統(tǒng)”的生產(chǎn),。12月，加入這一公約的國(guó)家將召開(kāi)會(huì)議,，制定未來(lái)工作的日程表,。最為關(guān)鍵的是，各成員國(guó)應(yīng)該商定于2017年正式啟動(dòng)關(guān)于“致命性自動(dòng)武器系統(tǒng)”的磋商程序,。

在不久的將來(lái),，《鋼鐵俠2》中的軍用機(jī)器人或?qū)⒆哌M(jìn)現(xiàn)實(shí),。

裁軍首先需要人類對(duì)武器的控制。比如,，國(guó)際社會(huì)已經(jīng)制定了得到廣泛認(rèn)可的公約,，用來(lái)禁止生物武器、化學(xué)武器和地雷等,。因此,，各國(guó)現(xiàn)在也應(yīng)該禁止“致命性自動(dòng)武器系統(tǒng)”。專家建議,，在12月的會(huì)議上,，各個(gè)已加入常規(guī)武器公約的國(guó)家也應(yīng)該齊心一致向這一目標(biāo)努力。他們首先要通過(guò)談判達(dá)成一個(gè)新的國(guó)際性協(xié)定來(lái)定義“致命性自動(dòng)武器”,。其次,，在2017年,，各國(guó)還需要花費(fèi)足夠的時(shí)間進(jìn)行深入研究?？紤]到國(guó)際法律的制定過(guò)程漫長(zhǎng),，各國(guó)可以先快速地定義“致命性自動(dòng)武器”的威脅。專家最后還建議,，各國(guó)應(yīng)該抓住這次會(huì)議的最佳機(jī)遇,，因?yàn)閯e無(wú)選擇，不能因?yàn)榭萍汲酵饨欢o人類帶來(lái)可怕的后果,。(彬彬)