隨著人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，人工智能安全治理成為國際社會(huì)共同課題。

12月中旬，聯(lián)合國《特定常規(guī)武器公約》第六次審議大會(huì)在日內(nèi)瓦召開，討論了有關(guān)規(guī)范“致命自主武器系統(tǒng)”——“殺手機(jī)器人”——事宜。但遺憾的是，會(huì)議最終未能達(dá)成相關(guān)協(xié)議。

在《特定常規(guī)武器公約》審議大會(huì)上，125個(gè)成員國中的大多數(shù)代表表示，他們希望限制“殺手機(jī)器人”。但遭到了美國、英國、俄羅斯、以色列、印度等正在開發(fā)這種武器的國家反對。聯(lián)合國秘書長古特雷斯呼吁各成員國能盡快達(dá)成一致、出臺(tái)一份關(guān)于“殺手機(jī)器人”的新規(guī)。

聯(lián)合國自2017年以來一直在日內(nèi)瓦舉行外交對話，旨在就解決殺手機(jī)器人的使用問題達(dá)成協(xié)議。多個(gè)國家呼吁，應(yīng)全面禁用這種無需人員監(jiān)督并下達(dá)最終行動(dòng)指令就能發(fā)動(dòng)致命攻擊的武器。

2018年11月，聯(lián)合國秘書長古特雷斯加入了呼吁禁用的行列，但迄今為止，各國尚未就是否需要對此類武器進(jìn)行管控達(dá)成一致。

“阻止殺手機(jī)器人”組織發(fā)言人 克拉爾·康博伊：說到“殺手機(jī)器人”，我們不是在說科幻小說。自主武器是一種能力，而非給武器下指令，所以這種武器可能是無人機(jī)、潛艇、飛機(jī)、坦克、機(jī)槍。

中國特命全權(quán)裁軍事務(wù)大使李松在大會(huì)上指出，中方認(rèn)為，在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，各國應(yīng)秉持共同、綜合、合作、可持續(xù)的全球安全觀，通過對話與合作，就如何規(guī)范人工智能軍事應(yīng)用尋求共識(shí)，構(gòu)建有效治理機(jī)制，避免人工智能軍事應(yīng)用給人類帶來重大損害甚至災(zāi)難。

什么是“殺手機(jī)器人”？

那么人工智能與軍事武器相結(jié)合究竟有什么可怕之處，為什么會(huì)遭到大多數(shù)人的極力反對呢？

在電影《終結(jié)者》的片段中，人類研制的高級(jí)計(jì)算機(jī)控制系統(tǒng)失控，機(jī)器人擁有自我意志后，開始與人類為敵。很多人擔(dān)心如果給人工智能機(jī)器人裝上武器，這些科幻電影中的預(yù)言有朝一日會(huì)成為現(xiàn)實(shí)。

“殺手機(jī)器人”究竟是什么？配備了殺傷性武器的人工智能也被稱為“殺手機(jī)器人”。機(jī)器人技術(shù)、人工智能和圖像識(shí)別技術(shù)的快速發(fā)展，使這些武器成為可能。

支持研發(fā)“殺手機(jī)器人”的群體認(rèn)為，這些武器可以讓人類士兵遠(yuǎn)離危險(xiǎn)，一些大規(guī)模殺傷性武器的使用也將更加便捷。

反對者認(rèn)為，不管技術(shù)多么先進(jìn)，讓機(jī)器來做致命的決策有違倫理道德。一旦研發(fā)出這種高度自動(dòng)化的武器，未來戰(zhàn)場必將成為這些沒有生死意識(shí)的“冷血?dú)⑹帧钡奶煜?。有他們的參與，武裝沖突的規(guī)模勢必進(jìn)一步升級(jí)。

萬一他們落入恐怖組織之手，后果更是不堪設(shè)想。

還有人擔(dān)心一旦“殺手機(jī)器人”失控，人類生死的決定權(quán)恐怕將掌握在他們手中。