作為和平主義者,我為什麽不支持禁止“殺傷性機器人”?

作者:Debra 發表日期:2017-11-17 16:06:25

原標題:作為和平主義者,我為什麽不支持禁止“殺傷性機器人”?

編者按:本文編譯自the Guardian原標題為I'm a pacifist, so why don't I support the Campaign to Stop Killer Robots的文章。

禁止殺傷性機器人運動呼籲聯合國禁止研發和使用自動武器:無人監控下識別,追蹤和攻擊目標的自動武器。該運動組織者與一些著名AI研究員共同製作了一個轟動的視頻,並於周一發布。 視頻向我們展現了廣泛使用自動武器所帶來的反烏托邦式的未來。

我很高興看到我的同事正在努力確保AI技術應用於有益於人類社會的領域。 但是,我深刻懷疑這種止於形式的運動是否有效。 盡管我認為自己是絕對的和平主義者,但我對於簽署這項禁令持保留態度。而我相信持保留態度的也絕非我一人。

首先,擁護這項禁令的國家都無法確定應該禁止自動化還是AI。因此,這項禁令又如何能夠阻止反對它的國家使用自動武器。對於常規武器和核武器的禁令是有效的,這是由於天然的進入壁壘:製造這些武器所需的原材料和設備很難獲得,負責任的國家可以通過法令和製裁控製這些武器。相比之下,有些人可能會說AI的使用已經相當廣泛,而且它還是自動武器的核心技術。 因此,想通過法令和禁令控製這種武器難上加難 - 例如網絡戰爭。

想想視頻中描述的“殺手無人機”與the Guardian上呼籲禁令的文章。即使在今天,任何互聯網訪問者都可以重建無人機所需的人臉識別技術:一些最先進的“預訓練網絡”都會成為公開資源。 隨著技術的進一步發展,事情將變得更加容易。

AI的進入壁壘很低。因此即使聯合國和一些國家同意這項禁令,也無法阻止其他反對這項禁令的國家采購和部署AI技術。 最終,最好的結果是禁令取得勝利,但禁令的擁護者會付出慘重的代價。而最壞的情況是禁令束縛了“好人”的手腳,“壞人”卻仍然肆意妄為。

作為一名AI研究人員,我非常反感利用反烏托邦來渲染這整件事,就像the Guardian報道的這個視頻。 這些視頻讓人感到不安。在我看來, 使用“雛菊女孩”式的運動宣傳來激起人們對AI技術的恐懼,更像是為了點燃大眾的情緒,而不是引發大眾的思考。

鑒於對禁令有效性的擔憂,AI研究人員應該尋找更積極的技術解決方案,以減少潛在的AI技術濫用。 例如,我們於2017年3月初在亞利桑那州立大學舉辦了一個研討會,主題為“AI帶來的挑戰:展望未來,消除隱患”。 許多著名的科學家,技術專家和倫理學家參加了這次研討會,其目的就是討論如何防止AI技術的濫用(包括致命自動武器)。

目前,研討會的主題之一就是利用AI技術防範AI的惡意使用。 這可能包括所謂的“AI守衛係統”,它可以監測AI並且做出防禦回應。 即使這種係統不能完全遏製AI的濫用,至少可以反饋這些問題。

重申一下,我認為自己是和平主義者,一貫反戰和支持軍控。 如果這項禁令不僅止於形式,而且非常有效;不僅點燃了大眾的情緒,還引發了大眾的思考,我將舉雙手讚成。

免責聲明:為了充分披露,請允許我聲明我的一些基礎研究(關於人類認知的AI)由美國國防部資助機構(如海軍研究辦公室)資助。 但是,我在文中觀點是客觀的,與資助方無關。美國的國防資助機構資助了大量基礎研究,包括參與禁令運動的研究人員。

原文作者:Subbarao Kambhampati

原文鏈接:https://www.theguardian.com/technology/2017/nov/15/im-a-pacifist-so-why-dont-i-support-the-campaign-to-stop-killer-robots

編譯組出品。編輯:郝鵬程


本文來源:http://tech.ifeng.com/a/20171117/44765725_0.shtml




Tag:
本文鏈接:http://www.hkcar-rental.org/40579.html