美國和俄羅斯等國家，在聯合國大會上公開唱反調，反對禁用殺手機器人，人類禁止致命性自主武器還有希望嗎？根據央視12月24號的新聞報道，為了限制殺手機器人的使用，聯合國12月中旬在日內瓦專門召開了會議，特定常規武器公約第六次審議大會。
經過這個公約的125個成員國當中，包括中國在內的大多數國家，支援禁用殺手機器人。但是美國 俄羅斯 英國 印度，和以色列這些國家都明確表示，反對禁用殺手機器人，這些導致會議這種未能達成相關協議。實際上從2013年起 大量的非政府組織，就一直在呼籲要重視，人工智慧殺人武器的使用，有200多家科技公司，1000多名人工智慧專家簽署的，呼籲禁止使用人工智慧武器的信函，在全球也得到了3萬多人的響應，其中就包括我們熟悉的史蒂芬霍金，埃隆馬斯克這些名人。
但是美國和俄羅斯這些，在聯合國大會上公開唱反調的國家，依舊在為機器人戰爭做準備，殺手機器人也正在一步步地走向戰場，被賦予自行決定開火決策權力的。自主武器系統，已經向人類打響了第一槍，聯合國安理會2021年的五月份，公佈了一項報告就顯示，一架軍用無人機在沒有接到，任何指令的情況下，自主對人類發起襲擊，這是人類歷史上的第一次。事情是發生在2020年的三月份，當時利比亞政府軍與利比亞國民軍司令，哈夫塔爾領導的軍事力量正在發生衝突，一架土耳其軍事科技公司，也就是STM公司生產的卡古-2型無人機，在未接到任何指令的情況下，襲擊了正在撤退的國民軍計程車兵。
近些年來 人工智慧技術，融入武器裝備的程序一直在加快，而正是出於安全的考慮，這些人工智慧的武器通常都會採用，人在迴路中的方式來操控。它的一個最大作用，就是始終把武器裝備開火的扳機，掌握在人的手裡，保證高度自動化武器裝備，不至於製作主張地去殺人。土耳其的卡古-2型無人機，儘管就是一款不到七公斤重的，多旋翼無人機，但它和以往的無人機完全不同，這款無人機能透過機器學習的方式，自主完成對目標的定位，跟蹤 識別和分類，能透過敵我識別系統，以及面部識別能力尋找特定的人。它還可以藉助攝像頭，和其他的感測器利用地標來進行導航，而不需要依賴GPS這樣的導航系統。
一架無人機同時具有這樣的能力，也就具備了在操作人員，未下達指令的情況下，發起自主攻擊的基本條件，無人機這樣的襲擊，不能不說這是對人類的一次警告，而掌握生殺大權，可以自主扣扳機的自主武器系統，被人類的威脅遠不在此。大家知道 人工智慧的學習，是基於軟體的演算法來實施的，透過向大資料的學習來積累能力，在這個過程當中，非常容易出現錯誤的結果，你比如說由於大資料的不夠全面，或者是資料不準確，人工智慧武器學到了錯誤的課程，而錯誤課程的學習就有很大可能，使自主武器裝備做出錯誤的判斷，並對錯誤的目標發起攻擊。
另外人工智慧決策的過程，它是不透明的，特別是進入自主模式之後，即使它決策失誤也無法及時發現。而更危險的是，自主武器裝備發起蜂群作戰的時候，幾十個單元之間會，透過頻繁的通訊來協調行動，一個自主武器裝備的錯誤，很可能會被更多“好學”的隊友學會。這就會構成更大的風險和威脅，土耳其的卡古-2型無人機，就具有很好的叢集能力，可以20架為一組進行協同作戰，國際社會要做的，而且一定要做的就是尋求，合理的機制和國際法規，對致命性自主武器裝備進行有效管控，把機器人戰爭的風險扼殺在搖籃之中。我想希望還是有的，因為在特定常規武器公約當中，125個成員國當中，理智的力量還是佔絕大多數。
