美國西海岸太平洋風景
美國的西海岸 吸取太平洋精華與陽光照射 隨時都有精彩的故事發生
(以上圖片取自網路)

那福忠 西海岸數位隨筆 (47) (April 21, 2018)

AI 能不能軍用?

   AI 能不能軍用,不好回答。AI 用在武器讓武力增強,殺傷力更大,但 AI 可以讓戰鬥更精準,在戰場減少無辜傷亡。如果說 AI 不可以用在軍事,但畢竟不是核武、不是生化武器,隱藏在各個軍事層面的 AI 元素,不但難以分辨,更無從規範。月前有全球幾十名 AI 學者聯名呼籲 AI 不可以用在戰爭,最近又有三千名 Google 員工聯名寫信,抗議公司高層用自己發展的機器學習軟體 TensorFlow,協助國防部發展 AI,分析無人機在戰區拍攝的影像。


(Google TensorFlow 技術協助美國軍方建立AI分析無人機影像。取自網路)

   這封信是在三月得知 Google「參戰」後寫給執行長的,說 Google 不應該捲入「戰爭事業」,應該取消這一交易,並起草公開宣布 Google 以及合作的伙伴,永遠不會建構戰爭技術。

   Google 參與的國防計畫叫 Maven,一年前成立的,目的在發展「電腦視覺」(Computer Vision),來精密解讀影像與視訊的內容,像是無人機追蹤目標拍攝的影像,國防部說需要民間伙伴的技術協助,Google 顯然是適當的民間伙伴。

   國防需要 AI 技術,不論是否直接用在戰場,總離不開戰爭的範疇,民間技術公司有能力支援,但公司員工反對。Google 員工反彈範圍不算大,算是個案,但如果有別的 AI 公司也與軍方合作,保不住員工也會抗議。「反戰」的情緒雖然不比當年的越戰,仍有相當的感染力。

   剛退下來的 Google 執行長埃里克·施密特 (Eric Schmidt),日前在國會作證,說 AI 在戰爭的防衛、甚至攻擊會很有用,但發展這一技術需要民間的力量。被問到技術公司與國防機構合作遭到反彈,指的是 Google 員工的抗議,施密特建議技術公司之間需要建立一個可接受的規範,制定 AI 發展的原則,那些適合、那些不適合,大家在共識之下或可踏入國防工業。

   Google 解釋參與的 Naven 計畫,是把技術用在非攻擊性的用途,主要是檢查無人飛機偵察到的影像與視訊。但是否用在攻擊,在戰時很難分野,國防部說 Maven 計畫所發展的電腦視覺,會用在如伊拉克或敘利亞的戰區。施密特說他並沒有參與 Maven 計畫的決定,但認為 Google 應是在估算之下,參與了軍用 AI 的發展。

   美國國防部長詹姆斯˙馬蒂斯 (James Mattis),去年夏天走了一趟矽谷,驚嘆各大公司的 AI 技術,說這些技術最好能與國防結合。今年二月,他參加慕尼黑安全會議在回家的途中,說他推測 AI 可能改變戰爭的本質,但大家似乎都沒準備好這一改變。

   Google 員工在信裡說,與國防部合作會污損公司的信譽,降低道德價值,致招聘頂級人才的困難。但施密特解釋,軍方有極大的動機與潛力要與最好的 AI 頭腦合作,而最好的 AI 頭腦就在現有的 Google 員工裡。但如果國防部要 AI 化,就必須以 Maven 計畫做基礎,鋪設一個地基,來確保軍方發展 AI 技術的適當、倫理、負責。

   AI 到底能用在那些軍事領域?首先是替代固定的電腦程式,軍用系統的電腦程式需定期更換,用 AI 不但可以省掉更換的程序,更有潛力創造更敏捷的系統運作,而且成本也會降低。其次 AI 可以訓練系統,像是製造不可預期的情況來訓練戰鬥飛行員的適應能力。另外像電腦視覺,如 Maven 計畫,用軟體從龐大的偵察影像與視訊,尋找蛛絲馬跡。

   我們熟知的 AI 技術,像是臉孔辨識,擴增實境 (AR),自然語言處理,在軍事上都有特殊的功能。臉孔辨識可以替代認證,擴增實境可以用作複雜設備的檢視與維修,自然語言處理可以與設備互動、下達命令啟動系統,翻譯文件與外國語言。

   不過專家們對 AI 在軍事上的使用也提出負面效應,現有的軍事辨識與驗證是用固定的電腦程式,與不斷學習的 AI 先天上有很大差異,資料是 AI 的命脈,AI 能否成功有賴於豐富而確實的資料,錯誤的資料可以造成致命的災難。這是軍用 AI 要慢慢適應的。

   AI 能不能軍用?太沈重不好回答。不妨先欣賞一段中國廣州 1069 個小機器人同步跳舞,打破了山東青島 1007 個小機器人同步跳舞的金氏紀錄。


(金氏世界紀錄:中國廣州 1069 個小機器人同步跳舞。取自網路)

圖片與影視連結:
刊頭:美國西海岸太平洋風景
圖片:Google TensorFlow 技術協助美國軍方建立AI分析無人機影像
影片:金氏世界紀錄:中國廣州 1069 個小機器人同步跳舞


請寫信給我 frank.na@gmail.com