Chengchi Buddhist Philosophy Forum政大佛教哲學論壇

​審慎而樂觀面對AI的軍事應用—青年日報社論 2018/05/09

審慎而樂觀面對AI的軍事應用

美國五角大廈積極推動「AI」於戰場情資與前線決策方面的應用,盼能借重AI強大的學習運算能力,來處理各種先進情蒐技術所取得的資料,以期在實戰上洞悉形勢,制敵機先。美軍今年四月才滿一週年的「大AI計畫」專案成果豐碩,不只已分析大量無人機在中東地區所取得的影片、影像,現在還已完成擴大部署,涵蓋到非洲地區,不只要藉以驗證機制的成果,還讓該機制大量曝光於新情資中,快速學習成長。然此同時,國際資訊巨擘「谷歌」旗下三千一百位員工集體發表聲明,勸告公司切莫涉足戰爭領域,以維其企業「不造惡」的精神;而科技界對人工智慧發展失控的憂慮也從未間斷,一直以來都有專家害怕萬一人工智慧發展出自主意識,恐不利於人類文明的續存。到底面對「AI」科技發展與應用,特別是在軍事科技方面的精進,我們應該要採取怎樣的態度呢?

美國該專案副領導人、空軍中校佛洛伊德表示,這項計畫旨在應用機器學習的技術,分析戰場情資,並不涉及電腦意識與自主能力的發展,而五角大廈一直以來,始終將「AI」定位在於協助戰場指揮官的決策,不會允許電腦具有自主意識。目前情蒐科技已經十分進步,除了衛星攝影之外,日益發展的無人機動載具科技,也大量蒐集到巨細靡遺的現場情資,此外,在數位國土中,每日不間斷地在產出大規模人類網路行為數據,現在的戰事決策所面臨的挑戰,可說是情資爆量,而資料處理產能不足以匹配的窘境。「AI」技術高效能的學習與分析能力,用來將這些數據分類、分析,以作為戰事決策的參考依據。從這個面向來說,相關技術的軍事應用,應屬正面。

機器學習的基本原理,是在給定的有限資料中,讓一組在有限條件下可自動窮舉該條件所能衍生的一切可能性,並從中分析而獲得規律的演算法,並且進一步再以所「習得」的規律,處理新取得的資料,來預測最有可能的成果,同時,也給予演算法自我修正的建議,讓演算法隨著處理越來越多的資料而進步。藉由優異迅速的計算能力,能自我學習的系統能在極短時間內,隨著所「經驗」(處理)的資料,累積並優化鎖定目標的分析、比對與預測能力。例如在開發新藥的場合中,以往,這些資料的累積與分析比對,往往需要透過漫長時間的臨床實驗、記錄與分析,然而越來越多的藥廠,在導入機器學習的技術之後,能夠透過上述的機制,在相當節制的時間之內,就分析並預測出幾個最有可能成功的配方,以及其藥理作用和能誘發的機轉,依照分析結果,搭配實際的臨床實驗,可以先剔除多數預估值不高的方案,省去相當程度的不需浪費的時間與人力,目前,我們已經看到許多大幅降低開發時程的成功案例。

這樣的技術,應用在軍事情報的分析上,當然可以對於戰情的掌握與不必要衝突的避免有相當程度的輔助。自古以來,優秀的軍事家總以能不戰而驅人之兵為優先方案;在無法避免的軍事衝突當中,也都以最少傷亡、最少成本、最短時間等因素,以己方或甚至是雙方百姓的最大福祉為念作綜合考量,將無可避免的傷害程度將到最低。戰情的掌握與精準的分析,正是能制敵於未發,並在形勢中找出最有效率攻略的關鍵。以往,囿於情報科技的限制,大多引人注目的科技突破,都是在於資訊取得技術的突破,例如通訊攔截、諜報活動等等;同時令人驚豔的戰略,往往都出於對於戰情完整且深邃的洞悉。如今,如衛星、無人載具、網路等等,要取得巨量資訊的技術門檻已經太低了,反倒是要從這些訊息當中,解讀出對戰事決策有參考價值的意義,成為了挑戰。

機器學習能與時俱進,隨著所處理資料而不斷精進其對該類別資料的處理能力。在汰除無意義資訊、主動推薦策略方案以及結果評估的協助之下,決策者當能更清心從容面對戰情。然而誠如美軍現在謹慎的驗證精神,機器學習系統對全局的掌握,以及策略方案的分析,不論設計的方法論或者是實際應用,都還需要我們以嚴謹的態度去驗證與判斷。不過,也正因為如此,機器學習的系統只能是輔助性角色,而其學習、驗證、以及成長,都需要人為因素的介入與幫助,因此害怕這類系統發展出自主意識並且不受人類控制,恐怕只是不必要的擔憂。倒是主事者或者決策者若因過度依賴機器的方便而怠惰於判斷,不僅很有可能在關鍵時刻沒有去察覺出系統給出的建議並不恰當而隨便放行,更有可能讓人的心智在怠惰之中判斷力失準,這是我們在軍事場合中使用科技技術協助,所需注意的地方。

機器學習系統有可能判斷失常的原因,除了演算法方法論以及監控標注設計上的人為失察之外,恐怕「價值」的無法規則化,是其根本關鍵。既然被處理的是資訊,而系統自身所賴以自我修正與進化的也是資訊,但凡是資訊,都必然是某種形式的「被認知結果」,不僅僅都是一種既成事實的事物,也都是一種被動的事物,雖然有某種程度的隨機性看似可以給出開放空間,但是在誠如一個人或五個人的性命價值哪個高、庶民或者顯要的生命安全何者較為重要、民意或者專家對公共政策的見解何者優先等等價值選擇上則無從決斷。然而,攸關價值與公眾福祉的綜合衡量,才是戰事決策之核心,正是因為如此,AI系統在技術限制上,僅僅只能是輔助角色,而不會是決策角色。正因資訊的這種「被動、既定」特性,當前人工智慧技術在優越的自主學習與資訊處理上再怎樣進步,距離從被動模式真正進入「自主」模式,還有相當距離。面對戰情判斷輔助技術的智慧化,決策者應當秉持「價值優先」,善加利用智慧系統輔助篩選的長處,全盤並巨細靡遺地掌握所有取得的情資,時時驗證,也謹慎判斷。相信,智慧化科技的軍事應用,我們能夠審慎而樂觀。

https://www.ydn.com.tw/News/288473

Views: 419,129