【臉書】台灣買自主AI武器的現實抉擇

背景

去年在專欄寫了《以民主之名的AI自主武器，臺灣人必須買單嗎？》，談 Anduril 與自主武器（跟中國大陸用 AI 維穩相比），當時還沒有太多公開討論（現在回頭過來反推，官方當時可能已經秘密談訂單了），結果今年創辦人來台灣、台灣也下訂單了

輿論（或世道）發酵真快，一年前覺得適合作為未來推測的議題，到了今年變成現實地緣衝突的真槍實彈。過了一年，推論算是都沒有悖離現實，自摘幾段：

觀察

//這篇人物專訪〈特雷．斯蒂芬斯製造了人工智慧武器，並為川普工作。在他看來，耶穌也會贊成〉，理所當然地提到因地緣政治關係而成為「潛在買家」的臺灣。

//斯蒂芬斯於文中表示，安杜里爾最近在興建超級工廠，這是因為其生產鏈已經跟不上烏克蘭軍方需求，俄烏戰爭快速消耗了庫存。斯蒂芬斯所發展的「科技產品」具有不對稱作戰（Asymmetric warfare）的特色，亦即可以以低成本、快速反應的方式，遏阻規模更大的交戰方。

//加州矽谷的網路新創偉業，始於40年前美國國防部的阿帕網（ARPANET，高等研究計劃署網路），其分散式網路架構衍生出我們每天都在使用的網際網路。而如今矽谷新創企業回頭加入了五角大廈，成為以先進科技為主軸的AI軍事工業複合體。但是在編輯的質問下，斯蒂芬斯認為在有效運作的資本體系框架下，AI自主武器反而可以瓦解軍事將領、工業部門之間的裙帶關係，讓武器商人「自由化」。

想法

//對於不對稱作戰而言，應用AI是一種混合了資訊戰與現代化戰爭的手法，具有「分散」的特徵。其大幅度地降低了單一作戰部隊的建置成本，卻也產生了「代理」（Agency）的道德討論。當我們在一般社會討論AI能否取代人類時，通常以AI是否可以「負責」為最終判準，包含醫療、訴訟、契約等需要蓋章的工作。在戰爭中，是否為錯誤的行為負責，比如對於非戰人員的附帶傷害（Collateral Damage），就要回歸第一線操作者、AI承包商之間的關係。在這個情境中，AI很有可能分散了「責任意識」，也就是弱化了人類參與決策（Human-in-the-loop）的戒律。

//對於戰爭而言，可以將自主武器納入正義戰爭理論（Just War Theory）範疇討論。在正義戰爭理論中，分為開戰的正當理由（Jus ad Bellum）和戰爭中的正當行為（Jus in Bello）。自主武器的開發者認為自主武器可以讓正當行為的品質大幅提高，比如可以更有效率的判別敵方與平民，進一步強化區分原則（Distinction），並且可以更符合比例性原則（Proportionality），不帶來更多傷害，而且還可以降低人類傷亡。此外，藉由自主武器難纏、難以攻破的特性，還可以延伸產生否定性威懾（Deterrence by Denial）的特色，讓對手認為攻擊不可能成功，或需要付出更高的代價。這意外的符合以太坊共同創辦人Vitalik Buterin所提出的「防禦加速主義」（Defense Accelerationism, d/acc），藉由加速發展用於自衛的科技，強化自我的正當性與行為，因此也是某種程度上的「分散」特徵。

//因此可以說自主武器是某種分散式自主科技（Decentralized Autonomous Technology）。

//被科技發展推著走的我們，在沒有辦法讓科技停止發展的當口，應如何藉由民主權力「微調」科技走向？AI是加速主義者眼中的集體昇華，還是還權於民的自保工具，此道命題對於台灣而言可能意外的更貼近現實。