Anthropic 拒絕讓 AI 做武器，被美國政府列入黑名單：技術紅線背後的架構抉擇

3 月 9 日，Anthropic 同時在加州北區聯邦法院和華盛頓特區上訴法院提起訴訟，控告美國國防部違法將其列為「供應鏈風險」。原因很單純：CEO Dario Amodei 拒絕讓 Claude 被用於大規模監控美國公民，也拒絕讓它操控自主武器。

這不是一般的商業糾紛。這是一家估值數百億美元的 AI 公司，因為堅持技術紅線而被自己國家的軍方封殺。

兩條紅線

Anthropic 和五角大廈的談判卡在兩個條款上：

禁止大規模監控：Claude 不能被用來對美國公民進行未經授權的大規模數據蒐集和分析
禁止自主武器：Claude 不能作為完全自主殺傷性武器的決策核心

Amodei 的立場很明確——這兩條不談。五角大廈的回應也很明確——那你就別做政府生意了。

2 月底，國防部正式將 Anthropic 列入「供應鏈風險」名單。這個標籤的殺傷力不只是失去國防合約，而是所有聯邦政府承包商在六個月內都必須停止使用 Claude。根據 Anthropic 的法庭文件，超過 100 家企業客戶已經就此聯繫他們，可能影響「數億美元」營收。

技術層面：紅線怎麼實作？

這裡值得從工程角度思考一個問題：AI 模型的使用限制，到底是靠什麼機制實現的？

答案是多層防線。

第一層：Constitutional AI 訓練

Anthropic 的 Claude 從訓練階段就植入了行為準則。這不是簡單的關鍵字過濾，而是透過 RLHF（Reinforcement Learning from Human Feedback）和 Constitutional AI 框架，讓模型在生成回應之前自我審查。

1
2
3

使用者輸入 → 模型推理 → 憲法原則檢查 → 輸出
                              ↓
                        違反？→ 拒絕或修正

這個機制的核心挑戰在於：你怎麼定義「大規模監控」和「自主武器」的邊界？分析一千筆公開犯罪紀錄算不算監控？drone 的自動導航系統算不算自主武器？

第二層：API 層的 usage policy enforcement

即使模型訓練時沒有涵蓋所有邊界情況，API 層可以加入額外的請求分類器。Anthropic 的企業版 API 會對每個請求做意圖分類，標記可能涉及違規用途的調用。

第三層：合約層的審計條款

Anthropic 要求在合約中明確規定定期審計權。五角大廈拒絕的正是這一點——他們不想讓一家私人公司有權審計軍方如何使用 AI 工具。

從國防部的角度，這個立場也能理解。讓一家商業公司對軍事行動有「否決權」（原文用的詞是 "operational veto power"），確實觸及了國家安全的敏感地帶。

為什麼 Microsoft 站在 Anthropic 這邊？

3 月 10 日，Microsoft 向法院提交支持 Anthropic 的臨時禁制令意見書。這很值得玩味——Microsoft 是 OpenAI 的最大投資者，OpenAI 才剛簽下五角大廈的 AI 合約。

Microsoft 的論點很務實：「供應鏈風險」標籤如果被用來懲罰設定使用限制的 AI 公司，那整個企業 AI 採購市場都會受到寒蟬效應。今天是 Anthropic，明天可能是 Azure AI。

更有意思的是，OpenAI 和 Google DeepMind 的數十名科學家以個人名義提交了法庭之友意見書，支持 Anthropic 的立場。連競爭對手的員工都站出來了。

連鎖反應

五角大廈 CTO 在 3/12 公開說 Claude 會「污染」國防供應鏈。這個措辭引起了整個 AI 產業的警覺。

對 AI 公司的影響：

你要做政府生意，就必須放棄對模型用途的控制權
你要堅持倫理紅線，就可能被排除在最大的單一買方市場之外
中間地帶正在消失

對開發者的影響：

如果你的產品用了 Claude API，而你的客戶是聯邦承包商，六個月內你需要換模型
API 提供者的政治風險成為了技術選型的新變數
多模型架構（同時整合多家 LLM）從「好有」變成「必要」

對整個產業的影響：

OpenAI 簽五角大廈合約時也加了限制條款（Altman 3/3 承認「rushed」，已修訂加入禁止大規模監控條款）
Palantir 3/12 表示會繼續使用 Claude——即使五角大廈已發出禁令
AI 安全不再只是學術討論，它直接影響商業模式和估值

我的觀察

Anthropic 走了一條危險但邏輯自洽的路。

他們的商業模式建立在「最安全的 AI」這個品牌定位上。如果為了一紙國防合約放棄紅線，品牌定位崩塌，反而損失更大。企業客戶選擇 Claude 而不是 GPT 或 Gemini，有一部分原因就是 Anthropic 對安全的承諾。

但這條路的風險也很真實。被聯邦政府貼上「供應鏈風險」標籤，這不是普通的負面新聞。即使最終法院判 Anthropic 勝訴，這個標籤存在的每一天都在蠶食客戶信心。

從技術架構的角度，這件事揭示了一個更根本的問題：AI 模型的使用控制權應該在誰手上？

訓練模型的公司？部署模型的平台？使用模型的組織？還是受模型影響的公民？

現在沒有標準答案。全美 27 個州有 78 個 AI 法案正在審議。Washington 州剛通過 HB 2225（AI 聊天機器人安全法），Virginia 通過了三項 AI 法案。立法者在試圖回答這個問題，但速度遠跟不上技術發展。

開發者該注意什麼

如果你在做 AI 整合：

短期（這個月）：

檢查你的供應鏈是否有 Anthropic / Claude 的依賴
如果客戶群包含聯邦承包商，準備替代方案
關注法院判決——臨時禁制令的結果可能在數週內出爐

中期（Q2-Q3）：

在架構上支援多 LLM 切換。不只是 Anthropic 風險，任何單一模型提供者都可能遇到政策風險
建立模型抽象層，讓 LLM 切換成本降到最低

// 模型抽象層的基本概念
interface LLMProvider {
  complete(prompt: string, options: CompletionOptions): Promise<string>
  embed(text: string): Promise<number[]>
}

// 實際使用時透過 factory 選擇
const llm = createProvider(config.preferredModel, {
  fallback: config.fallbackModel  // Anthropic 掛了自動切到 OpenAI
})