矽谷的新創團隊都愛稱自己的產品為破壞式創新，但沒有任何間公司像是 Anthropic 一樣，真正創造出破壞式創新時卻面臨存亡危機。當「破壞式創新」成為矽谷風投聽膩的陳腔濫調時，Anthropic 卻給世人看到一部現代啟示錄，技術突破讓公司估值翻倍，隨之而來的政治標籤與監管風暴，卻將其推入谷底。時代雜誌獨家挖掘出這群 AI 界怪咖背後的故事，在國家安全與勁敵環伺的大旗下，這間誓言保護人類的 AI 公司，如何在高壓政治的夾縫中求生？
Anthropic 高速成長，成為軟體界威脅
在 AI 商業應用方面，Anthropic 的市值已達到三千八百億美元，營收成長幅度顯著，甚至超越高盛、麥當勞和可口可樂。Anthropic 推出的 Claude 能獨立執行程式碼、發現錯誤、優化系統，軟體工程師的傳統工作模式被徹底顛覆。投資者發現 Anthropic 甚至有影響到金融市場的能力，每當新版本發佈，往往會造成軟體類股的劇烈波動。執行長阿莫迪預測未來五至十年內，人工智慧可能取代多數白領職位，這種商業成功與社會風險並存的現象，讓 Anthropic 內部負責社會觀察評估的團隊感到矛盾，一方面希望推動公司生產力與業績，另一方面卻擔憂公司產品會導致大規模失業的後果。
Claude 3.7 Sonnet 的潛在風險
以保障人類安全為公司願景的 Anthropic 正處於技術爆發與政府監管的風暴中心點，Anthropic 堅持的倫理底線在面對美國國防部採購需求時，面臨到被封殺的打擊。
根據內部基準測試，Claude 在執行某些關鍵任務時，速度已經比人類快 427 倍。去年二月，Anthropic 的技術成員在一次試驗中發現，即將發佈的 Claude 版本具備協助製造生物武器的潛在風險，這項發現致使該公司緊急推遲了 Claude 3.7 Sonnet 的發佈時程，展現對安全性的高度重視。Anthropic 紅隊小組隊長洛根格雷厄姆指出在人工智慧可能引發核戰或人類滅絕等災難性風險面前，開發者承擔著極大的社會責任，當前業界並不存在一套公認的解決方案，開發團隊必須在資源競爭與風險控管之間尋找平衡。這種人類安全至上的公司標準，使該公司成為 AI 界獨特的存在。
企業倫理抵觸川普政府產生衝突
Anthropic 與美國政府的關係於去年開始出現急劇轉變。由於 Anthropic 不願將人工智慧應用於全自動化武器與公民監控，拒絕了五角大廈重新談判的要求，隨後，川普政府將其列為國家安全風險供應商，這是美國政府首次針對本土企業施加這類標籤。國防部認為私人企業不應對軍事指揮系統設限，而阿莫迪則在內部備忘錄中表示，這是由於公司拒絕向川普捐款與配合特定政治目的且堅持透明監管所致，此一僵局致使競爭對手 OpenAI 取得軍方合約。這場紛爭不僅涉及合約細節，更核心的問題在於誰有權力限制技術。
創辦人阿莫迪為 AI 界的文青怪咖
說到 Anthropic 這間公司的堅持時，不得不提的是該公司創辦人阿莫迪的獨特之處，阿莫迪於 2024 年撰寫了一篇 14000 字的文章，闡述了人工智慧如何能加速科學發現來改變世界的烏托邦願景，今年一月，阿莫迪發表了第二篇中篇小說詳細闡述了 AI 進步後帶來的危機像是大規模監控、失業，甚至永久喪失人類控制權等等，試問有那一間新創公司創辦人會自己唱衰自家的產品，還會害怕造成他人不幸呢？
AI 商業鬥爭下，OpenAI 暫時勝出
根據時代報導，Anthropic 公司毫不知情的是，當公司還在思考對策時，五角大廈同時也正在與 OpenAI 談判，希望將ChatGPT 應用於政府系統，隨後新聞爆出 OpenAI 創辦人奧特曼聲稱已與五角大廈達成協議，該協議與 Anthropic 的協議在底線方面有相似之處。創辦人阿莫迪 (Dario Amodei) 向員工發出消息稱奧特曼和五角大樓正在「蒙蔽」社會大眾，試圖讓他們相信他們的協議包含諸多限制。先前，國防部官員已證實馬斯克的 xAI 也將在機密伺服器上提供其模型，此外，五角大廈目前也正與 Google 進行談判。
Anthropic 使用緩兵政策、推延應對
Claude 撰寫了開發未來 AI 模型所需的絕大部分程式碼，這使得 AI 模型發佈的間隔從月縮短至週，Claude 在特定任務上的執行速度已大幅度超過人類，這讓管理層擔憂未來 AI 技術可能超越人類的掌控範圍。
當 AI 開始撰寫自己的進化邏輯，人類還剩多少時間？鑑於外部競爭與日俱增，Anthropic 近期修改了政策，新版政策承諾提高人工智慧安全風險的透明度，包括揭露 Anthropic 自身模型在安全測試中的表現，此外，如果公司領導層認為 Anthropic 在人工智慧賽道中處於領先地位且會帶來災難性風險時，則將「推延」技術研發。
然而，這個關乎於 AI 倫理的故事尚未完結。
這篇文章 破壞式創新踩到政治紅線，Anthropic 如何在夾縫中求生存？ 最早出現於 鏈新聞 ABMedia。
