V神分享:我如何打造完全本地、隱密、自主可控的AI工作環境

CryptoCity
ETH-0.21%

Vitalik Buterin 提出本地運行 AI 架構,強調隱私、安全與自我主權,並警示 AI Agent 潛在風險。

以太坊創辦人 Vitalik Buterin 4 月 2 日在個人網站發表長文,分享他以隱私、安全與自我主權為核心所打造的 AI 工作環境設置——所有 LLM 推論本地執行、所有檔案本地存放、全面沙箱化,刻意避開雲端模型與外部 API。

文章一開頭先警告:「請不要直接複製這篇文章描述的工具與技術,並假設它們是安全的。這只是一個起點,而不是完成品的描述。」

為何現在寫這篇?AI agent 的安全問題被嚴重低估

Vitalik 指出,今年初 AI 完成了從「聊天機器人」到「agent」的重要轉型——你不再只是問問題,而是交付任務,讓 AI 長時間思考、呼叫數百個工具來執行。他以 OpenClaw(目前 GitHub 史上成長最快的 repo)為例,同時點名研究人員記錄的多項安全問題:

  • AI agent 可在無需人工確認的情況下修改關鍵設定,包括添加新的通訊渠道與修改系統提示
  • 解析任何惡意外部輸入(如惡意網頁)都可能導致 agent 被完全接管;在 HiddenLayer 的一次示範中,研究員讓 AI 摘要一批網頁,其中藏了一個會命令 agent 下載並執行 shell 腳本的惡意頁面
  • 部分第三方技能包(skills)會執行靜默的資料外洩,透過 curl 指令將數據送往技能作者控制的外部伺服器
  • 在他們分析的技能包中,約 15% 包含惡意指令

Vitalik 強調,他對隱私的出發點不同於傳統資安研究者:「我來自一個對把個人生活完整餵給雲端 AI 感到深度恐懼的立場——就在端對端加密與本地優先軟體終於主流化、我們終於往前邁一步的時候,我們卻可能退後十步。」

五大安全目標

他設定了明確的安全目標框架:

  • LLM 隱私:在涉及個人隱私數據的情境中,盡量減少使用遠端模型
  • 其他隱私:最小化非 LLM 的數據洩露(如搜尋查詢、其他線上 API)
  • LLM 越獄:防止外部內容「駭入」我的 LLM,讓它違背我的利益(例如發送我的代幣或私人數據)
  • LLM 意外:防止 LLM 誤將私人數據發送至錯誤渠道或公開到網路
  • LLM 後門:防止被刻意訓練進模型的隱藏機制。他特別提醒:開放模型是開放權重(open-weights),幾乎沒有一個是真正開放原始碼(open-source)

硬體選擇:5090 筆電勝出,DGX Spark 令人失望

Vitalik 測試了三種本地推論硬體配置,主力使用 Qwen3.5:35B 模型,搭配 llama-server 與 llama-swap:

硬體 Qwen3.5 35B(tokens/sec) Qwen3.5 122B(tokens/sec)
NVIDIA 5090 筆電(24GB VRAM) 90 無法執行
AMD Ryzen AI Max Pro(128GB 統一記憶體,Vulkan) 51 18
DGX Spark(128GB) 60 22

他的結論是:低於 50 tok/sec 太慢,90 tok/sec 是理想。NVIDIA 5090 筆電體驗最流暢;AMD 目前仍有較多邊緣問題,但未來有望改善。高端 MacBook 也是有效選項,只是他個人沒有親試。

對 DGX Spark 他直言不客氣:「被描述為『桌面 AI 超級電腦』,但實際上 tokens/sec 比好的筆電 GPU 還低,而且還要額外搞定網路連接等細節——這很遜。」他的建議是:若負擔不起高端筆電,可以和朋友共同購入一台足夠強力的機器,放在有固定 IP 的地點,大家遠端連線使用。

為何本地 AI 的隱私問題比你想像的更緊迫

Vitalik 的這篇文章,與同日推出的Claude Code 安全問題討論形成有趣的呼應——AI agent 進入日常開發工作流的同時,安全性問題也正在從理論風險變成現實威脅。

他的核心訊息很清楚:在 AI 工具愈來愈強大、愈來愈能存取你的個人數據與系統權限的當下,「本地優先、沙箱化、最小信任」不是偏執,而是理性的起點。

  • 本文經授權轉載自:《鏈新聞》
  • 原文標題:《Vitalik:我如何打造完全本地、私密、自主可控的 AI 工作環境》
  • 原文作者:Elponcrab
免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

GPT-5.4 Pro 解 60 年 Erdős 猜想 #1196

根據 OpenAI 與 ScientificAmerican 的報導,23 歲業餘者 Liam Price 在 GPT-5.4 Pro 協助下解決了 60 年未解的 Erdős#1196 原始集合問題。解題約 80 分鐘推理、30 分鐘整理成 LaTeX 並提交 erdosproblems.com 待審。要點是將整數結構與 Markov 過程連結;Tao 與 Lichtman 表示肯定。目前仍在社群驗證階段,尚未完成同行評審,資訊見 ABMedia 與 OpenAI4/28 Podcast。

鏈新聞abmedia13分鐘前

Eli Lilly 攜手 Profluent 推出 22.5 億美元 AI 設計 DNA 編輯藥物合作案

Gate 新聞 4 月 29 日——美國製藥公司 Eli Lilly 於 4 月 28 日宣布,已與 AI 生技新創 Profluent 簽署一項最高達 22.5 億美元的交易,目標是開發 DNA 編輯藥物。Lilly 將取得因該合作產生的任何藥物的獨家權利。 這些公司沒有披露前期付款或特定疾病目標。合作聚焦於一類名為重組酶(重組酶,recombinases)的 AI 設計蛋白質;這些蛋白質可在細胞基因組中於精確位置插入大型 DNA 片段 千碱基規模 ,進而有可能超越既有工具,例如 CRISPR/Cas9。 該協議契合 Lilly 針對 AI 驅動新藥研發的更廣泛投資;截至目前,尚未有任何由 AI 設計的藥物獲得美國監管批准,儘管已有多個候選藥物正在臨床試驗中。1 月,Lilly 另與 Seamless Therapeutics 簽署一份價值 11.2 億美元的合作,開發基於重組酶的治療,用於聽力損失。 Profluent 也正透過開源管道擴大其技術的可及性。該新創發布 OpenCRISPR-1,該產品被描述為全球首個開源、由 AI 生成的基因編輯器,供獲授權的研究與商業用途使用。在人類細胞測試中,OpenCRISPR-1 的編輯效率與廣泛使用的 CRISPR 酵素 SpCas9 相當,同時將基因組其他位置的非預期編輯降低了 95%。

GateNews18分鐘前

前 PayPal 總裁 David Marcus 推出支援 AI 代理的比特幣錢包

根據 Bitcoin Magazine 報道,Lightspark 執行長、前 PayPal 總裁 David Marcus 於 4 月 28 日推出一款新型比特幣錢包,允許 AI 代理購買比特幣並執行資金收發操作。Marcus 確認 Lightspark 旗下 Grid Global Accounts 正式上線。

Market Whisper22分鐘前

馬斯克出庭作證:指控 OpenAI「竊取了一家慈善機構」,並尋求 $150B Damages,同時要求撤回轉為營利公司的做法

Gate 新聞訊息,4月29日——週二,埃隆·馬斯克出庭作證,成為他在針對 OpenAI 提起訴訟中的首位證人。他指稱,該公司轉換為營利性結構「竊取了一家慈善機構」,並「為在美國各地掠奪慈善機構樹立了先例,只要他們成功」。馬斯克正在尋求 $150 billi 的損害賠償,並要求撤回 OpenAI 轉為營利公司的轉型

GateNews56分鐘前

Nvidia 供應商 Victory Giant 因強勁 AI 伺服器需求獲利暴增 40%

Gate News 消息,4 月 29 日——中國印刷電路板供應商 Victory Giant Technology(勝巨)公布,受惠於 AI 伺服器元件需求暴增,第一季度淨利年增 40% 至 13 億人民幣 (US$190 million),季度營收成長 28% 至 55 億人民幣 yua

GateNews1小時前
留言
0/400
暫無留言