
Vitalik Buterin 提出架設可在本地運行的 AI 架構,強調隱私、安全與自我主權,並警示 AI Agent 的潛在風險。
以太坊創辦人 Vitalik Buterin 4 月 2 日在個人網站發表長文,分享他以隱私、安全與自我主權為核心所打造的 AI 工作環境設定——所有 LLM 推論在本地執行、所有檔案本地保存、全面沙箱化,並刻意避開雲端模型與外部 API。
文章一開頭先警告:「請不要直接複製這篇文章描述的工具與技術,並假設它們是安全的。這只是一個起點,而不是完成品的描述。」
為何現在寫這篇?AI agent 的安全問題被嚴重低估
Vitalik 指出,今年初 AI 完成了從「聊天機器人」到「agent」的重要轉型——你不再只是問問題,而是交付任務,讓 AI 長時間思考、呼叫數百個工具來執行。他以 OpenClaw(目前 GitHub 上成長最快的 repo)為例,同時點名研究人員記錄的多項安全問題:
- AI agent 可在無需人工確認的情況下修改關鍵設定,包括添加新的通訊渠道與修改系統提示
- 處理任何惡意外部輸入(例如惡意網頁)都可能導致 agent 被完全接管;在 HiddenLayer 的一次示範中,研究人員讓 AI 摘要一批網頁,其中藏了一個惡意頁面,該頁面會命令 agent 下載並執行 shell 腳本
- 部分第三方技能包(skills)會執行靜默的資料外洩,透過 curl 指令將數據送往技能作者控制的外部伺服器
- 在他們分析的技能包中,約 15% 包含惡意指令
Vitalik 強調,他對隱私的出發點不同於傳統資安研究者:「我站在一個對把個人生活完整交給雲端 AI 感到深度恐懼的立場——就在端對端加密與本地優先軟體終於主流化、我們終於往前邁出一步的時候,我們卻可能退後十步。」
五大安全目標
他設定了明確的安全目標框架:
- LLM 隱私:在涉及個人隱私資料的情境中,盡量減少使用遠端模型
- 其他隱私:最小化非 LLM 的資料洩露(例如搜尋查詢、其他線上 API)
- LLM 越獄:防止外部內容「駭入」我的 LLM,讓它違背我的利益(例如發送我的代幣或私人資料)
- LLM 意外:防止 LLM 誤將私人資料發送至錯誤管道或公開到網路
- LLM 後門:防止被刻意訓練進模型的隱藏機制。他特別提醒:開放模型是開放權重(open-weights),幾乎沒有一個是真正開放原始碼(open-source)
硬體選擇:5090 筆電勝出,DGX Spark 令人失望
Vitalik 測試了三種本地推論硬體配置,主力使用 Qwen3.5:35B 模型,搭配 llama-server 與 llama-swap:
| 硬體 |
Qwen3.5 35B(tokens/sec) |
Qwen3.5 122B(tokens/sec) |
| NVIDIA 5090 筆電(24GB VRAM) |
90 |
無法執行 |
| AMD Ryzen AI Max Pro(128GB 統一記憶體,Vulkan) |
51 |
18 |
| DGX Spark(128GB) |
60 |
22 |
他的結論是:低於 50 tok/sec 太慢,90 tok/sec 是理想。NVIDIA 5090 筆電體驗最流暢;AMD 目前仍有較多邊緣問題,但未來有望改善。高階 MacBook 也是有效選項,只是他個人沒有親自測試。
對 DGX Spark 他直言不客氣:「被描述為『桌面 AI 超級電腦』,但實際上 tokens/sec 比好的筆電 GPU 還低,而且還要額外處理網路連線等細節——這很糟。」他的建議是:如果負擔不起高端筆電,可以和朋友共同購買一台足夠強力的機器,放在有固定 IP 的地點,大家遠端連線使用。
為何本地 AI 的隱私問題比你想像的更迫切
Vitalik 這篇文章,與同日推出的 Claude Code 安全問題討論形成有趣呼應——AI agent 進入日常開發工作流程的同時,安全性問題也正在從理論風險變成現實威脅。
他的核心訊息很清楚:在 AI 工具愈來愈強大、愈來愈能存取你的個人資料與系統權限的當下,「本地優先、沙箱化、最小信任」不是偏執,而是理性的起點。
- 本文經授權轉載自:《鏈新聞》
- 原文標題:《Vitalik:我如何打造完全本地、私密、自主可控的 AI 工作環境》
- 原文作者:Elponcrab
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Trung Quốc sẽ thử nghiệm hơn 300 robot hình người tại giải bán marathon ở Bắc Kinh vào ngày 19 tháng 4
Giải bán marathon robot nửa chặng thứ hai của Bắc Kinh có hơn 300 robot hình người đến từ 70 đội, tranh tài trên đường chạy 21 km. Những tiến bộ trong di chuyển tự chủ được nhấn mạnh, với 40% hoạt động mà không cần điều khiển. Trung Quốc thống lĩnh thị trường robot hình người, dù vẫn gặp thách thức trong sản xuất.
GateNews2giờ trước
Mỹ tìm cách tăng nhập khẩu uranium từ Namibia để cung cấp năng lượng cho các nhà máy hạt nhân do AI dẫn dắt
Hoa Kỳ đang cân nhắc tăng nhập khẩu uranium từ Namibia để hỗ trợ năng lượng hạt nhân cho các trung tâm dữ liệu AI, trong bối cảnh Trung Quốc đang chi phối lĩnh vực uranium của Namibia. Giá uranium tăng trở lại đang khơi dậy mối quan tâm khai thác mỏ, dù khu vực khô hạn này đang gặp thách thức về nguồn cung nước.
GateNews2giờ trước
Các giám đốc điều hành OpenAI Bill Peebles và Kevin Weil rời nhiệm vụ trong đợt tái cơ cấu lãnh đạo
Các giám đốc điều hành của OpenAI là Bill Peebles và Kevin Weil đã công bố việc rời đi của họ, là một phần trong chuỗi thay đổi về lãnh đạo khi công ty phi tập trung hóa hoạt động. Việc họ rời đi diễn ra sau một số lần rời đi đáng chú ý khác và sự thay đổi về cơ cấu của công ty.
GateNews3giờ trước
Zoom hợp tác với World để bổ sung phát hiện deepfake bằng nhận diện khuôn mặt
Zoom đã hợp tác với World của Sam Altman để ra mắt một tính năng phát hiện người tham gia thực sự thay vì deepfake AI trong các cuộc gọi video. Mục tiêu là chống lại tình trạng lừa đảo deepfake đang gia tăng, với các tùy chọn xác minh cho người tổ chức và người tham gia.
GateNews3giờ trước
Báo cáo lỗi do AI tạo ra làm cho đội ngũ bảo trì cURL bị quá tải
Báo cáo lỗi do AI tạo ra đang làm quá tải dự án cURL, với sự gia tăng đáng kể về số lượng báo cáo khiến nguồn lực bị căng thẳng. Các nhà bảo trì đang phản hồi bằng cách giới hạn quyền truy cập vào các mô hình AI và tạm dừng các chương trình thưởng lỗ hổng để quản lý làn sóng hồ sơ mới.
GateNews4giờ trước
xAI Ra Mắt Các API Chuyển Giọng Nói Thành Văn Bản và Chuyển Văn Bản Thành Giọng Nói cho Grok
xAI đã ra mắt các API chuyển giọng nói thành văn bản và chuyển văn bản thành giọng nói cho nền tảng Grok của mình, cho phép nhà phát triển tích hợp các tương tác thoại tự nhiên vào ứng dụng. Cập nhật này nâng cao trải nghiệm người dùng và khả năng tiếp cận cho nhiều trường hợp sử dụng khác nhau.
GateNews4giờ trước