V thần chia sẻ: Tôi xây dựng như thế nào một môi trường làm việc AI hoàn toàn cục bộ, riêng tư và tự chủ, có thể kiểm soát hoàn toàn

Vitalik Buterin 提出了本地运行的 AI 架构,强调隐私、安全与自我主权,并警示 AI Agent 潜在风险。

以太坊创办人 Vitalik Buterin 4 月 2 日在个人网站发布长文,分享他以隐私、安全与自我主权为核心所打造的 AI 工作环境设置——所有 LLM 推理本地执行、所有文件本地存放、全面沙箱化,刻意避开云端模型与外部 API。

文章一开头先警告:「请不要直接复制这篇文章描述的工具与技术,并假设它们是安全的。这只是一个起点,而不是完成品的描述。」

为什么现在写这篇?AI agent 的安全问题被严重低估

Vitalik 指出,今年初 AI 完成了从「聊天机器人」到「agent」的重要转型——你不再只是问问题,而是交付任务,让 AI 长时间思考、调用数百个工具来执行。他以 OpenClaw(目前 GitHub 史上成长最快的 repo)为例,同时点名研究人员记录的多项安全问题:

  • AI agent 可在无需人工确认的情况下修改关键设置,包括添加新的通信渠道与修改系统提示
  • 解析任何恶意外部输入(如恶意网页)都可能导致 agent 被完全接管;在 HiddenLayer 的一次示范中,研究员让 AI 摘要一批网页,其中藏了一個会命令 agent 下载并执行 shell 脚本的恶意页面
  • 部分第三方技能包(skills)会执行静默的数据外泄,通过 curl 指令将数据送往技能作者控制的外部服务器
  • 在他们分析的技能包中,约 15% 包含恶意指令

Vitalik 强调,他对隐私的出发点不同于传统资安研究者:「我来自一个对把个人生活完整喂给云端 AI 感到深度恐惧的立场——就在端到端加密与本地优先软件终于主流化、我们终于往前迈一步的时候,我们却可能倒退十步。」

五大安全目标

他设定了明确的安全目标框架:

  • LLM 隐私:在涉及个人隐私数据的情境中,尽量减少使用远端模型
  • 其他隐私:最小化非 LLM 的数据泄露(如搜索查询、其他线上 API)
  • LLM 越狱:防止外部内容「骇入」我的 LLM,让它违背我的利益(例如发送我的代币或私人数据)
  • LLM 意外:防止 LLM 误将私人数据发送至错误渠道或公开到网络
  • LLM 后门:防止被刻意训练进模型的隐藏机制。他特别提醒:开放模型是开放权重(open-weights),几乎没有一个是真正开源(open-source)

硬件选择:5090 笔电胜出,DGX Spark 令人失望

Vitalik 测试了三种本地推理硬件配置,主力使用 Qwen3.5:35B 模型,搭配 llama-server 与 llama-swap:

硬件 Qwen3.5 35B(tokens/sec) Qwen3.5 122B(tokens/sec)
NVIDIA 5090 笔电(24GB VRAM) 90 无法执行
AMD Ryzen AI Max Pro(128GB 统一内存,Vulkan) 51 18
DGX Spark(128GB) 60 22

他的结论是:低于 50 tok/sec 太慢,90 tok/sec 是理想。NVIDIA 5090 笔电体验最流畅;AMD 目前仍有较多边缘问题,但未来有望改善。高端 MacBook 也是有效选项,只是他个人没有亲自测试。

对 DGX Spark 他直言不讳:「被描述为『桌面 AI 超级电脑』,但实际上 tokens/sec 比好的笔电 GPU 还低,而且还要额外搞定网络连接等细节——这很逊。」他的建议是:如果负担不起高端笔电,可以和朋友共同购买一台足够强力的机器,放在有固定 IP 的地点,大家远端连接使用。

为什么本地 AI 的隐私问题比你想像的更迫切

Vitalik 的这篇文章,与同日推出的 Claude Code 安全问题讨论形成有趣的呼应——AI agent 进入日常开发工作流的同时,安全性问题也正在从理论风险变成现实威胁。

他的核心讯息很清楚:在 AI 工具愈来愈强大、愈来愈能存取你的个人数据与系统权限的当下,「本地优先、沙箱化、最小信任」不是偏执,而是理性的起点。

  • 本文经授权转载自:《链新闻》
  • 原文标题:《Vitalik:我如何打造完全本地、私密、自主可控的 AI 工作环境》
  • 原文作者:Elponcrab
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.

Bài viết liên quan

DownDetector báo cáo người dùng Claude gặp sự cố dịch vụ

Tin tức Cổng (Gate News), ngày 15 tháng 4 — DownDetector, một trang web giám sát trạng thái mạng, đã ghi nhận các báo cáo từ người dùng cho thấy rằng Claude, một trợ lý AI, đang gặp sự cố dịch vụ.

GateNews7giờ trước

Allbirds huy động $50M thông qua trái phiếu chuyển đổi, chuyển hướng sang hạ tầng AI với NewBird AI mới

Allbirds đã huy động $50 triệu thông qua trái phiếu chuyển đổi và sẽ chuyển đổi từ bán lẻ giày dép sang điện toán AI, đổi thương hiệu thành NewBird AI để phản ánh sứ mệnh mới của mình.

GateNews8giờ trước

OpenAI Lên Kế Hoạch Định Giá Mới Cho Quảng Cáo ChatGPT, Khám Phá Thêm Các Nâng Cấp Khác

Tin tức cổng, ngày 15 tháng 4 — OpenAI đang lên kế hoạch giới thiệu mức giá mới cho các quảng cáo ChatGPT và đang khám phá các tùy chọn nâng cấp khác, theo The Information.

GateNews8giờ trước

AI Startup Hilbert huy động $28M trong vòng Series A do Andreessen Horowitz dẫn dắt

Hilbert, một công ty khởi nghiệp AI, đã huy động $28 triệu trong vòng Series A do Andreessen Horowitz dẫn dắt để giúp các doanh nghiệp tự động hóa các quyết định nhằm thúc đẩy tăng trưởng và nâng cao hiệu quả các khoản đầu tư AI.

GateNews9giờ trước

Claude ra mắt cơ chế xác thực danh tính: yêu cầu giấy tờ chính phủ và ảnh selfie thời gian thực, người dùng Trung Quốc bị ảnh hưởng nhiều nhất

Anthropic đã giới thiệu một cơ chế xác minh danh tính cho các mô hình AI Claude của mình, yêu cầu người dùng cung cấp giấy tờ ảnh được cơ quan chính phủ cấp và ảnh selfie chụp ngay lập tức để ngăn chặn việc lạm dụng. Biện pháp này đặc biệt ảnh hưởng đến người dùng Trung Quốc, vì họ không thể trực tiếp sử dụng dịch vụ, trong khi người dùng Đài Loan thì có thể hoàn tất xác minh một cách thuận lợi. Việc xác minh được bên thứ ba là Persona xử lý, và đặc biệt coi trọng quyền riêng tư dữ liệu, chỉ được dùng để xác nhận danh tính.

ChainNewsAbmedia10giờ trước

Thợ đào Bitcoin TeraWulf huy động $900M thông qua phát hành cổ phiếu để xây dựng trung tâm dữ liệu AI

TeraWulf đã công bố một đợt phát hành cổ phiếu $900 triệu để tài trợ cho các trung tâm dữ liệu AI, khiến giá cổ phiếu của công ty giảm sau thông báo, theo Gate News vào ngày 15 tháng 4.

GateNews12giờ trước
Bình luận
0/400
Không có bình luận