Người đồng sáng lập ethereum Vitalik Buterin đã hoàn toàn rời khỏi các dịch vụ AI trên đám mây và chi tiết về thiết lập AI hoàn toàn cục bộ, cách ly của anh ấy trong một bài đăng blog được xuất bản tuần này.
Những điểm chính:
- Đồng sáng lập ethereum Vitalik Buterin đã từ bỏ AI trên đám mây vào tháng 4 năm 2026, chạy Qwen3.5:35B cục bộ trên laptop Nvidia 5090 với tốc độ 90 token mỗi giây.
- Buterin phát hiện khoảng 15% kỹ năng của các tác nhân AI chứa các lệnh độc hại, trích dẫn dữ liệu từ công ty bảo mật Hiddenlayer.
- Daemon nhắn tin mã nguồn mở của anh ấy yêu cầu quy tắc xác nhận 2 trên 2 (người cộng với LLM) cho tất cả các hành động gửi Signal và email đến bên thứ ba.
Vitalik Buterin vận hành một hệ thống AI tự chủ mà không cần truy cập vào đám mây
Buterin mô tả hệ thống này là “tự chủ / cục bộ / riêng tư / an toàn” và cho biết nó được xây dựng nhằm phản ứng trực tiếp trước những thất bại nghiêm trọng về bảo mật và quyền riêng tư đang lan rộng trong không gian AI agent. Ông chỉ ra các nghiên cứu cho thấy khoảng 15% kỹ năng của agent, hoặc các công cụ tiện ích, chứa các lệnh độc hại. Công ty bảo mật Hiddenlayer đã chứng minh rằng việc phân tích một trang web độc hại duy nhất có thể xâm phạm hoàn toàn một phiên bản Openclaw, cho phép nó tải xuống và thực thi các tập lệnh shell mà không cần sự nhận biết của người dùng.
“Tôi xuất phát từ tư duy lo sợ rằng ngay khi chúng ta cuối cùng đã tiến một bước trong việc bảo vệ quyền riêng tư thông qua việc phổ biến mã hóa đầu cuối và ngày càng nhiều phần mềm ưu tiên cục bộ, chúng ta đang đứng trước ngưỡng cửa lùi lại mười bước,” Buterin viết.
Thiết bị phần cứng anh ấy lựa chọn là một chiếc laptop chạy GPU Nvidia 5090 với 24 GB bộ nhớ video. Khi chạy mô hình Qwen3.5:35B có trọng số mở từ Alibaba qua llama-server, thiết lập này đạt 90 token mỗi giây, mức độ mà Buterin gọi là mục tiêu cho việc sử dụng hàng ngày thoải mái. Anh ấy đã thử nghiệm AMD Ryzen AI Max Pro với 128 GB bộ nhớ thống nhất, đạt 51 token mỗi giây, và DGX Spark, đạt 60 token mỗi giây.
Anh ấy cho rằng DGX Spark, được quảng bá như một siêu máy tính AI để bàn, không ấn tượng so với chi phí của nó và tốc độ xử lý thấp hơn so với GPU laptop tốt. Đối với hệ điều hành của mình, Buterin đã chuyển từ Arch Linux sang NixOS, cho phép người dùng xác định toàn bộ cấu hình hệ thống trong một tệp khai báo duy nhất. Anh ấy sử dụng llama-server như một daemon chạy nền, mở một cổng cục bộ mà bất kỳ ứng dụng nào cũng có thể kết nối đến.
Claude Code, anh ấy lưu ý, có thể được hướng đến một phiên bản llama-server cục bộ thay vì các máy chủ của Anthropic. Cách cách ly là trung tâm trong mô hình bảo mật của anh ấy. Anh ấy sử dụng bubblewrap để tạo các môi trường cách ly từ bất kỳ thư mục nào với một lệnh duy nhất. Các quá trình chạy bên trong các môi trường cách ly này chỉ có thể truy cập các tệp được phép rõ ràng và các cổng mạng được kiểm soát. Buterin đã mở nguồn một daemon nhắn tin tại github.com/vbuterin/messaging-daemon, đóng gói signal-cli và email.
Anh ấy nhận xét rằng daemon có thể đọc tin nhắn tự do và gửi tin nhắn đến chính nó mà không cần xác nhận. Bất kỳ tin nhắn nào gửi ra bên ngoài cho bên thứ ba đều yêu cầu sự đồng ý rõ ràng từ con người. Anh ấy gọi đây là mô hình “con người + LLM 2 trên 2” và cho biết cùng logic này áp dụng cho các ví Ethereum. Anh ấy khuyên các nhóm đang phát triển công cụ ví kết nối AI nên giới hạn giao dịch tự động ở mức 100 USD mỗi ngày và yêu cầu xác nhận của con người đối với bất kỳ giao dịch nào vượt quá mức này hoặc bất kỳ giao dịch nào chứa calldata có thể đánh cắp dữ liệu.
Remote Inference, trên điều kiện của Buterin
Đối với các nhiệm vụ nghiên cứu, Buterin đã so sánh công cụ cục bộ Local Deep Research với thiết lập của riêng anh ấy sử dụng khung pi agent kết hợp với SearXNG, một công cụ tìm kiếm meta tập trung vào quyền riêng tư được tự lưu trữ. Anh ấy cho biết pi kết hợp với SearXNG mang lại câu trả lời chất lượng cao hơn. Anh ấy lưu trữ một bản sao Wikipedia cục bộ khoảng 1 terabyte cùng với tài liệu kỹ thuật để giảm sự phụ thuộc vào các truy vấn tìm kiếm bên ngoài, mà anh ấy coi là một rò rỉ quyền riêng tư.
Anh ấy cũng đã công bố một daemon ghi âm địa phương tại github.com/vbuterin/stt-daemon. Công cụ này chạy mà không cần GPU cho các mục đích cơ bản và gửi đầu ra đến LLM để hiệu chỉnh và tóm tắt. Về tích hợp ethereum, Buterin cho biết các tác nhân AI không bao giờ nên có quyền truy cập wallet không giới hạn. Anh khuyên nên coi con người và LLM là hai yếu tố xác nhận riêng biệt, mỗi bên phát hiện các kiểu lỗi khác nhau.
Đối với các trường hợp các mô hình địa phương không đủ hiệu quả, Buterin đã đề xuất một phương pháp bảo vệ quyền riêng tư cho suy luận từ xa. Ông nhắc đến đề xuất ZK-API của chính mình cùng nhà nghiên cứu Davide, dự án Openanonymity, và việc sử dụng mixnets để ngăn các máy chủ liên kết các yêu cầu liên tiếp theo địa chỉ IP. Ông cũng trích dẫn các môi trường thực thi đáng tin cậy như một cách để giảm rò rỉ dữ liệu từ suy luận từ xa trong ngắn hạn, đồng thời lưu ý rằng mã hóa toàn bộ đồng nhất cho suy luận trên đám mây riêng tư vẫn còn quá chậm để có thể thực tế vào thời điểm hiện tại.
Buterin đã kết thúc bằng ghi chú rằng bài viết mô tả một điểm khởi đầu, không phải một sản phẩm hoàn chỉnh, và cảnh báo độc giả không nên sao chép chính xác các công cụ của ông và cho rằng chúng an toàn.