Mysten Labs đã ra mắt sản phẩm mới dành cho các đại lý AI mang tên Walrus Memory. Công ty cho biết đây là một lớp bộ nhớ có thể di chuyển, nhằm giúp các đại lý AI duy trì ngữ cảnh giữa các ứng dụng, phiên làm việc và nhà cung cấp mô hình khác nhau, đồng thời giữ quyền kiểm soát dữ liệu cho người dùng.
Có thể giữ ngữ cảnh trên nhiều nền tảng
Công ty tiết lộ rằng hiện nay nhiều AI agent vẫn phải phụ thuộc vào việc các nhà phát triển tự ghép nối cơ sở dữ liệu, bộ lưu trữ vector và trạng thái thời gian chạy, dẫn đến việc hệ thống dễ mất bối cảnh trong các nhiệm vụ phức tạp. Kostas Chalkias, đồng sáng lập của Mysten Labs, cho biết điểm nghẽn chính của AI không chỉ nằm ở sức mạnh tính toán, mà khả năng ghi nhớ cũng hạn chế khả năng làm việc liên tục của các agent.
Thiết kế trọng tâm của Walrus Memory là cho phép các đại lý, ứng dụng và quy trình chia sẻ cùng một bộ nhớ, mà không bị ràng buộc bởi một môi trường chạy duy nhất, một phiên duy nhất hay một nhà cung cấp mô hình duy nhất. Theo công ty, điều này cũng cho phép nhiều đại lý phối hợp làm việc trong các nhiệm vụ dài hạn.
Đã tích hợp các mô hình lớn phổ biến
Công ty cho biết Walrus Memory đã có thể hoạt động cùng các nền tảng AI chính流 như Claude, ChatGPT và Gemini, nhằm giảm sự phụ thuộc của người dùng vào một nhà cung cấp mô hình duy nhất. Các nhà phát triển cũng có thể tích hợp lớp ghi nhớ này vào quy trình đại diện hiện có thông qua các tiện ích OpenClaw, NemoClaw, cùng các SDK Python và TypeScript.
Hiện tại, các đội ngũ như Allium, Conso Labs, Inflectiv, OpenGradient, Talus Labs và Tatum đang phát triển ứng dụng dựa trên Walrus Memory, với các hướng đi bao gồm hệ thống danh tính đại lý có thể di chuyển và trợ lý AI có khả năng ghi nhớ lịch sử tương tác với khách hàng xuyên suốt các phiên.
Thêm mã hóa và kiểm soát quyền
Công ty tiết lộ rằng bộ sản phẩm này đã tích hợp kiểm soát truy cập có thể lập trình, cho phép người dùng quyết định các mô hình hoặc đại diện nào có thể đọc dữ liệu liên quan. Mysten Labs cũng cho biết hệ thống sử dụng các công cụ mật mã, bao gồm chứng minh không kiến thức, để xác thực ngữ cảnh và quản lý truy cập vào bộ nhớ được mã hóa.
Về hiệu quả, Chalkias cho biết Walrus Memory hiện đang tập trung tối ưu hóa chất lượng bộ nhớ cung cấp cho các mô hình lớn qua bốn giai đoạn chính: lưu trữ, truy xuất, sắp xếp và mã hóa. Theo ông, ở một số chỉ số, kết quả có thể cải thiện khoảng 60% sau khi sắp xếp, lọc và xử lý ngữ cảnh tốt hơn.
Thông tin bổ sung: Bài viết gốc có nhãn “Brought to you by Walrus”, là nội dung hợp tác thương hiệu. Các biểu đạt về cải thiện hiệu suất và lợi thế sản phẩm trong bài chủ yếu đến từ phía công ty.