Tôi thực sự nghĩ rằng cách tiếp cận của Perturb có lý, nhưng không phải vì những lý do “AI phi tập trung” thông thường mà mọi người hay nhắc đến. An ninh AI đang trở thành vấn đề lớn hơn bao giờ hết khi các mô hình ngày càng mạnh mẽ và các tác nhân bắt đầu hoạt động với ít sự giám sát của con người hơn. Đây chính là điểm mà @perturbaix có lợi thế về cấu trúc. Hầu hết các cuộc thử nghiệm red teaming vẫn được thực hiện nội bộ hoặc bằng các công cụ mã nguồn mở tĩnh. Perturb biến việc phát hiện các cuộc tấn công đối kháng thành một cuộc thi liên tục, có phần thưởng, sau đó sử dụng những phát hiện đó để huấn luyện mô hình thực tế. Vấn đề là việc tìm ra các cuộc tấn công và biến chúng thành thứ mà các công ty sẵn sàng trả tiền cho lại là hai việc hoàn toàn khác nhau. Ngay cả khi các thợ mỏ tiếp tục tạo ra các ví dụ đối kháng mạnh mẽ, câu hỏi thực sự là liệu các doanh nghiệp có coi các điểm số, bộ dữ liệu và chứng chỉ kết quả là đủ đáng tin cậy để hành động hay không. Việc chuyển sang một sản phẩm thực tế với quét liên tục + tăng cường bảo mật có thể giúp họ kiểm soát tốt hơn lớp phân phối đó. Chúng ta cũng đang chứng kiến subnet ngày càng trưởng thành (quét + huấn luyện đã hoạt động, bắt đầu giai đoạn sản phẩm). Nhưng tôi sẽ không nhầm lẫn hoạt động của subnet với bằng chứng cho thấy mô hình thương mại đã thành công. Việc rời khỏi chế độ nghiên cứu thuần túy có nghĩa là Perturb giờ đây phải chứng minh rằng họ có thể tạo ra nhu cầu và doanh thu mà không chỉ dựa vào việc phát hành token. Theo tôi, áp lực đối kháng liên tục từ bên ngoài có thể trở nên quan trọng không kém gì hiệu suất mô hình trong vài năm tới. Nếu Perturb có thể sản phẩm hóa điều đó mà không để đầu ra chủ yếu chỉ tồn tại trong nội bộ subnet, thì hướng đi này là hợp lý. Ngược lại, nó có nguy cơ chỉ dừng lại ở một mạng lưới nghiên cứu thú vị chứ không trở thành hạ tầng. SN26 ở mức này vẫn rất đáng quan tâm dù theo cách nào đi nữa. #Bittensor $TAO #Perturb #AI