📝 Perturb đã chạy liên tục các cuộc quét và huấn luyện đối kháng trong nhiều tháng. Đây có thể là một trong những thí nghiệm bảo mật AI thực tế nhất trên Bittensor cho đến nay. @perturbaix đã ra mắt đầu năm nay và đã vượt qua giai đoạn chỉ phát hiện tấn công thuần túy. Theo các cập nhật gần đây: - Quét và huấn luyện đối kháng đang được theo dõi đồng thời - Các miner hiện có thể tinh chỉnh mô hình bằng các cuộc tấn công mà họ tạo ra - Giai đoạn sản phẩm chính thức bắt đầu sau khoảng 5 tháng phát triển subnet - Điểm robustness, bộ dữ liệu và chứng chỉ là các đầu ra chính – Các đợt mua lại Alpha và khóa tài sản của chủ sở hữu đã diễn ra – Nhắm đến việc ra mắt thương mại trong vài tuần tới Điều gì thúc đẩy cách tiếp cận này? Perturb biến việc phát hiện lỗi mô hình thành một cuộc thi có phần thưởng, sau đó sử dụng các ví dụ đối kháng đã xác minh để tăng cường thực sự thay vì chỉ xuất bản báo cáo rồi dừng lại. Ý tưởng là áp lực bên ngoài liên tục, thay vì các cuộc kiểm toán một lần. Tôi hiểu tại sao các nhóm đang phát triển AI sản xuất lại quan tâm. Tuy nhiên, cấu trúc này vẫn cần được xem xét kỹ hơn. Hoạt động subnet và tỷ lệ thành công của các cuộc tấn công không tự động đảm bảo doanh nghiệp sẽ mua sản phẩm, và mở rộng vượt quá các mô hình hình ảnh hiện tại sẽ đòi hỏi nỗ lực thực sự. Ngoài ra, lượng phát thải và sự tăng trưởng ban đầu không đảm bảo doanh thu bền vững khi lớp thương mại được kích hoạt. Tôi đang theo dõi xem việc ra mắt sản phẩm thực sự sẽ chuyển đổi như thế nào. Nếu Perturb có thể biến dữ liệu đối kháng liên tục thành một sản phẩm mà các công ty sẵn sàng trả tiền và sử dụng một cách đáng tin cậy, đây có thể trở thành một thí nghiệm ý nghĩa trong bảo mật AI phi tập trung. #Bittensor $TAO #Perturb