➥ Bảo mật AI đang bước vào giai đoạn tiếp theo, và @perturbaix là một dự án tôi đang theo dõi. Cho đến nay, kiểm thử adversarial chủ yếu tập trung vào việc tìm kiếm các cuộc tấn công thông qua đội nội bộ hoặc các công cụ mã nguồn mở. Nhưng Perturb đang hướng tới một điều thú vị hơn: tăng cường liên tục và có phần thưởng. ▸ Các thợ mỏ toàn cầu cạnh tranh để tìm ra các ví dụ adversarial thực tế ▸ Các cuộc tấn công được xác minh sẽ được sử dụng để huấn luyện mô hình, không chỉ dừng lại ở báo cáo ▸ Điểm độ bền và bộ dữ liệu mà các công ty có thể hành động ▸ Chuyển từ hoạt động subnet sang một sản phẩm thực sự Đây là sự chuyển đổi từ việc red teaming một lần → áp lực bên ngoài liên tục, điều mà tôi tin rằng AI sản xuất cần có. Hiện tại, tôi đang theo dõi cách sản phẩm của họ ra mắt và liệu các đội bên ngoài subnet có thực sự sử dụng đầu ra hay không. #TAO #SN26 #Perturb