Tiếng ồn có thể cải thiện hiệu suất mô hình trong học bán giám sát

Trong học chuyển giao, "dữ liệu nguồn" không nhất thiết phải là hình ảnh, văn bản hoặc âm thanh.

Một tập hợp nhiễu được lấy mẫu ngẫu nhiên từ phân phối Gaussian và không có ngữ nghĩa nào cũng có thể giúp mô hình học tốt hơn với ít nhãn ghi chú.

Công việc này có tên là Semi-Supervised Noise Adaptation (SSNA), bài báo đã được công bố tại ICML 2026.

Đội ngũ SSNA tiếp tục đề xuất khung điều chỉnh nhiễu (Noise Adaptation Framework, NAF), sử dụng nhiễu được tạo ngẫu nhiên để xây dựng cấu trúc phân biệt lớp và chuyển cấu trúc này sang dữ liệu mục tiêu thực tế, từ đó cải thiện hiệu quả học tập của mô hình trong các tình huống có ít nhãn.

△NAF chiếu miền nhiễu và miền mục tiêu vào không gian biểu diễn chung và thực hiện căn chỉnh ở cấp độ danh mục. Hình ảnh từ bài báo.

Với chỉ 4 mẫu được gán nhãn cho mỗi lớp, dựa trên mạng xương ResNet-18, NAF đã tăng độ chính xác lần lượt 12,35, 7,61, 4,38 và 2,74 điểm phần trăm trên CIFAR-10, CIFAR-100, DTD-47 và Caltech-101 so với cơ sở giám sát tiêu chuẩn chỉ sử dụng mẫu có nhãn để huấn luyện ERM (Empirical Risk Minimization). Mã nguồn bài báo hiện đã được mở nguồn, chi tiết xem ở cuối bài.

Học chuyển giao truyền thống thường yêu cầu một miền nguồn có nhãn phong phú. Tuy nhiên, dữ liệu nguồn thực tế không phải lúc nào cũng dễ dàng tiếp cận. Các hạn chế về quyền riêng tư, bảo mật và bản quyền có thể khiến dữ liệu miền nguồn không thể chia sẻ. SSNA cố gắng loại bỏ giả định này: miền nguồn không còn chứa các mẫu thực tế, mà được thay thế bằng nhiễu được sinh ra từ các phân phối xác suất đơn giản.

Cách thực hiện không phức tạp: giả sử nhiệm vụ mục tiêu bao gồm C lớp, nhóm nghiên cứu trước tiên lấy ngẫu nhiên một vector trung bình trong không gian 1024 chiều cho mỗi lớp, với ma trận đơn vị làm ma trận hiệp phương sai, từ đó tạo ra C phân phối Gauss, sau đó lấy ngẫu nhiên 50 vector nhiễu từ mỗi phân phối. Không gian nhiễu và không gian mục tiêu sử dụng cùng tập chỉ số lớp, mỗi lớp nhiễu được ánh xạ trước với một chỉ số lớp mục tiêu, nhưng sự ánh xạ này không chứa thông tin ngữ nghĩa.

Số thứ tự ở đây không có ý nghĩa ngữ nghĩa. Nhóm nhiễu 0 không tự nhiên đại diện cho “mèo”, mà chỉ là do các nhà nghiên cứu cố định nó tương ứng với một lớp cụ thể trong miền mục tiêu trước khi bắt đầu huấn luyện. Điều thực sự được chuyển giao không phải là kiến thức trực quan về mèo hoặc chó, mà là cấu trúc phân biệt được hình thành trong miền nhiễu.

Các tiếng ồn cùng loại được nén lại gần nhau, trong khi các tiếng ồn khác loại được tách ra xa nhau. Chỉ cần cấu trúc này có thể căn chỉnh với miền mục tiêu, nó sẽ cung cấp ranh giới phân loại rõ ràng hơn cho các mẫu mục tiêu thực tế.

Vẫn cần một số nhãn hiệu

Tiếng ồn có thể thay thế dữ liệu nguồn thực tế, nhưng không thể thay thế hoàn toàn nhãn miền mục tiêu. Lý do rất trực tiếp: tiếng ồn đến từ một không gian khác, trong khi số hiệu danh mục được chỉ định một cách nhân tạo, mô hình phải dựa vào một số ít mẫu mục tiêu đã được gán nhãn để biết lớp tiếng ồn 0 cần được căn chỉnh với danh mục thực tế nào.

Khi giảm số lượng mẫu gán nhãn cho mỗi lớp xuống 0 trên CIFAR-100, độ chính xác của ERM và NAF lần lượt chỉ là 0,97% và 1,34%, đều gần mức ngẫu nhiên. Ngay khi cung cấp một lượng nhỏ nhãn, NAF liên tục vượt trội hơn ERM.

Do đó, kết luận của công việc này là: trong thiết lập phân loại bán giám sát, miền nguồn thực tế không nhất thiết phải là điều kiện cần để đạt được chuyển giao tích cực.

Dựa trên giới hạn tổng quát được đưa ra trong bài báo, NAF chia mục tiêu huấn luyện thành ba phần.

Học trước một số lượng nhỏ các nhãn thực tế

Bộ mã hóa miền mục tiêu ánh xạ các mẫu thực tế vào không gian biểu diễn chung, bộ phân loại sử dụng một số ít mẫu được gán nhãn để tính toán hàm mất mát cross-entropy. Phần này giống với học có giám sát thông thường, nhằm xây dựng cầu nối giữa các lớp nhiễu và các lớp thực tế.

Hãy để tiếng ồn tạo thành cấu trúc lớp rõ ràng

Máy chiếu nhiễu chịu trách nhiệm ánh xạ các vector ngẫu nhiên vào cùng một không gian biểu diễn, trong khi bộ phân loại nhận diện những nhiễu này theo các số hiệu danh mục đã định trước. Sau khi huấn luyện, các nhiễu cùng loại dần dần tụ lại với nhau, còn các nhiễu khác loại thì tách rời nhau.

Cuối cùng căn đều hai bên

NAF cũng tính toán sự khác biệt phân phối giữa miền nhiễu và miền mục tiêu. Modun căn chỉnh phân phối không giới hạn cách triển khai cụ thể; bài báo đã so sánh nhiều phương án và cuối cùng chọn một cách kinh nghiệm sử dụng độ tương đồng miền âm (Negative Domain Similarity, NDS) làm cơ chế mặc định trong thí nghiệm. NDS đồng thời so sánh giá trị trung bình toàn cục và giá trị trung bình của từng lớp giữa hai miền, đồng thời sử dụng độ tương đồng cosin để thúc đẩy chúng tiến lại gần nhau. Giá trị trung bình của các lớp cho các mẫu mục tiêu không ghi nhãn được ước lượng lặp lại thông qua các nhãn giả do mô hình tạo ra.

Bộ mục tiêu có thể được viết thành

. Trong đó,

Chịu trách nhiệm phân loại các mẫu mục tiêu thực tế, số lượng ít và có ghi chú

Chịu trách nhiệm phân loại tiếng ồn,

Chịu trách nhiệm căn chỉnh phân phối giữa miền mục tiêu và miền nhiễu. Giới hạn tổng quát được đưa ra trong bài báo cũng tương ứng với ba yếu tố này: lỗi kinh nghiệm của miền mục tiêu, lỗi kinh nghiệm của miền nhiễu và sự khác biệt phân phối giữa hai miền trong không gian biểu diễn chung.

Thí nghiệm chính bao gồm 8 bộ dữ liệu hình ảnh và 1 bộ dữ liệu phân loại văn bản. Ngoại trừ ImageNet-1K, các nhiệm vụ hình ảnh đều sử dụng 4 mẫu ghi nhãn mỗi lớp, với các mẫu đào tạo còn lại được sử dụng làm dữ liệu không ghi nhãn.

Trên ResNet-18, NAF so với ERM đạt mức cải thiện Top-1 lần lượt là: CIFAR-10 +12.35, CIFAR-100 +7.61, DTD-47 +4.38, Caltech-101 +2.74 điểm phần trăm.

△

Phân loại chi tiết cũng hiệu quả. Khi sử dụng ResNet-18, NAF tăng lần lượt 8,94, 5,51 và 7,74 điểm phần trăm so với ERM trên CUB-200, Oxford Flowers-102 và Stanford Cars-196.

Trên tập dữ liệu ImageNet-1K quy mô lớn hơn, nhóm nghiên cứu đã giữ lại 100 mẫu có gán nhãn cho mỗi lớp. NAF đạt độ chính xác 37,10%, cao hơn ERM 0,99 điểm phần trăm. Trên nhiệm vụ văn bản AG News-4, NAF sử dụng BERT đạt 82,82%, cao hơn 78,64% của ERM 4,18 điểm phần trăm.

NAF cũng có thể được tích hợp trực tiếp vào các phương pháp bán giám sát hiện có. Bài báo đã kết nối NAF với UDA, FixMatch, FlexMatch, DebiasMatch, DST, LERM và SA-FixMatch, và đều ghi nhận sự cải thiện tổng thể. Ví dụ với kết quả sau 20 vòng huấn luyện trên CIFAR-10, UDA và FixMatch khi bổ sung NAF đã tăng độ chính xác lần lượt 20,83 và 9,91 điểm phần trăm.

Tại sao tiếng ồn lại có thể giúp ích? Thí nghiệm loại bỏ trong bài báo chỉ ra câu trả lời nằm ở cùng một yếu tố: liệu các lớp có cấu trúc có thể phân tách được hay không.

Đội ngũ đầu tiên ép tất cả các loại nhiễu thành một điểm duy nhất. Nhờ đó, miền nhiễu hoàn toàn mất đi cấu trúc phân biệt, NAF không chỉ không mang lại lợi ích mà còn xuất hiện hiện tượng chuyển giao tiêu cực rõ rệt. Độ chính xác trên CIFAR-10 giảm từ 58,15% của ERM xuống còn 33,34%, còn CIFAR-100 giảm từ 42,24% xuống còn 6,79%.

Ngược lại, khi dần tăng khoảng cách giữa các trung tâm của các lớp nhiễu, độ chính xác trên CIFAR-100 tăng dần từ 43,80% lên 49,78%. Điều này cho thấy các lớp nhiễu càng dễ phân biệt, thì hướng dẫn cấu trúc mà chúng cung cấp thường càng mạnh mẽ.

Số lượng nhiễu thực ra không quá quan trọng. Khi số lượng nhiễu của mỗi loại tăng từ 10 lên 100, độ chính xác vẫn duy trì ổn định ở khoảng 50%; khi tăng lên 200 thì hơi giảm nhẹ. Bài báo kết luận rằng, chỉ cần tạo ra được mô hình có thể phân tách được, thì một lượng nhỏ nhiễu đã đủ để phát huy tác dụng.

△

Nhóm nghiên cứu cũng đơn giản hóa miền nhiễu thành một điểm trung tâm cho mỗi lớp. Dù điểm trung tâm là cố định hay có thể học được, kết quả đều vượt trội hơn ERM; trong đó, điểm trung tâm có thể học được tốt hơn điểm trung tâm cố định, nhưng vẫn thấp hơn NAF đầy đủ.

Trong thí nghiệm chuyển giao từ Amazon đến Caltech-10, dữ liệu nguồn thực vẫn nhỉnh hơn một chút về tổng thể, nhưng miền nguồn nhiễu đã có thể nâng độ chính xác từ 83,51% của ERM lên khoảng 88% đến 89%. Điều này cũng đưa ra một định vị thực tế hơn: khi dữ liệu nguồn thực không khả dụng, nhiễu tổng hợp có thể trở thành một giải pháp thay thế với chi phí rất thấp.

Nó cũng khác với các kỹ thuật tăng cường dữ liệu thông thường. Tăng cường dữ liệu thường thực hiện xoay, cắt, nội suy hoặc tạo ra các mẫu gần các mẫu thực tế; trong khi SSNA trước tiên xây dựng một miền nhiễu độc lập, sau đó thực hiện căn chỉnh xuyên miền trong không gian biểu diễn.

Công việc này mang đến một góc nhìn mới đầy bất ngờ cho học chuyển giao: dữ liệu nguồn có thể hỗ trợ nhiệm vụ mục tiêu không nhất thiết phải dựa hoàn toàn vào ngữ nghĩa thực sự của nó; cấu trúc danh mục được hình thành trong không gian biểu diễn cũng có thể trở thành tri thức có thể chuyển giao.

NAF tận dụng điểm này để khiến nhiễu ngẫu nhiên hình thành cấu trúc phân biệt trong không gian biểu diễn chung, sau đó sử dụng một số ít mẫu được gán nhãn để truyền chúng đến dữ liệu thực tế. Kết quả thí nghiệm cho thấy, ngay cả khi miền nguồn không chứa hình ảnh, văn bản hoặc âm thanh thực tế, chỉ cần duy trì cấu trúc danh mục phù hợp, vẫn có thể mang lại tác động tích cực cho nhiệm vụ mục tiêu.

Nói cách khác, điều được chuyển giao trong học chuyển giao không chỉ là “dữ liệu nói gì”, mà còn bao gồm “cách dữ liệu được tổ chức trong không gian biểu diễn”. Điều này mở ra một hướng nghiên cứu mới cho các tình huống bị hạn chế về quyền riêng tư, nhạy cảm về bản quyền hoặc khó tiếp cận dữ liệu nguồn thực tế.

Tiêu đề bài báo: Học thích nghi nhiễu bán giám sát: Chuyển giao tri thức từ miền nhiễu

Địa chỉ bài báo: https://arxiv.org/pdf/2606.00558

Địa chỉ mã nguồn: https://github.com/AIResearch-Group/SSNA

Giải thích video: https://www.bilibili.com/video/BV1UV7h61EvW/

Bài viết này đến từ tài khoản chính thức WeChat "Quantum Bit", tác giả: Đội ngũ SSNA