Trong huấn luyện đối thủ, dữ liệu huấn luyện được tăng cường bởi các mẫu "đối thủ" được tạo bằng thuật toán tấn côngNếu kẻ tấn công sử dụng thuật toán tấn công tương tự để tạo các ví dụ về đối thủ, thì kẻ tấn công được huấn luyện mạng có thể khá mạnh trước cuộc tấn công.
Học đối nghịch hoạt động như thế nào?
Adversarial machine learning là một kỹ thuật máy học cố gắng đánh lừa các mô hình bằng cách cung cấp đầu vào lừa đảo. … Hầu hết các kỹ thuật học máy được thiết kế để hoạt động trên các tập vấn đề cụ thể trong đó dữ liệu đào tạo và kiểm tra được tạo ratừ cùng một phân phối thống kê (IID).
Ví dụ về đối thủ hoạt động như thế nào?
Ví dụ đối nghịch là đầu vào cho mô hình học máy mà kẻ tấn công đã cố ý thiết kế để khiến mô hình mắc lỗi; chúng giống như ảo ảnh quang học đối với máy móc.… Một đầu vào đối nghịch, phủ lên một hình ảnh điển hình, có thể khiến trình phân loại phân loại nhầm gấu trúc thành vượn.
Đào tạo đối thủ trong học sâu là gì?
Một cuộc tấn công đối nghịch có thể dẫn đến việc trình bày mô hình học máy với dữ liệu không chính xác hoặc xuyên tạc vì nó đang đào tạohoặc đưa dữ liệu được thiết kế độc hại để đánh lừa một mô hình đã được đào tạo mắc lỗi.
Đào tạo đối thủ là gì?
Để tăng cường hơn nữa khả năng phòng thủ, đào tạo đối thủ tự giám sát được đề xuất, tối đa hóa sự hình thành lẫn nhau giữa các đại diện của các ví dụ ban đầu và các ví dụ đối thủ tương ứng.
