AI nhận diện khuôn mặt đang được ứng dụng ngày càng rộng rãi trong sân bay, giao thông, trung tâm thương mại và các hệ thống kiểm soát truy cập. Tuy nhiên, song song với sự phát triển đó là sự xuất hiện của một xu hướng mới: “adversarial fashion” – các sản phẩm được thiết kế để đánh lừa AI nhận diện khuôn mặt, đặt ra những thách thức mới đối với các hệ thống bảo mật ứng dụng AI.

Không còn là ý tưởng trong phim khoa học viễn tưởng, những sản phẩm này đã được thương mại hóa và nhanh chóng thu hút sự chú ý bởi khả năng làm sai lệch kết quả nhận diện của AI. Nhiều mẫu quần áo sử dụng họa tiết đặc biệt hoặc vật liệu phản xạ hồng ngoại để khiến hệ thống nhận diện nhầm con người thành động vật, vật thể hoặc thậm chí không thể phát hiện khuôn mặt trên camera.

Hiện nhiều doanh nghiệp đã tham gia thị trường này với các sản phẩm từ khẩu trang, áo thun cho đến trang phục cao cấp. Theo nhà sáng lập thương hiệu Cap_able (Ý), ý tưởng ra đời từ thực tế người dùng gần như không có quyền lựa chọn việc bị các hệ thống AI thu thập dữ liệu sinh trắc học ngoài đời thực, khác với việc có thể từ chối cookie trên môi trường số.

Dù vậy, chính các nhà sản xuất cũng thừa nhận hiệu quả của những sản phẩm này chỉ mang tính tương đối. Khả năng đánh lừa AI phụ thuộc vào từng thuật toán, điều kiện ánh sáng và phiên bản hệ thống nhận diện. Khi công nghệ AI tiếp tục được cải tiến, các kỹ thuật “đánh lừa AI” cũng sẽ phải liên tục thay đổi để duy trì hiệu quả.

Điều này cho thấy AI không chỉ được sử dụng để tăng cường khả năng phát hiện và giám sát mà còn có thể trở thành mục tiêu của các kỹ thuật đối kháng. Thay vì khai thác lỗ hổng hệ thống, kẻ tấn công có thể thao túng dữ liệu đầu vào để khiến mô hình AI nhận diện sai hoặc bỏ sót đối tượng. Đây là một hướng tấn công đang được quan tâm trong lĩnh vực AI Security, đặc biệt đối với các hệ thống nhận diện khuôn mặt, xe tự hành, kiểm soát truy cập và giám sát thông minh.

Trong bối cảnh AI ngày càng được ứng dụng trong các hệ thống trọng yếu, doanh nghiệp không chỉ cần bảo vệ hạ tầng và dữ liệu mà còn phải đánh giá khả năng chống chịu của các mô hình AI trước những kỹ thuật đối kháng mới. Việc mở rộng Penetration Testing sang các ứng dụng tích hợp AI sẽ giúp phát hiện sớm các điểm yếu và giảm thiểu nguy cơ bị khai thác khi AI ngày càng trở thành mục tiêu của các cuộc tấn công. 

Nguồn: Inc.