Một nghiên cứu mới từ Đại học Wake Forest phát hiện 282 trong số 444 ứng dụng AI trên App Store dành cho iPhone đã để lộ thông tin xác thực khi kết nối tới các dịch vụ AI như OpenAI và Google Gemini. Điều này có thể cho phép kẻ tấn công lợi dụng tài khoản của nhà phát triển để gửi yêu cầu tới các mô hình AI, phát sinh chi phí hoặc khai thác trái phép tài nguyên mà không cần xâm nhập vào hệ thống.

Trong nghiên cứu chuyên sâu đầu tiên về bảo mật các ứng dụng AI trên iOS, các nhà nghiên cứu tại Đại học Wake Forest đã phân tích lưu lượng mạng của 444 ứng dụng và phát hiện ba dạng lỗ hổng phổ biến. Một số ứng dụng truyền API Key dưới dạng văn bản thuần, số khác sử dụng máy chủ trung gian nhưng không kiểm soát quyền truy cập, trong khi nhiều ứng dụng phát hành token xác thực có thể bị thu thập và tái sử dụng. Đáng chú ý, ở 28 ứng dụng, quá trình phân tích lưu lượng mạng còn làm lộ cả system prompt – tập chỉ dẫn nội bộ định hình cách mô hình AI xử lý và phản hồi yêu cầu của người dùng. 

Theo nghiên cứu, các lỗ hổng xuất hiện trên ít nhất 10 nền tảng AI và trải rộng ở nhiều nhóm ứng dụng khác nhau. Các ứng dụng năng suất chiếm số lượng lớn nhất, trong khi nhóm sức khỏe và thể chất có tỷ lệ rò rỉ cao nhất. Sau ba tháng kể từ khi được thông báo, chỉ khoảng 28% nhà phát triển khắc phục hoàn toàn vấn đề. 

Các chuyên gia cảnh báo những API Key bị lộ có thể bị khai thác trong các chiến dịch LLMjacking, hình thức lợi dụng khóa API của người khác để sử dụng dịch vụ AI miễn phí. Theo ước tính của Sysdig, một API Key bị lạm dụng có thể khiến chủ sở hữu phát sinh chi phí lên tới 46.000 USD mỗi ngày trong kịch bản xấu nhất.

Từ góc độ an toàn thông tin, vụ việc phản ánh một rủi ro ngày càng phổ biến khi các doanh nghiệp tích hợp AI vào ứng dụng. Nếu API Key hoặc token xác thực không được bảo vệ đúng cách, kẻ tấn công có thể lợi dụng để sử dụng trái phép dịch vụ AI, gây thất thoát chi phí và tiềm ẩn nguy cơ ảnh hưởng đến dữ liệu cũng như tính liên tục của dịch vụ. 

Để giảm thiểu rủi ro, doanh nghiệp cần tích hợp các hoạt động kiểm thử bảo mật ngay từ giai đoạn phát triển, kết hợp Penetration Testing để phát hiện và khắc phục lỗ hổng trước khi đưa hệ thống vào vận hành, đồng thời triển khai Managed Detection and Response (MDR) nhằm giám sát, phát hiện và ứng phó kịp thời với các hành vi tấn công hoặc lạm dụng hệ thống AI. 

Nguồn: The Hacker News