Các công cụ AI hỗ trợ lập trình đang giúp doanh nghiệp tăng tốc phát triển phần mềm, tự động rà soát mã nguồn và phát hiện lỗ hổng bảo mật. Tuy nhiên, một nghiên cứu mới cho thấy chính những công cụ được kỳ vọng giúp bảo vệ hệ thống lại có thể trở thành mục tiêu bị khai thác nếu không được triển khai và kiểm soát đúng cách.
Theo nghiên cứu của AI Now Institute, các AI Coding Agent như Claude Code và OpenAI Codex có thể bị đánh lừa để tự thực thi mã độc khi được giao nhiệm vụ kiểm tra mã nguồn của một dự án. Thay vì khai thác lỗ hổng của mô hình AI, kẻ tấn công lợi dụng cách AI đọc và xử lý tài liệu trong kho mã nguồn để khiến AI tự đưa ra quyết định thực thi các tập lệnh độc hại.
Điểm đáng chú ý là cuộc tấn công không bắt đầu từ mô hình AI, mà từ chính nguồn dữ liệu AI được yêu cầu phân tích. Chỉ bằng cách chèn các hướng dẫn tưởng như hợp lệ vào tài liệu hoặc mã nguồn của dự án, AI có thể coi đó là một phần của quy trình kiểm tra bảo mật và tự động thực hiện các lệnh mà không nhận diện được rủi ro.
Nghiên cứu cũng chỉ ra rằng đây không phải là vấn đề của riêng một nhà cung cấp hay một phiên bản phần mềm cụ thể. Khi AI được trao quyền tự động thực thi lệnh, ranh giới giữa dữ liệu cần phân tích và chỉ dẫn cần thực hiện trở nên mờ nhạt. Điều này khiến các AI Coding Agent đứng trước nguy cơ bị khai thác ngay trong những tác vụ được thiết kế để tăng cường an toàn.
Nghiên cứu này cho thấy AI hỗ trợ lập trình không chỉ mang lại lợi ích về năng suất mà còn mở ra những bề mặt tấn công mới nếu thiếu cơ chế kiểm soát phù hợp. Khi AI ngày càng tham gia vào quy trình phát triển phần mềm, doanh nghiệp cần đánh giá lại cách triển khai các công cụ AI, đặc biệt đối với những hệ thống được cấp quyền truy cập mã nguồn hoặc tự động thực thi tác vụ.
Để giảm thiểu rủi ro, doanh nghiệp nên chủ động đánh giá AI Security ngay từ giai đoạn triển khai, kết hợp kiểm thử bảo mật, kiểm soát quyền thực thi và giám sát các hoạt động bất thường trong toàn bộ vòng đời của hệ thống AI. Đây cũng là nền tảng để doanh nghiệp khai thác AI hiệu quả mà vẫn đảm bảo an toàn thông tin.
Nguồn: The Hacker News
