Một báo cáo được OpenAI công bố tiết lộ rằng công ty trí tuệ nhân tạo này đã ngăn chặn hơn 20 hoạt động tấn công mạng và xâm phạm thông tin bí mật kể từ đầu năm, bao gồm cả hoạt động của các nhóm tin tặc được Iran và Trung Quốc tài trợ.
Báo cáo của OpenAI nêu rõ hoạt động của ba nhóm đe dọa đã lợi dụng ChatGPT để thực hiện các cuộc tấn công mạng. Một trong những nhóm này là CyberAv3ngers, có liên hệ với Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC), đã thu hút sự chú ý trong năm nay do các cuộc tấn công liên tục vào ngành cung cấp nước.
Nhóm này nhắm đến các hệ thống điều khiển công nghiệp (ICS) tại một công ty cung cấp nước ở Ireland, dẫn đến tình trạng thiếu nước kéo dài hai ngày cho người dân, cũng như các công ty cung cấp nước khác tại Pennsylvania và Hoa Kỳ.
Các cuộc tấn công này không liên quan đến các kỹ thuật hack tinh vi, mà chủ yếu dựa vào việc nhiều tổ chức để ICS tiếp xúc với internet và được bảo vệ bằng thông tin đăng nhập mặc định dễ dàng bị khai thác.
Lợi dụng ChatGPT của OpenAI trong các cuộc tấn công
Theo OpenAI, các tài khoản liên kết với CyberAv3ngers đã sử dụng ChatGPT để tiến hành hoạt động do thám, khai thác lỗ hổng, trốn tránh phát hiện và thực hiện các hoạt động sau khi xâm phạm hệ thống.
Nhiều hoạt động do thám liên quan đến việc tấn công vào bộ điều khiển logic lập trình (PLC) và các hệ thống ICS khác. Cụ thể, tin tặc đã yêu cầu ChatGPT cung cấp thông tin về các cổng và giao thức công nghiệp có thể kết nối với internet, bộ định tuyến công nghiệp và PLC thường được sử dụng ở Jordan, cùng với mật khẩu mặc định cho các thiết bị Tridium Niagara và bộ định tuyến công nghiệp Hirschmann RS.
Ngoài thông tin liên quan đến ICS, tin tặc còn tìm hiểu về cách quét mạng để phát hiện các lỗ hổng có thể khai thác, phát triển mã độc và truy cập mật khẩu người dùng trên macOS.
Tuy nhiên, cuộc điều tra của OpenAI còn cho thấy rằng “những hoạt động này không cung cấp cho CyberAv3ngers bất kỳ khả năng hoặc thông tin mới nào và chỉ cung cấp các khả năng gia tăng hạn chế mà họ đã có thể đạt được bằng các công cụ không sử dụng trí tuệ nhân tạo có sẵn công khai.”
Đáng chú ý, chính phủ Hoa Kỳ đã công khai danh tính một số thành viên bị cáo buộc của nhóm CyberAv3ngers và treo giải thưởng lên tới 10 triệu đô la cho thông tin về nhóm tin tặc này. CyberAv3ngers được cho là một mắt xích quan trọng được chính phủ Iran sử dụng để thực hiện các hoạt động tấn công mạng độc hại, và các thành viên của nhóm này bị cáo buộc làm việc cho quân đội Iran.
Báo cáo của OpenAI cũng mô tả hoạt động của một nhóm tin tặc Iran khác, Storm-0817, đã cố gắng sử dụng trí tuệ nhân tạo để thu thập thông tin phục vụ cho việc phát triển phần mềm độc hại nhằm đánh cắp thông tin từ các thiết bị Android. Nhóm này cũng tận dụng chatbot để hỗ trợ tạo ra một trình thu thập dữ liệu Instagram và dịch hồ sơ LinkedIn sang tiếng Ba Tư.
Ngoài ra, báo cáo của OpenAI cũng đã chỉ rõ các hoạt động của một nhóm tác nhân đe dọa liên quan đến Trung Quốc, SweetSpectre, không chỉ sử dụng ChatGPT để do thám, nghiên cứu lỗ hổng, phát triển phần mềm độc hại, mà còn cố gắng gửi email phát tán phần mềm độc hại cho nhân viên OpenAI. Công ty AI này cho biết các email độc hại đã bị chặn trước khi đến được hộp thư đến của các nạn nhân mục tiêu.
Email lừa đảo được gửi đến nhân viên OpenAI
Công cụ AI là con dao hai lưỡi trong an ninh mạng
Theo chuyên gia VSEC, trí tuệ nhân tạo không phải là giải pháp hoàn hảo cho mọi vấn đề trong lĩnh vực an ninh mạng. Trong bối cảnh hiện nay, việc khai thác trí tuệ nhân tạo để phát hiện và phòng chống tấn công mạng là điều cần thiết. Trí tuệ nhân tạo có thể giúp phát hiện sớm các mối đe dọa, tăng tốc xử lý các sự kiện an ninh và nâng cao khả năng phòng thủ của hệ thống.
Tuy nhiên, chúng ta cũng cần phải cảnh giác với những nguy cơ tiềm ẩn. Kẻ tấn công có thể lợi dụng công nghệ nhân tạo để tạo ra các cuộc tấn công tinh vi hơn, như tấn công giả mạo hoặc tấn công dựa trên tự động hóa, máy học.
Ngoài ra, để phòng tránh, các đơn vị có thể sử dụng các dịch vụ liên quan pentest as a service (PTaaS) – nền tảng kiểm thử xâm nhập kết hợp giữa tự động hóa, máy học (ML) và AI dưới sự dẫn dắt/hướng dẫn của các chuyên gia đánh giá bảo mật với nhiều năm kinh nghiệm của VSEC.
Sự phát triển bền vững trong an ninh mạng chỉ có thể đạt được khi chúng ta kết hợp thông minh giữa quy trình làm việc hiệu quả, kiến thức chuyên môn của con người và một chiến lược bảo mật toàn diện. Chỉ khi đó, chúng ta mới có thể tối ưu hóa lợi ích của trí tuệ nhân tạo và bảo vệ an toàn thông tin trong bối cảnh đầy rẫy mối đe dọa hiện nay.
Nguồn tham khảo: securityweek
