Đại diện của Trend Micro chia sẻ về những hình thức tấn công mới bằng AI. Ảnh: MK.
Ngoài việc sử dụng AI để khai thác lỗ hổng và tạo ra các chương trình tấn công, tin tặc giờ đây còn tận dụng kẽ hở khi nhân sự sử dụng công cụ AI tạo sinh (Gen AI) để phục vụ mục đích khai thác thông tin.
Chia sẻ trong chuỗi sự kiện an ninh mạng toàn cầu với chủ đề "World Tour: Risk to Resilience 2024" (Từ rủi ro tới sự vững vàng trong An Ninh bảo mật năm 2024), đại diện công ty an ninh mạng Nhật Bản Trend Micro giải thích những rủi ro mới của doanh nghiệp khi Gen AI bùng nổ.
Một trong các hình thức tấn công mới là tiêm nhiễm câu lệnh (prompt injection). Trong các cuộc tấn công này, kẻ tấn công sử dụng các lệnh được thiết kế cẩn thận để khiến hệ thống AI bỏ qua các hướng dẫn ban đầu hoặc thực hiện các hành động không mong muốn.
Chẳng hạn, một kẻ tấn công có thể tiêm nhiễm lệnh vào một chatbot thông minh để nó cung cấp thông tin nhạy cảm hoặc thực hiện các hành vi nguy hiểm như tạo mã độc hoặc phát tán thông tin sai lệch. Việc ngăn chặn tấn công tiêm nhiễm lệnh rất khó khăn vì các mô hình AI hiện tại không thể phân biệt rõ ràng giữa hướng dẫn của nhà phát triển và đầu vào của người dùng.
Một cách tấn công khác là sử dụng AI để "học" cách viết văn bản của một cá nhân, như lãnh đạo của một công ty. Sau khi sao chép được văn phong của một người, kẻ tấn công có thể tìm cách gửi email với cách viết y hệt như vậy, lừa người nhận làm theo những nhu cầu của mình.
"Nếu nhân viên nhận được email đúng như cách viết hàng ngày của tôi, thậm chí giống đến từng cách dùng emoji, thì người đó sẽ bớt nghi ngờ và có thể làm theo yêu cầu, ví dụ chuyển tiền thanh toán", bà Nguyễn Minh Hoàng, Giám đốc quốc gia của Trend Micro Việt Nam, mô tả cách tấn công bằng sao chép văn phong.
Ngoài ra, kẻ tấn công khi có quyền truy cập cũng có thể âm thầm đưa vào những dữ liệu xấu, như một cách "đào tạo" hệ thống AI của doanh nghiệp nhằm phục vụ ý đồ của mình. Khi bị kẻ gian "tiêm nhiễm" điều xấu, chatbot có thể trở thành công cụ để thực hiện nhiều hành vi sai trái, ví dụ cung cấp thông tin nhằm dẫn dụ khách hàng theo kịch bản của kẻ gian, hay thu thập dữ liệu cá nhân...
Với hàng loạt hình thức tấn công mới, đại diện Trend Micro cho biết các doanh nghiệp càng phải nâng cao cảnh giác và thường xuyên cập nhật những thông tin mới về bảo mật. Theo chia sẻ của đại diện Trend Micro, đến nay khách hàng của công ty chưa bị tấn công mã hóa tống tiền (ransomware), hình thức rất phổ biến trong thời gian qua. Bên cạnh việc sử dụng những nền tảng bảo mật, Trend Micro còn liên tục cập nhật thông tin về các vụ tấn công lớn, cũng như thường xuyên tổ chức diễn tập cho các khách hàng.
"Chúng tôi biết rằng hiện nay các tổ chức đang tìm kiếm các hệ thống an ninh mạng để giúp họ đối phó một cách hiệu quả với các mối đe dọa thay vì chỉ sống chung với nguy cơ bị tấn công", bà Piyatida Tantrakul, Giám đốc Trend Micro khu vực Đông Dương chia sẻ.
Vào tháng 6, tại Computex, Nvidia cũng công bố hợp tác với Trend Micro để đầu tư vào các nguồn lực nhằm phát triển các hệ thống an ninh mạng được hỗ trợ bởi AI. Sự hợp tác này nhằm mục đích bảo vệ cơ sở hạ tầng AI quan trọng bằng các giải pháp bảo mật tiên tiến, đáp ứng nhu cầu ngày càng tăng của các tổ chức chính phủ và tư nhân muốn tận dụng sức mạnh của AI.