Nguy cơ tấn công mạng mới từ sự trỗi dậy của Dark AI

Các tổ chức, cá nhân cần chuẩn bị đối mặt với các cuộc tấn công mạng ngày càng tinh vi, bởi sự trỗi dậy của Dark AI tại châu Á – Thái Bình Dương (APAC).

Đây là một trong những phát hiện quan trọng được công bố bởi tập đoàn an ninh mạng và bảo mật số toàn cầu Kaspersky mới đây.

Ông Sergey Lozhkin, Trưởng nhóm Nghiên cứu và Phân tích toàn cầu (GReAT) phụ trách khu vực Trung Đông, Thổ Nhĩ Kỳ, châu Phi và châu Á – Thái Bình Dương của Kaspersky nhấn mạnh, kể từ khi ChatGPT trở nên phổ biến toàn cầu vào năm 2023, các chuyên gia an ninh mạng của họ đã ghi nhận sự gia tăng nhanh chóng trong việc ứng dụng hữu ích AI (Trí tuệ nhân tạo) cho nhiều mục đích – từ những tác vụ thông thường như việc tạo video cho đến các tác vụ kỹ thuật như phát hiện và phân tích mối đe dọa.

Tuy nhiên, ở chiều ngược lại, các đối tượng xấu cũng đang lợi dụng AI để nâng cao năng lực tấn công mạng. “Chúng ta đang bước vào kỷ nguyên mới của an ninh mạng và xã hội, nơi mà AI đóng vai trò là tấm khiên để phòng thủ, còn Dark AI bị biến thành vũ khí nguy hiểm trong các cuộc tấn công mạng”, ông Sergey Lozhkin chia sẻ.

Dark AI dùng để chỉ việc triển khai ở cấp độ cục bộ hoặc từ xa các mô hình ngôn ngữ lớn (LLMs) không bị giới hạn trong một hệ thống hoàn chỉnh hoặc nền tảng chatbot, nhằm phục vụ cho các mục đích xấu, phi đạo đức hoặc trái phép.

Những hệ thống này hoạt động bên ngoài các quy chuẩn về an toàn, tuân thủ và kiểm soát quản trị, thường cho phép thực hiện các hành vi như lừa đảo, thao túng, tấn công mạng hoặc khai thác dữ liệu mà không có sự giám sát chặt chẽ.

Ông Lozhkin chia sẻ rằng, hình thức phổ biến nhất của việc lạm dụng AI hiện nay là sự xuất hiện của các mô hình Black Hat GPT, nổi lên từ giữa năm 2023.

Đây là những mô hình AI được phát triển hoặc điều chỉnh đặc biệt để phục vụ các mục đích phi đạo đức, bất hợp pháp như: tạo mã độc, soạn thảo email lừa đảo một cách trôi chảy và có sức thuyết phục cao phục vụ cả các cuộc tấn công quy mô lớn lẫn nhắm đến mục tiêu cụ thể, tạo giọng nói giả mạo và các video deepfake…

Các Black Hat GPT có thể tồn tại dưới dạng mô hình AI riêng tư hoàn toàn hoặc bán riêng tư và được thiết kế nhằm phục vụ cho hoạt động tội phạm mạng, lừa đảo và tự động hóa độc hại.

Để giúp các tổ chức tăng cường khả năng phòng thủ trước các mối đe dọa từ Dark AI, các chuyên gia an ninh mạng khuyến nghị:

– Sử dụng các giải pháp bảo mật thế hệ mới để phát hiện mã độc do AI tạo ra và kiểm soát rủi ro trong chuỗi cung ứng.

– Ứng dụng công cụ thông tin mối đe dọa theo thời gian thực nhằm giám sát các hành vi khai thác lỗ hổng do AI điều khiển.

– Tăng cường kiểm soát truy cập và đào tạo nhân viên, nhằm hạn chế hiện tượng AI trong vùng tối (Shadow AI) và nguy cơ rò rỉ dữ liệu.

– Thiết lập Trung tâm Điều hành An ninh mạng (SOC) để theo dõi mối đe dọa và ứng phó nhanh chóng trước các sự cố.