Điều hướng biên giới AI: Hướng dẫn của CISO để áp dụng AI tạo sinh an toàn

Việc tích hợp AI tạo sinh vào các hoạt động của doanh nghiệp hứa hẹn những lợi ích mang tính chuyển đổi, từ tăng tốc quy trình làm việc đến nâng cao hiểu biết chuyên sâu. Tuy nhiên, bước nhảy vọt công nghệ này không phải là không có rủi ro. Một mô hình sự cố lặp đi lặp lại cho thấy nhiều tổ chức chưa được trang bị đầy đủ để xử lý các rủi ro bảo mật và tuân thủ riêng biệt do các nhà cung cấp AI mang lại. Thách thức vượt ra ngoài an ninh mạng truyền thống, đòi hỏi một cách tiếp cận chuyên biệt đối với bảo mật, quản trị và quản lý rủi ro AI.

Chuyện gì đã xảy ra

Các tổ chức, với mong muốn khai thác sức mạnh của AI tạo sinh, đã nhanh chóng áp dụng các giải pháp AI của bên thứ ba mà không đánh giá đầy đủ các rủi ro bảo mật và tuân thủ vốn có. Điều này thường dẫn đến tư thế phản ứng khi các sự cố xảy ra. Một phần đáng kể các tổ chức đã trải qua các vụ vi phạm liên quan đến các mô hình hoặc ứng dụng AI, với phần lớn đáng kinh ngạc thiếu các kiểm soát truy cập AI phù hợp. Chẳng hạn, một số báo cáo chỉ ra rằng một tỷ lệ đáng kể các tổ chức đã trải qua các vụ vi phạm như vậy, với một tỷ lệ cao trong số đó thiếu các kiểm soát đầy đủ. Tác động càng trầm trọng hơn bởi bản chất của các cuộc tấn công mạng hiện đại: các xâm nhập chuỗi cung ứng là một mối lo ngại đáng kể, có khả năng ảnh hưởng đến một số lượng lớn cá nhân và gây ra chi phí đáng kể. Khi một nhà cung cấp AI gặp sự cố vi phạm, rủi ro đó được khách hàng của họ kế thừa trực tiếp, tạo ra hiệu ứng domino trên toàn bộ chuỗi cung ứng.

Đường cong áp dụng nhanh chóng đã vượt xa sự phát triển và triển khai các khuôn khổ bảo mật dành riêng cho AI mạnh mẽ. Nhiều tổ chức đã nhầm lẫn khi coi bảo mật AI chỉ là một phần mở rộng của các giao thức an ninh mạng hiện có, không nhận ra các vectơ đe dọa và yêu cầu tuân thủ riêng biệt đối với các hệ thống AI. Sự bỏ sót này biểu hiện theo nhiều cách, từ việc giám sát không đầy đủ các thực hành xử lý dữ liệu của nhà cung cấp AI đến việc thiếu các khuôn khổ quản trị được điều chỉnh cho các khả năng tự động của AI.

Tại sao mô hình này cứ lặp lại

Lý do cơ bản khiến mô hình này tiếp diễn là sự mất kết nối giữa tốc độ áp dụng AI và sự trưởng thành của các thực hành bảo mật AI. Các nhà cung cấp AI đang phát triển mạnh mẽ, cung cấp các giải pháp hấp dẫn để có quy trình làm việc nhanh hơn và thông tin chi tiết thông minh hơn. Tuy nhiên, sự đổi mới nhanh chóng này thường vượt quá khả năng của doanh nghiệp trong việc thực hiện thẩm định kỹ lưỡng. Các nhóm bảo mật phải đối mặt với những rủi ro mới mà các phương pháp đánh giá nhà cung cấp truyền thống không được thiết kế để giải quyết. Các nguồn dữ liệu đào tạo có thể vô tình khiến các tổ chức vi phạm các quy định tuân thủ, trong khi bản thân các mô hình AI có thể rò rỉ hoặc ghi nhớ thông tin nhạy cảm. Sự phụ thuộc vào các phụ thuộc AI của bên thứ ba mang lại các lỗ hổng cố hữu có thể biểu hiện mà không có cảnh báo.

Một yếu tố quan trọng khác là định nghĩa đang phát triển của chính bảo mật AI. Bảo mật AI ngày nay phức tạp hơn nhiều so với những năm trước, bao gồm các lĩnh vực như bảo mật AI tác nhân (agentic AI security), tường lửa AI, bảo mật mặt phẳng điều khiển mô hình (MCP) và bảo vệ thời gian chạy AI. Đây là những lĩnh vực liên quan nhưng khác biệt, và các nhà cung cấp chuyên về một lĩnh vực có thể không mạnh ở các lĩnh vực khác. Sự phức tạp này thường dẫn đến sự nhầm lẫn giữa những người mua, khiến việc lựa chọn các kiểm soát bảo mật phù hợp hoặc đánh giá chính xác khả năng của nhà cung cấp trở nên khó khăn. Nếu không có sự hiểu biết rõ ràng về những khác biệt này, các tổ chức sẽ gặp khó khăn trong việc đặt ra những câu hỏi đúng hoặc xác thực các phản hồi một cách hiệu quả, duy trì một chu kỳ triển khai AI không được bảo mật đầy đủ.

Tốc độ đổi mới AI đòi hỏi một sự phát triển nhanh chóng tương đương, nhưng được cấu trúc tỉ mỉ, trong các khuôn khổ bảo mật và tuân thủ của doanh nghiệp.

Quy trình tấn công của kẻ xấu từng bước

Những kẻ tấn công nhắm vào các tổ chức đang tận dụng AI tạo sinh thường tuân theo một cách tiếp cận nhiều giai đoạn, khai thác chính những khía cạnh khiến AI trở nên mạnh mẽ và phổ biến. Kế hoạch của chúng thường bắt đầu bằng việc trinh sát tập trung vào việc xác định các tổ chức sử dụng nhiều dịch vụ AI của bên thứ ba. Chúng tìm kiếm các điểm yếu tiềm ẩn trong chuỗi cung ứng AI, hiểu rằng một vụ vi phạm ở một nhà cung cấp duy nhất có thể cung cấp quyền truy cập cho nhiều khách hàng hạ nguồn.

1. Khai thác dữ liệu đào tạo: Kẻ tấn công có thể nhắm mục tiêu vào các nguồn dữ liệu đào tạo của các mô hình AI. Điều này có thể liên quan đến việc tiêm dữ liệu độc hại để làm nhiễm độc mô hình, dẫn đến các đầu ra thiên vị hoặc có thể bị khai thác, hoặc đánh cắp dữ liệu nhạy cảm đã vô tình được đưa vào các tập dữ liệu đào tạo. Nguồn gốc đa dạng của dữ liệu đào tạo có thể khiến đây trở thành một bề mặt tấn công rộng lớn.
2. Thao túng và lẩn tránh mô hình: Khi một mô hình AI đang trong quá trình sản xuất, kẻ tấn công có thể cố gắng thao túng hành vi của nó thông qua các đầu vào đối kháng hoặc kỹ thuật tiêm prompt. Mục đích là để bỏ qua các bộ lọc bảo mật, trích xuất thông tin bí mật hoặc buộc mô hình tạo ra nội dung độc hại. Chúng cũng có thể tìm cách khai thác các lỗ hổng của mô hình để thực hiện các hành động trái phép.
3. Xâm nhập phụ thuộc AI của bên thứ ba: Một vectơ quan trọng liên quan đến việc nhắm mục tiêu trực tiếp vào nhà cung cấp AI. Bằng cách xâm nhập cơ sở hạ tầng của nhà cung cấp, kẻ tấn công có thể truy cập dữ liệu, tài sản trí tuệ của khách hàng của họ hoặc thậm chí tiêm mã độc hại vào chính các dịch vụ AI. Các cuộc tấn công chuỗi cung ứng đã chứng tỏ hiệu quả cao, tận dụng một điểm xâm nhập duy nhất để tạo ra tác động rộng khắp.
4. Khai thác AI tác nhân: Với sự phát triển của các hệ thống AI tác nhân có thể lập kế hoạch, quyết định và thực hiện các hành động một cách tự chủ, kẻ tấn công chuyển trọng tâm từ những gì một mô hình nói sang những gì một tác nhân làm. Chúng nhằm mục đích xâm nhập các tác nhân này để thực hiện các giao dịch trái phép, sửa đổi dữ liệu hoặc truy cập hệ thống, tận dụng các quyền và kết nối vốn có của tác nhân với các công cụ khác.
5. Đánh cắp và kiếm tiền: Giai đoạn cuối cùng liên quan đến việc trích xuất dữ liệu có giá trị—cho dù đó là thông tin khách hàng nhạy cảm, thuật toán độc quyền hay tài sản trí tuệ—và sau đó kiếm tiền từ nó thông qua các kênh bất hợp pháp khác nhau, thường tận dụng vụ vi phạm ban đầu để duy trì sự bền bỉ và mở rộng phạm vi tiếp cận của chúng trong mạng lưới của nạn nhân.

Những gì người phòng thủ đã bỏ lỡ

Những người phòng thủ chủ yếu đã bỏ lỡ sự chuyển dịch từ rủi ro CNTT truyền thống sang rủi ro cụ thể của AI. Nhiều tổ chức đã không nhận ra rằng bảo mật AI không thể được coi chỉ là một phần mở rộng của các khuôn khổ an ninh mạng hiện có. Các đặc điểm riêng của AI, chẳng hạn như khả năng các mô hình ghi nhớ hoặc rò rỉ thông tin nhạy cảm, đòi hỏi các kiểm soát và đánh giá riêng biệt. Việc áp dụng nhanh chóng các giải pháp AI thường vượt quá tốc độ phát triển của các chương trình quản trị và tuân thủ chuyên biệt.

Điều quan trọng là các tổ chức đã đánh giá thấp tầm quan trọng của việc đánh giá rủi ro nhà cung cấp AI chuyên sâu. Các bảng câu hỏi thẩm định nhà cung cấp chung chung là không đủ để đánh giá các nhà cung cấp AI. Chúng thường bỏ qua các câu hỏi quan trọng liên quan đến nguồn gốc dữ liệu đào tạo, bảo mật mô hình, kiểm soát truy cập cho các ứng dụng AI và kế hoạch ứng phó sự cố của nhà cung cấp đối với các vụ vi phạm cụ thể của AI. Hơn nữa, những người phòng thủ thường không xác thực đầy đủ các phản hồi của nhà cung cấp, dựa vào việc tự chứng nhận mà không có xác minh độc lập. Việc thiếu thử nghiệm tấn công chủ động, cụ thể cho AI cũng có nghĩa là các lỗ hổng không được phát hiện cho đến sau khi một sự cố xảy ra.

Danh sách kiểm tra phòng thủ thực tế

Để bảo mật hiệu quả việc áp dụng AI tạo sinh, các CISO và kỹ sư bảo mật phải triển khai một chiến lược phòng thủ chủ động và cụ thể cho AI. Điều này bao gồm một cách tiếp cận nhiều lớp đối với đánh giá nhà cung cấp, quản trị và xác thực liên tục.

1. Phát triển các bảng câu hỏi rủi ro nhà cung cấp cụ thể cho AI: Vượt ra ngoài các bảng câu hỏi chung chung. Tập trung vào các câu hỏi về nguồn dữ liệu đào tạo, kỹ thuật ẩn danh dữ liệu, khả năng giải thích của mô hình, kiểm soát truy cập cho các mô hình và ứng dụng AI, và kế hoạch ứng phó sự cố AI của nhà cung cấp. Xem xét các khuôn khổ như NIST AI RMF và phương pháp FAIR.
2. Thực hiện kiểm soát truy cập AI mạnh mẽ: Đảm bảo rằng các mô hình và ứng dụng AI có các kiểm soát truy cập chi tiết. Điều này bao gồm quản lý ai có thể truy cập dữ liệu đào tạo, ai có thể triển khai mô hình và các tác nhân AI tự động có những quyền gì. Việc thiếu kiểm soát truy cập AI phù hợp là một lỗ hổng đáng kể.
3. Thiết lập khuôn khổ quản trị AI: Thiết kế và triển khai các khuôn khổ quản trị AI toàn diện giải quyết việc sử dụng AI có đạo đức, quyền riêng tư dữ liệu và bảo mật. Tích hợp các nguyên tắc như Microsoft Responsible AI và tận dụng ma trận RACI để có trách nhiệm giải trình rõ ràng.
4. Áp dụng các tiêu chuẩn và chứng nhận bảo mật AI: Ưu tiên các nhà cung cấp tuân thủ các tiêu chuẩn bảo mật AI đang phát triển. Chẳng hạn, một số cập nhật ngành bao gồm Đánh giá và Chứng nhận bảo mật AI chuyên dụng, và các dịch vụ Đánh giá quản lý rủi ro AI, những điều này rất quan trọng đối với các ngành được quản lý.
5. Tập trung vào bảo mật AI tác nhân: Đối với các tác nhân AI tự động, ưu tiên các biện pháp bảo mật ngăn chặn các hành động trái phép. Hiểu rõ sự khác biệt giữa việc chỉ bảo vệ những gì một mô hình nói và bảo mật những gì một tác nhân làm, đặc biệt khi nó tương tác với các hệ thống nhạy cảm.
6. Yêu cầu tính minh bạch và khả năng kiểm toán: Yêu cầu các nhà cung cấp AI cung cấp tài liệu rõ ràng về việc phát triển, triển khai và thực hành bảo mật mô hình của họ. Đảm bảo khả năng kiểm toán các hệ thống AI của họ để tuân thủ và các lỗ hổng bảo mật.
7. Thực hiện kiểm thử tấn công liên tục: Chủ động kiểm thử các hệ thống và tích hợp AI để tìm lỗ hổng. Điều này bao gồm kiểm thử thâm nhập truyền thống cùng với các cuộc tấn công đối kháng cụ thể cho AI và các bài tập red teaming để khám phá các điểm yếu trước khi chúng bị khai thác.

Cách kiểm thử tấn công hiện đại sẽ phát hiện ra điều này

Kiểm thử tấn công hiện đại, đặc biệt là sử dụng kiểm thử tấn công tự động với các Proof-of-Concept (PoC) có thể thực thi, sẽ chủ động xác định các lỗ hổng đã dẫn đến những sự cố này. Nền tảng của chúng tôi, tập trung vào bảo mật tác nhân AI — kiểm thử tấn công tự động với các PoC có thể thực thi, thay đổi mô hình từ phòng thủ phản ứng sang phát hiện mối đe dọa chủ động. Thay vì chỉ dựa vào các bảng câu hỏi hoặc đánh giá tĩnh, cách tiếp cận này mô phỏng các chiến thuật của kẻ tấn công trong thế giới thực chống lại các hệ thống AI và các tích hợp của chúng.

Chẳng hạn, một nền tảng như vậy có thể tự động dò tìm các mô hình đã triển khai của nhà cung cấp AI để tìm các lỗ hổng tiêm prompt, cố gắng trích xuất dữ liệu đào tạo nhạy cảm hoặc bỏ qua các bộ lọc an toàn. Nó có thể mô phỏng các cuộc tấn công đối kháng chống lại các hệ thống AI tác nhân, kiểm tra xem một tác nhân tự động có thể bị ép buộc thực hiện các hành động trái phép hay không, như khởi tạo hoàn tiền hoặc sửa đổi hồ sơ khách hàng, tận dụng quyền truy cập hợp pháp của nó vào các công cụ được kết nối. Bằng cách tạo ra các PoC có thể thực thi, nền tảng không chỉ xác định lỗ hổng mà còn chứng minh khả năng khai thác, cung cấp bằng chứng cụ thể để khắc phục.

Loại kiểm thử này sẽ mở rộng ra toàn bộ chuỗi cung ứng AI, xác định các điểm yếu trong cách một tổ chức tích hợp và tiêu thụ dịch vụ từ các nhà cung cấp AI bên thứ ba. Nó sẽ phát hiện ra các cấu hình sai trong kiểm soát truy cập AI, các đường dẫn rò rỉ dữ liệu từ đầu ra mô hình và các điểm truy cập backdoor tiềm năng do các phụ thuộc của nhà cung cấp đưa vào. Kiểm thử tấn công chủ động, liên tục này cung cấp cho các CISO thông tin tình báo có thể hành động, cho phép họ củng cố hệ thống phòng thủ AI của mình và đảm bảo tuân thủ trước khi xảy ra vi phạm, thay vì phản ứng sau khi nó xảy ra.

Những điều cần chú ý tiếp theo

Bối cảnh bảo mật AI đang phát triển nhanh chóng, và các CISO phải luôn cảnh giác với các mối đe dọa mới nổi và những thay đổi về quy định. Trọng tâm sẽ ngày càng được làm rõ hơn về bảo mật AI tác nhân, khi các hệ thống tự động có được nhiều khả năng và trách nhiệm hơn. Khi các tác nhân AI vượt ra ngoài các chatbot đơn giản để trở thành các hệ thống có thể lập kế hoạch, quyết định và thực hiện các hành động, các tác động bảo mật trở nên sâu sắc. Sự khác biệt giữa 'những gì mô hình nói' và 'những gì tác nhân làm' sẽ là tối quan trọng, đòi hỏi các kiểm soát mạnh mẽ đối với quyền hạn và tương tác của tác nhân.

Các cơ quan quản lý sẽ tiếp tục điều chỉnh các khuôn khổ của họ để giải quyết các rủi ro cụ thể của AI. Các cập nhật ngành, chẳng hạn như từ các cơ quan chứng nhận hàng đầu, bao gồm Đánh giá và Chứng nhận bảo mật AI chuyên dụng, là một chỉ báo rõ ràng về xu hướng này. Các tổ chức trong các lĩnh vực được quản lý chặt chẽ như chăm sóc sức khỏe và tài chính sẽ phải đối mặt với áp lực ngày càng tăng để chứng minh sự tuân thủ các tiêu chuẩn bảo mật cụ thể của AI. Hơn nữa, việc tích hợp bảo mật AI vào các khuôn khổ quản lý rủi ro doanh nghiệp rộng lớn hơn, như NIST AI RMF và phương pháp FAIR, sẽ trở thành thực hành tiêu chuẩn. Trọng tâm sẽ chuyển sang các cập nhật liên tục, dựa trên mối đe dọa đối với các kiểm soát bảo mật, đảm bảo rằng quản trị có thể theo kịp bản chất năng động của rủi ro AI.