Khóa OSAI – OffSec AI Red Teamer phù hợp với:

• Chuyên gia an ninh mạng muốn mở rộng sang lĩnh vực AI Security / AI Red Teaming
• Pentester, Red Teamer đã có kinh nghiệm kiểm thử xâm nhập và muốn khai thác các hệ thống AI
• AI/ML Engineer muốn hiểu rõ các lỗ hổng bảo mật trong mô hình AI
• Security Engineer, SOC Analyst quan tâm đến việc phòng thủ và phát hiện tấn công liên quan đến AI
• Những cá nhân định hướng trở thành AI Security Specialist hoặc AI Red Team Lead

Để học hiệu quả khóa này, học viên nên có:

• Kiến thức nền tảng về Cybersecurity (network, system, web security)
• Kinh nghiệm thực hành với Pentest / Red Teaming (tương đương OSCP là lợi thế)
• Hiểu biết cơ bản về AI/ML (mô hình học máy, LLM là một lợi thế nhưng không bắt buộc quá sâu)
• Kỹ năng sử dụng Linux, Python và các công cụ bảo mật phổ biến
• Tư duy phân tích, khai thác và đánh giá rủi ro hệ thống

Khóa học AI-300: Advanced AI Red Teaming được xây dựng theo hướng thực chiến, bao phủ toàn bộ quá trình tấn công và đánh giá bảo mật hệ thống AI hiện đại, từ giai đoạn trinh sát, khai thác đến triển khai hoạt động kiểm thử xâm nhập mô phỏng hoàn chỉnh.

• Giới thiệu về hoạt động Red Team đối với hệ thống AI

Hiểu cách các hệ thống trí tuệ nhân tạo (AI) làm thay đổi bề mặt tấn công truyền thống. Module này giới thiệu các khái niệm cốt lõi về an ninh mạng trong AI, giải thích cách các đối tượng tấn công nhắm mục tiêu vào các môi trường tích hợp AI, đồng thời liên kết các hình thức tấn công AI với vòng đời hoạt động của red team.

• Trinh sát mục tiêu AI

Học cách xác định và lập bản đồ các ứng dụng AI, các thành phần machine learning và hạ tầng mô hình trong môi trường mục tiêu. Học viên sẽ thực hành các kỹ thuật trinh sát nhằm phát hiện tài sản AI, các thành phần phụ thuộc (dependencies) và các dịch vụ đang được phơi bày (exposed services) mà không làm cảnh báo hệ thống phòng thủ.

• Tấn công các AI Agent

Khám phá các kỹ thuật tấn công nhằm thao túng AI agent thông qua việc lạm dụng prompt, hệ thống bộ nhớ và các cơ chế tích hợp công cụ. Module này minh họa cách kẻ tấn công có thể tác động và điều khiển các ứng dụng AI tự động trong khi vẫn duy trì tính ẩn mình (stealth).

• Tấn công hệ thống đa tác tử và giao thức A2A

Phân tích kiến trúc của các hệ thống AI đa tác tử và tìm hiểu cách kẻ tấn công khai thác mối quan hệ tin cậy giữa các agent. Học viên sẽ thực hành các kỹ thuật như thao túng thông điệp, giả mạo agent và phá vỡ quy trình hoạt động (workflow).

• Khai thác pipeline RAG (Retrieval-Augmented Generation)

Tìm hiểu cách kẻ tấn công xâm nhập hệ thống RAG bằng cách đầu độc nguồn tri thức (knowledge sources) và thao túng lớp truy xuất dữ liệu nhằm kiểm soát đầu ra của mô hình AI.

• Tấn công Embeddings

Hiểu vai trò của embeddings trong hệ thống machine learning và thực hiện các kỹ thuật tấn công như đảo ngược embedding (embedding inversion) và trích xuất thông tin nhằm thu thập dữ liệu nhạy cảm từ mô hình AI.

• Tấn công Model Context Protocol và các bề mặt tích hợp công cụ

Khám phá cách các lớp điều phối (orchestration layer) và framework tích hợp công cụ AI có thể bị khai thác để leo thang đặc quyền hoặc thực thi các hành vi ngoài ý muốn trong hệ thống AI.

• Tấn công chuỗi cung ứng AI

Tìm hiểu cách kẻ tấn công nhắm vào chuỗi cung ứng AI, bao gồm datasets, model weights, adapters và các thư viện phụ thuộc. Học viên sẽ thực hành các kỹ thuật chèn thành phần độc hại vào hệ thống AI trước khi được triển khai.

• Khai thác hạ tầng và môi trường triển khai AI

Xác định và khai thác các lỗ hổng trong hạ tầng AI, bao gồm nền tảng AI trên cloud, máy chủ mô hình (model servers) và các workload machine learning chạy trong container.

• Phân tích mối đe dọa cho hệ thống tích hợp AI

Xây dựng chiến lược xác định các tài sản AI quan trọng, ranh giới tin cậy (trust boundaries) và các đường tấn công tiềm năng trong môi trường AI phức tạp.

• Dự án tổng hợp Red Team

Áp dụng toàn bộ kỹ thuật đã học trong một chiến dịch red team hoàn chỉnh trên môi trường AI doanh nghiệp thực tế. Mô phỏng cách kẻ tấn công xâm nhập và khai thác các hệ thống AI đang vận hành trong production.

Bạn vui lòng liên hệ với Tư vấn viên qua mục chat trên website hoặc gọi đến số 024 3771 0668 để được tư vấn chi tiết về lộ trình học tập và chi phí!