Năng lực ApexAI Parley Guard
Năng lực · Bảo mật AI
Chặn những chỉ dẫn không phải của bạn.
Model AI làm theo những gì nằm trước mặt nó, bất kể ai viết. Người dùng có thể tìm cách thuyết phục nó bỏ qua quy tắc, còn một trang web, tài liệu hay kết quả tool có thể mang theo chỉ dẫn ẩn. ApexAI Parley Guard đọc những gì đi vào model và gắn cờ văn bản đang tìm cách điều khiển nó.
Trạng thái: Bản xem trước Parley Guard chạy ở chế độ quan sát: chấm điểm và giải thích prompt, kết quả tool nhưng không chặn; việc thực thi inline sẽ đến cùng ApexAI Causeway.
Vì sao prompt injection khác biệt
Prompt injection không phải lỗi của riêng một sản phẩm. Nó bắt nguồn từ cách model ngôn ngữ vận hành: chỉ dẫn và dữ liệu đến dưới cùng một dạng văn bản, nên model không phải lúc nào cũng phân biệt được. Tấn công trực tiếp đến từ người đang gõ, yêu cầu model bỏ qua quy tắc hay đóng một vai không có quy tắc nào. Tấn công gián ti ếp âm thầm hơn: chỉ dẫn nằm trong nội dung model đọc thay cho người khác, như kết quả tìm kiếm, email, tài liệu hay đầu ra của một tool.
Injection gián tiếp ngày càng quan trọng, vì AI agent giờ đọc nội dung bên ngoài rồi hành động: gọi tool, truy vấn hệ thống, gửi tin nhắn. Chỉ một kết quả tool bị đầu độc cũng có thể biến trợ lý thành nội gián. Đội bảo mật cần một lớp kiểm tra đặt ngay trên đường đi của nội dung đó mà không làm nó chậm lại.
Parley Guard kiểm tra những gì
Prompt trực tiếp
Prompt gửi tới model được kiểm tra dấu hiệu injection và jailbreak, như yêu cầu bỏ qua chỉ dẫn hệ thống hay vượt rào an toàn.
Kết quả tool và MCP
Nội dung do tool, MCP server và hệ thống truy xuất trả về được kiểm tra chỉ dẫn nhắm vào model, con đường chính của injection gián tiếp.
Mỗi cờ kèm lý do
Mỗi kết quả có điểm số và lý do, để người xem xét hiểu vì sao đoạn văn bản bị gắn cờ.
Hỏi về tấn công là bình thường
Analyst hỏi một kỹ thuật tấn công vận hành ra sao là đang hỏi về tấn công, không phải đang tấn công. Parley Guard được kiểm thử để không gắn cờ các câu hỏi bảo mật.
Cục bộ và nhanh
Lớp bảo vệ chạy cục bộ, sát traffic, đủ nhẹ để nằm trên đường đi của request mà không gây trễ đáng kể.
ApexAI tự bảo vệ chính mình
Alert và log có thể chứa văn bản do kẻ tấn công viết. ApexAI được thiết kế để đặt cùng lớp bảo vệ trước AI của chính mình, để bằng chứng không thể ra lệnh cho analyst.
Từ quan sát đến chặn
Như mọi kiểm soát của ApexAI, Parley Guard được bật theo từng nấc, và mỗi nấc là quyết định của bạn.
01
Quan sát
Prompt và kết quả tool được chấm điểm và ghi lại. Không gì bị thay đổi hay chặn, để bạn thấy lẽ ra cái gì sẽ bị gắn cờ.
02
Làm sạch
Nội dung bị gắn cờ được làm sạch hoặc giữ lại không đưa vào model, còn request vẫn tiếp tục.
03
Chặn
Request mang injection rõ ràng bị từ chối, lý do được ghi vào audit trail.
Phần đã có và phần tiếp theo
| Thành phần | Làm gì | Trạng thái |
|---|---|---|
| Kiểm tra injection và jailbreak trên prompt | Gắn cờ tấn công trực tiếp vào model, kèm lý do | Preview, chế độ quan sát |
| Kiểm tra injection trên kết quả tool và MCP | Gắn cờ chỉ dẫn ẩn trong nội dung model đọc | Preview, chế độ quan sát |
| Thực thi inline trên gateway | Làm sạch hoặc chặn ngay trên đường đi của request | Đang phát triển cùng ApexAI Causeway |
| Kiểm tra dữ liệu nhạy cảm và đầu ra | Giữ dữ liệu cá nhân và secret khỏi prompt và câu trả lời; kiểm tra những gì model trả về | Lộ trình |
Câu hỏi thường gặp
Prompt injection trực tiếp và gián tiếp khác nhau thế nào?
Injection trực tiếp đến từ người viết prompt. Injection gián tiếp ẩn trong nội dung model đọc, như trang web, tài liệu hay kết quả tool, và nhắm vào bất kỳ AI nào đọc nó tiếp theo.
Parley Guard có gửi prompt của chúng tôi ra dịch vụ bên ngoài không?
Không. Nó chạy cục bộ, ngay cạnh traffic của bạn. Trên gateway, nội dung prompt và phản hồi mặc định không được lưu; chỉ giữ phần cần cho audit.
Nó có chặn câu hỏi về tấn công của đội bảo mật không?
Không nên, và nó được kiểm thử đúng cho điều đó: hỏi về kỹ thuật tấn công là công việc bình thường của SOC. Ở chế độ quan sát, bạn có thể tự kiểm tra trên traffic của mình trước khi bật bất cứ điều gì.
Có dùng được mà không có ApexAI Causeway không?
Hiện nó chạy ở chế độ quan sát bên trong nền tảng ApexAI. Việc làm sạch và chặn inline được lên kế hoạch thông qua Causeway, gateway mà traffic AI và MCP đi qua.
Xem ApexAI chạy trên chính cảnh báo của bạn.
Một buổi trình diễn với đội của bạn, bắt đầu ở chế độ quan sát: ApexAI chấm điểm và đề xuất, không tự hành động.