Build AI · Khung thực hành
Agent có quyền hành động: bắt đầu từ trust boundary, không từ prompt
Một playbook xác định read/write scope, approval, audit và recovery trước khi agent chạm tới hệ thống ngoài.
Trước khi bắt đầu
Đọc để ra quyết định, không chỉ để lướt qua thông tin.
Bài này dành cho AI builder, security engineer và platform owner.. Mục tiêu là giúp bạn Giảm rủi ro “agent làm được” bị nhầm với “agent được phép làm”..
01 / INVENTORY
Liệt kê action và tài sản thay vì gọi chung là “agent”
Lập bảng agent có thể đọc, ghi, chạy, gửi và gọi ở đâu; identity nào được dùng; dữ liệu nào xuất hiện; hành động nào không thể hoàn tác.
Điểm cần chốt
Tách tool local và remote.Cách áp dụng
- Ghi asset owner, sensitivity và retention.
- Không bỏ qua indirect action qua integration.
Sơ đồ bước 01: Liệt kê action và tài sản thay vì gọi chung là “agent”
02 / BOUNDARY
Thiết kế least privilege và approval có nghĩa
Read-only, draft-only và write/publish là các trạng thái khác nhau. Approval phải hiển thị đúng action, scope và hậu quả để người duyệt có thể từ chối có hiểu biết.
Điểm cần chốt
Deny là default cho scope chưa được hiểu.Cách áp dụng
- Approval riêng cho action high impact.
- Có expiry và revocation rõ ràng.
Sơ đồ bước 02: Thiết kế least privilege và approval có nghĩa
03 / TEST
Test failure ở môi trường controlled
Dùng data synthetic để thử prompt injection, tool misuse, permission denial, retry, audit trace và kill switch. Đừng gọi nó an toàn nếu chỉ test happy path.
Điểm cần chốt
Test log có đủ forensic context không.Cách áp dụng
- Test identity bị thu hồi giữa run.
- Test action bị chặn có fail closed không.
Sơ đồ bước 03: Test failure ở môi trường controlled
04 / OPERATE
Đặt owner và đường dừng
Production requires owner, monitoring, incident path, config review và schedule re-test. Prompt thay đổi không thay thế change management.
Điểm cần chốt
Link policy thành runtime control khi có thể.Cách áp dụng
- Review integration mới trước cấp quyền.
- Diễn tập rollback/disable.
Sơ đồ bước 04: Đặt owner và đường dừng
Giới hạn của hướng dẫn này
Điều trang này không khẳng định.
Không phải security certification hay compliance advice. Threat model, penetration testing và review độc lập vẫn cần cho hệ có dữ liệu/hành động rủi ro.
Nguồn để đối chiếu
Đọc nguồn. Giữ đúng phạm vi.
- OWASP GenAI Security Project — Top 10 ↗
Tham chiếu công khai về rủi ro GenAI như prompt injection và kiểm soát quyền; không phải security certification.