TRAINING AI

Cập nhật AI · Đọc theo nguồn chính

Managed permissions: “allow” không phải là bằng chứng hệ agent an toàn

Đọc capability quản trị quyền của agent cùng các boundary cần test trước khi dùng như một security baseline.

Mục tiêuGiúp admin phân biệt policy control được tài liệu hóa với kết luận lớn hơn về bảo mật.
Phù hợp khiEnterprise admin, security engineer và platform team.

Trước khi bắt đầu

Đọc để ra quyết định, không chỉ để lướt qua thông tin.

Bài này dành cho Enterprise admin, security engineer và platform team.. Mục tiêu là giúp bạn Giúp admin phân biệt policy control được tài liệu hóa với kết luận lớn hơn về bảo mật..

01 / DOCUMENTED CAPABILITY

Control quản trị vẫn cần được kiểm theo surface

GitHub mô tả enterprise-managed settings có thể đặt deny/ask/allow cho một số agent operation; quyền/capability thực tế phụ thuộc client, session, sandbox, MCP và policy cụ thể.

Điểm cần chốt

Chính sách có precedence không đồng nghĩa mọi surface giống nhau.

Cách áp dụng

  • Remote MCP và local sandbox có boundary khác nhau.
  • Một allowlist không thay thế access control, secret management hay review.

Sơ đồ bước 01: Control quản trị vẫn cần được kiểm theo surface

02 / FIRST CHECK

Vẽ trust boundary trước khi bật

Liệt kê agent có thể đọc gì, sửa gì, chạy lệnh ở đâu, gọi domain nào và ai có thể phê duyệt. Bất kỳ ô nào “không biết” là lý do để chưa rollout.

Điểm cần chốt

Tách filesystem, network, secrets và remote tools.

Cách áp dụng

  • Ghi deny/ask/allow theo action, không theo nhãn “an toàn”.
  • Chỉ định audit log và owner review.

Sơ đồ bước 02: Vẽ trust boundary trước khi bật

03 / REQUIRED TEST

Test deny, ask và rollback bằng dữ liệu synthetic

Dùng repo/dữ liệu không nhạy cảm để thử policy precedence, fresh approval, bypass, network boundary, local/remote tool và failure khi control không phản hồi.

Điểm cần chốt

Không test bằng secret thật.

Cách áp dụng

  • Ghi client/version/configuration exact.
  • Xem log có đủ để điều tra không, không chỉ xem UI có báo thành công.

Sơ đồ bước 03: Test deny, ask và rollback bằng dữ liệu synthetic

04 / DO NOT INFER

Policy không xóa prompt injection hay exfiltration risk

Tài liệu control không chứng minh agent không thể bị thao túng, không thể rò rỉ dữ liệu, hoặc mọi integration đều bị sandbox containment. Cần threat model và test riêng.

Điểm cần chốt

Giữ least privilege.

Cách áp dụng

  • Đặt approval ở hành động có hậu quả.
  • Có kill switch và quy trình thu hồi quyền.

Sơ đồ bước 04: Policy không xóa prompt injection hay exfiltration risk

Giới hạn của hướng dẫn này

Điều trang này không khẳng định.

Không phải hướng dẫn security production. Cần review độc lập và test chính sách trên từng client/integration trước khi công bố baseline bảo mật.

Nguồn để đối chiếu

Đọc nguồn. Giữ đúng phạm vi.

Nội dung liên quan

Build AIAgent có quyền hành động: bắt đầu từ trust boundary, không từ prompt↗Tool LabProtocol chọn automation: kiểm trigger, quyền, retry và điểm duyệt↗