Guardrails
Bật chính sách guardrail của tổ chức và chọn mỗi quy tắc làm gì, ở đâu.
Tổ chức có một chính sách guardrail. Nó kiểm tra văn bản tại nơi văn bản lần đầu đi vào hội thoại: tin nhắn của người dùng, kết quả công cụ từ bên ngoài portal, một đoạn tài liệu khi nạp, và câu trả lời khi đang stream. Màn hình cần org.settings.manage. Cách từng điểm kiểm tra hoạt động có ở Guardrails.
-
Bật guardrails
Công tắc On/Off trên thẻ chính sách bật tắt toàn bộ. Tắt sẽ hỏi trước, vì khi tắt không gì được kiểm tra cho bất kỳ ai. Quy tắc vẫn giữ và vẫn lưu được. Thẻ đếm quy tắc theo hành động; View caught events mở tab Guardrails của audit log.
-
Khi kiểm tra không chạy được
Áp dụng sau một lần thử lại. Block the text từ chối văn bản và là mặc định. Let it through cho qua và ghi lại lỗi; chọn nó sẽ hỏi trước.
-
Chọn nhóm quy tắc
Personal data, Harmful content, Prompt attacks và Topics, mỗi lần một nhóm. Chú thích nói rõ Flag, Mask và Block làm gì. Ở Topics, Add topic hỏi tên (tối đa 100 ký tự), định nghĩa (tối đa 200) và tối đa năm câu ví dụ, mỗi dòng một câu. Edit mở lại form; Delete hỏi trước.
-
Chọn hành động
Mỗi chủ đề có Off, Flag, Mask và Block. Flag ghi phát hiện và cho văn bản qua. Mask thay giá trị bằng tên chủ đề trong ngoặc, như
[EMAIL], trước khi mô hình thấy (chỉ cho dữ liệu cá nhân). Block từ chối văn bản. Khi nhiều quy tắc cùng khớp, block thắng mask và mask thắng flag. -
Chọn điểm kiểm tra
Quy tắc mới được kiểm tra ở Messages, Tool results, Documents và Answers, trừ prompt attack chỉ bắt đầu ở tool results và documents. Chủ đề chưa có quy tắc hiện các điểm này mờ. Bấm một điểm để thêm hay bỏ; luôn giữ ít nhất một.
Thử chính sách
Try your policy chạy các quy tắc đã lưu trên văn bản mẫu mà không gửi tới mô hình hay ghi lại. Mẫu gồm dữ liệu cá nhân, prompt attack và nội dung có hại. Nếu không khớp gì vì không có quy tắc chạy ở điểm đã chọn, nó sẽ nói rõ; nếu một engine không chạy được, nó nêu tên engine kể cả khi chính sách cho văn bản qua.
Chủ đề
| Nhóm quy tắc | Chủ đề |
|---|---|
| Personal data | Email, số điện thoại Việt Nam, số CCCD, mã số thuế (MST), số thẻ thanh toán và số tài khoản ngân hàng, do engine mẫu có sẵn phát hiện miễn phí; tên, địa chỉ, tuổi, mật khẩu, tên đăng nhập, địa chỉ IP, địa chỉ web, số thẻ, IBAN và mã SWIFT, do Bedrock phát hiện |
| Harmful content | Các nhóm nội dung của Bedrock |
| Prompt attacks | Chỉ dẫn cài vào những gì agent đọc |
| Topics | Chủ đề trợ lý của tổ chức không nên bàn, mỗi chủ đề có định nghĩa và tối đa năm ví dụ |
Engine
Portal patterns chạy mỗi khi guardrails bật. Mọi chủ đề khác do Amazon Bedrock kiểm tra, thêm khoảng 0,7 giây mỗi lần và tính phí theo mỗi 1.000 ký tự vào phòng ban được kiểm tra. Bedrock có công tắc riêng, hỏi trước khi bật vì bắt đầu tính phí.
- Bedrock tắt thì không tính phí; quy tắc trên chủ đề Bedrock được giữ và ghi Not checked while Amazon Bedrock is off, và nhóm chỉ Bedrock kiểm tra có nút Turn on Bedrock.
- Bật một chủ đề hoặc thêm topic sẽ xuất bản phiên bản mới của guardrail Bedrock, mất vài giây. Thẻ hiện phiên bản đang dùng; xuất bản lỗi hiện Sync failed kèm lý do và Retry.
Tài liệu đã index
Tài liệu giữ kết quả lúc được index. Quy tắc thêm sau không áp cho nó cho tới khi xử lý lại: mở tài liệu trong Knowledge và chọn Reprocess.
Những gì được ghi lại
Mỗi lần khớp ghi một dòng nêu người, điểm kiểm tra, quy tắc và hành động, không kèm văn bản khớp, ở tab Guardrails của audit log.