Guardrails

Mỗi tổ chức có đúng một chính sách guardrailGuardrailGuardrailLớp kiểm tra an toàn cho dữ liệu vào và ra khỏi mô hình — ví dụ chặn nội dung có hại hoặc dữ liệu nhạy cảm. Quản trị viên thiết lập cho tổ chức.Mở trong Thuật ngữ; phòng ban và agent không có chính sách riêng. Chính sách này tắt cho tới khi quản trị viên bật nó trong Guardrails của Admin console (bảng điều khiển quản trị), việc này cần quyền hạn org.settings.manage.

Quy tắc

Một quy tắc nêu cần bắt cái gì, tìm ở đâu và làm gì khi tìm thấy.

• Quy tắc mới được kiểm tra ở cả bốn điểm — trừ tấn công prompt, chỉ được kiểm tra trong kết quả tool và tài liệu, vì cùng một chỉ dẫn đó là vô hại khi nằm trong chính tin nhắn của người dùng.
• Một chủ đề gồm một định nghĩa và tối đa năm câu ví dụ.

Điểm kiểm tra

Mỗi điểm kiểm tra nhìn thấy văn bản đúng lúc nó đi vào cuộc trò chuyện.

Những gì không bị kiểm tra lại như kết quả tool:

• Tìm kiếm tri thức, đọc tài liệu và tìm trong tệp đính kèm — chúng trả về các phần đã được kiểm tra lúc nạp.
• Workspace — nơi chứa các tệp do chính agent viết ra.

Tài liệu giữ nguyên kết quả kiểm tra lúc được lập chỉ mục. Sửa quy tắc không kiểm tra lại các tài liệu đã lập chỉ mục; xử lý lại một tài liệu sẽ áp dụng các quy tắc đang có hiệu lực.

Người dùng thấy gì

Chip che. Giá trị bị che hiện trong khung chat dưới dạng một chip ghi tên loại của nó, ví dụ Bank account number, kèm chú thích rằng guardrail của tổ chức đã thay nó trước khi nó tới AI.

• Với tin nhắn người dùng gửi từ cùng thẻ trình duyệt, chip có thể hiện và ẩn giá trị họ đã gõ: thẻ đó giữ trong bộ nhớ những gì nó đã gửi và khớp với văn bản đã che.
• Sau khi tải lại trang, ở thẻ khác, hoặc trong câu trả lời do mô hình viết, chip không có gì để hiện — không còn bản sao nào của giá trị ở bất kỳ đâu.

Dòng kết quả phát hiện. Mỗi kết quả được liệt kê dưới tin nhắn nơi nó được tìm thấy: kết quả trong tin nhắn của người dùng nằm dưới câu hỏi mở đầu lượt; kết quả trong kết quả tool hoặc câu trả lời nằm dưới câu trả lời cuối của lượt. Mỗi tổ hợp hành động và điểm kiểm tra có một dòng, nêu tên các đối tượng:

• Flagged (đã đánh dấu) — đánh dấu không thay đổi gì; chú thích của nó cho biết kết quả đã được ghi lại để xem xét.
• Masked before the AI read it (đã che trước khi AI đọc)
• Masked in the answer (đã che trong câu trả lời)
• Masked in a tool result (đã che trong kết quả tool)
• Tool result withheld (kết quả tool bị giữ lại)

Ngoài ra:

• Kết quả trong tin nhắn gửi chen vào lượt đang chạy được xếp dưới câu hỏi của lượt.
• Tải lại trang vẫn thấy đúng các dòng đó, vì bản ghi hội thoại đọc lại chúng từ các kết quả đã lưu.
• Engine bị lỗi không được tính là một kết quả phát hiện.
• Tin nhắn hoặc câu trả lời bị chặn không có dòng nào. Thay vào đó lượt kết thúc bằng một thẻ, trình bày khác với lỗi thông thường, nêu quy tắc đã chặn gì và nên làm gì tiếp.

Cách kiểm tra câu trả lời

Khi mọi quy tắc ở điểm kiểm tra câu trả lời chỉ đánh dấu, câu trả lời hiển thị như bình thường và từng khối hoàn chỉnh được kiểm tra sau đó.

Khi có quy tắc ở đó có thể chặn hoặc che, câu trả lời được giữ lại và nhả ra theo từng lần kiểm tra:

• Mỗi lần kiểm tra lấy mọi câu đã viết xong tới thời điểm đó, trong một cửa sổ ký tự nhất định — nên chữ hiện lên màn hình chậm hơn mô hình một câu.
• Các câu viết xong trong lúc một lần kiểm tra đang chạy sẽ vào lần kế tiếp, nên engine chậm hơn chỉ đơn giản là kiểm tra thưa hơn.
• Đoạn văn không có dấu kết câu — ví dụ một dòng kết thúc bằng dấu hai chấm trước lần gọi tool — được kiểm tra và nhả ra ngay khi có bất cứ thứ gì khác văn bản xuất hiện, nên nó luôn hiện trước dòng tool theo sau.
• Dấu kết câu là dấu chấm, chấm hỏi, chấm than hoặc dấu ba chấm theo sau là khoảng trắng, hoặc một dòng trống. Một lần xuống dòng đơn lẻ thì không, vì nó có thể ngăn cách một nhãn như Số tài khoản: với con số đi kèm.
• Không định danh nào mà quy tắc che chứa dấu kết câu, nên một giá trị không bao giờ bị tách giữa hai lần kiểm tra.

Các engine

Mỗi engine báo cáo những gì nó tìm thấy; quy tắc của tổ chức bạn quyết định hành động. Hành động mạnh nhất trong các kết quả sẽ thắng: chặn hơn che, che hơn đánh dấu.

Engine mẫu

Phát hiện, không mất phí:

• địa chỉ email
• số di động Việt Nam
• số căn cước công dân (CCCD)
• mã số thuế — chỉ khi có từ khoá hoặc hậu tố chi nhánh, vì một dãy mười chữ số đứng riêng được hiểu là số điện thoại
• số thẻ thanh toán vượt qua kiểm tra Luhn
• số tài khoản ngân hàng đứng sau một từ khoá như STK hoặc số tài khoản

Engine Bedrock

Bao quát chủ đề, nội dung độc hại, tấn công prompt và các loại dữ liệu cá nhân BedrockAmazon BedrockAmazon BedrockDịch vụ mô hình của AWS, chạy trong region của tài khoản bạn. Mô hình và embedding của portal đến từ đây, luôn qua LiteLLM.Mở trong Thuật ngữ nhận diện được: tên người, địa chỉ, tuổi, mật khẩu, tên đăng nhập, địa chỉ IP, địa chỉ web, số thẻ, IBAN và mã SWIFT. Nó chạy trong vùng AWS của tổ chức bạn. Bedrock báo cáo giá trị dữ liệu cá nhân theo chính đoạn văn bản đó, nên mọi lần xuất hiện của đoạn văn bản ấy trong phần được kiểm tra đều bị che.

Mọi bộ lọc Bedrock chạy ở chế độ phát hiện: Bedrock báo cáo những gì tìm thấy, còn quy tắc của portal quyết định điều gì xảy ra.

Chạy cả hai engine

• Mọi lần kiểm tra đều chạy engine mẫu.
• Khi Bedrock tắt, không lần kiểm tra nào gọi Bedrock và không phát sinh phí. Các quy tắc chỉ Bedrock kiểm tra được vẫn được giữ nhưng bị bỏ qua, và không thể thêm quy tắc cho đối tượng thuộc Bedrock.
• Khi bật Bedrock, guardrail Bedrock của tổ chức được xuất bản trước lần kiểm tra kế tiếp. Cho tới khi phiên bản đầu tiên được xuất bản, engine Bedrock không kiểm tra gì và chỉ engine mẫu chạy.
• Khi cả hai cùng chạy, hành động mạnh nhất trong kết quả của bất kỳ engine nào sẽ thắng.
• Nếu đồng bộ với Bedrock thất bại, lý do được lưu trên chính sách; trang Guardrails hiển thị lý do kèm nút thử lại.

Tầng Standard và Classic

Ở các vùng bắt đầu bằng us-, eu- và ap-, guardrail dùng tầng Standard của Bedrock thông qua hồ sơ liên vùng tương ứng, ví dụ apac.guardrail.v1:0. Các vùng khác dùng tầng Classic, vốn chỉ đọc được tiếng Anh, tiếng Pháp và tiếng Tây Ban Nha.

Khi thử nghiệm, tầng Standard đã phát hiện một chủ đề về lương, nội dung thù ghét, bạo lực, một tấn công prompt và tên người trong các câu tiếng Việt, đồng thời không đánh dấu câu nào trong hai câu hỏi thông thường.

Quyền AWS

Role gắn với backend cần các quyền sau, với <account-id> thay bằng tài khoản của bản triển khai:

{
  "Sid": "BedrockGuardrails",
  "Effect": "Allow",
  "Action": [
    "bedrock:CreateGuardrail",
    "bedrock:UpdateGuardrail",
    "bedrock:GetGuardrail",
    "bedrock:CreateGuardrailVersion",
    "bedrock:DeleteGuardrail",
    "bedrock:ApplyGuardrail"
  ],
  "Resource": [
    "arn:aws:bedrock:*:<account-id>:guardrail/*",
    "arn:aws:bedrock:*:<account-id>:guardrail-profile/*"
  ]
}

Chi phí

Mỗi lần kiểm tra bằng Bedrock được tính giá theo số đơn vị văn bản nó báo cáo, theo giá niêm yết của AWS:

Mỗi lần kiểm tra có phát sinh phí được cộng vào khoản phí theo ngày của người dùng và phòng ban mà lần kiểm tra đó chạy cho — dù có tìm thấy gì hay không.

Khi lần kiểm tra thất bại

Lần kiểm tra không chạy được sẽ được thử lại một lần. Điều xảy ra tiếp theo do chính sách của bạn quyết định:

• Chặn (mặc định) từ chối văn bản. Tin nhắn hoặc câu trả lời bị từ chối làm lượt thất bại, còn phần tài liệu bị từ chối làm lần nạp thất bại — lần nạp sẽ chạy lại thay vì để lại một tài liệu không có gì trong chỉ mục.
• Cho phép để văn bản đi qua và ghi lại lỗi.

Bản ghi kết quả phát hiện

Mỗi kết quả khớp quy tắc tạo một bản ghi, và mỗi lần kiểm tra thất bại tạo thêm một bản ghi. Bản ghi nêu:

• tổ chức, phòng ban và người dùng
• điểm kiểm tra, loại, đối tượng, hành động và engine
• thứ được kiểm tra: lượt, lần gọi tool hoặc tài liệu

Bản ghi không bao giờ chứa đoạn văn bản bị khớp và chỉ được ghi thêm, không sửa. Thẻ Guardrails của nhật ký kiểm tra liệt kê các bản ghi này. Tin nhắn bị từ chối trước khi lượt bắt đầu còn để lại một bản ghi lần gọi mô hình với trạng thái tiếp nhận BLOCKED_GUARDRAIL — xem Kiểm tra và theo dõi chi phí.

Vì sao hoạt động như vậy

Bên trong hệ thống

Liên quan

Thiết lập guardrails Bật chính sách, thêm quy tắc và chọn cách xử lý khi kiểm tra lỗi. Kiểm tra và theo dõi chi phí Những gì được ghi cho mỗi lần gọi mô hình và cách cộng dồn chi phí. Ngân sách và chính sách Cách cảnh báo ngân sách và mức dừng cứng hoạt động. Nhật ký kiểm tra Xem kết quả phát hiện của guardrail trong thẻ Guardrails.