檢視次數:

建立速率限制規則,並由配置為保護您私人生成式 AI 服務的內部閘道器強制執行。

速率限制規則允許您控制端點對您受保護的私有生成式 AI 服務的請求數量,有助於防止拒絕服務攻擊。速率限制規則只能由在反向 Proxy 模式下運行並部署在受保護生成式 AI 服務前的內部閘道器強制執行。

步驟

  1. Internet Access and AI Service Access Configuration中,點選Manage Rate Limiting Rules
  2. 若要建立新的速率限制規則,請點選Create Rule
  3. 指定規則名稱和可選的描述。
  4. 選擇是否在建立後啟用規則。
  5. 選擇要以規則為目標的私人 IP 位址群組。
    • All private IP address groups:所有可用的私人 IP 位址群組在向私人生成式 AI 服務發出請求時都會受到速率限制
    • Any selected private IP address groups:您選擇的私人 IP 位址群組在向私人生成式 AI 服務發出請求時會受到速率限制
    秘訣
    秘訣
    您也可以選擇要從規則中排除的私人 IP 位址群組。
  6. 選擇要套用規則的內部部署閘道。
    • All on-premises gateways:所有支援的內部部署閘道都會套用此規則
    • Any selected on-premises gateway:您選擇的受支持內部部署閘道器應用此規則
    重要
    重要
    僅支援已啟動反向 Proxy 模式且保護私人生成式 AI 服務的已連接內部部署閘道。網路存取內部部署閘道服務和相應的服務閘道必須更新到最新版本。
  7. 指定規則的速率限制閾值。
    • Unlimited requests:允許指定的私人 IP 位址群組通過指定的內部閘道進行無限制的服務請求
    • No requests:指定的私人 IP 位址群組不允許通過指定的內部部署閘道發出任何服務請求
    • Specified request rate:指定的私人 IP 位址群組每分鐘僅允許通過指定的內部閘道進行指定數量的服務請求。您可以指定的數字範圍是 1 到 2048。
  8. 點選Create
    新建立的規則會顯示在Rate Limiting Rules畫面上。
  9. 要搜尋特定規則,請在搜尋欄位中輸入規則名稱,或使用下拉選單按目標或內部部署閘道來篩選規則。
  10. 要啟用或關閉現有規則,請點選狀態欄中的相應切換開關。
  11. 要複製規則,請點選複製圖示 (duplicate=e79af1b6-17af-40ad-b942-53ffb9e796d2.jpg)。
  12. 要刪除規則,請點選刪除圖示 (delete_connector=3fc07446-32b8-4304-a62e-6c9ecc08d84f.jpg) 或選取多個規則後點選 刪除