本文由簡體中文內容自動轉碼而成。阿里雲不保證此自動轉碼的準確性、完整性及時效性。本文内容請以簡體中文版本為準。

AI安全態勢管理

更新時間:2025-04-11 19:34

AI安全態勢管理是一種維護人工智慧(AI)和機器學習(ML)系統安全性和完整性的綜合方法。Security Center針對AI應用提供應用漏洞檢測、資產暴露分析、配置檢查、鏡像風險掃描等安全檢測能力,您可以使用這些工具確保AI應用的合規性和安全性。本文從AI資產梳理和AI應用風險管理兩方面介紹Security Center支援的安全能力。

前提條件

如果您是在伺服器上建立的AI應用,您需要在伺服器上安裝Security Center用戶端。具體操作,請參見安裝用戶端

AI資產梳理

Security Center可以自動並持續發現阿里雲以下服務中部署的AI應用:

  • Elastic Compute Service。

  • 人工智慧平台PAI:通過PAI平台建立的鏡像及部分執行個體,例如互動式建模的DSW執行個體、模型線上服務執行個體等。

查看伺服器中的AI組件

Security Center資產指紋調查功能支援採集伺服器上的AI組件資訊。更多資訊,請參見資產指紋調查

Security Center控制台資產中心 > 主機資產頁面的AI組件頁簽,您可以查看伺服器資產中存在的AI組件列表。

image

查看人工智慧平台PAI資產

在雲產品頁面查看PAI資產

Security Center支援即時同步阿里雲人工智慧平台PAI的雲產品資料。

Security Center控制台資產中心 > 雲產品頁面,在搜尋方塊中將標籤選擇為AI應用,即可查看PAI平台的資產列表及其風險狀態。更多資訊,請參見查看雲產品資訊

image

在倉庫鏡像頁面查看容器鏡像資產

開通鏡像安全掃描功能後,Security Center會自動同步阿里雲Container Registry的鏡像倉庫,並自動識別通過PAI平台建立的容器鏡像資產。

Security Center控制台資產中心 > 容器資產頁面的倉庫鏡像頁簽,通過在搜尋條件組件中選擇標籤 > PAI,可查看人工智慧平台PAI相關的鏡像倉庫列表及其風險狀態。更多資訊,請參見查看鏡像資訊image

AI應用風險管理

AI應用漏洞

Security Center支援檢測並集中展示ollama、lm-studio等多種AI組件中存在的漏洞。AI應用相關漏洞可能會導致資料泄露或未經授權訪問AI模型和資源,建議您及時關注並手動處理此類漏洞。

Security Center控制台風險治理 > 漏洞管理頁面的應用漏洞頁簽,選中僅顯示AI相關漏洞,即可查看AI應用中存在的漏洞。更多資訊,請參見查看和處理漏洞image

公網暴露AI組件

Security Center支援識別在伺服器中部署的AI應用是否存在公網暴露風險,可以協助您識別AI資產在公網的暴露面,以便您及時採取措施避免AI應用遭受攻擊。更多資訊,請參見資產暴露分析

Security Center控制台風險治理 > 資產暴露分析頁面,單擊AI應用組件地區下的數字,可在AI應用組件面板查看在互連網暴露的AI應用列表。

image

Security Center將自動為包含AI組件的資產標記AI應用標籤。在有AI應用標籤的資產操作列單擊暴露詳情,可查看資產暴露的詳細資料。Security Center將以藍色底線標記AI組件。

image

AI配置風險

Security Center提供針對AI資產的安全配置風險自動化檢測能力。雲產品配置風險檢查功能依託阿里雲AI安全實踐,覆蓋人工智慧平台PAI的AI應用組件的關鍵安全配置項檢測,包括以下方面:

  • 許可權管理:執行最小許可權原則審計。

  • 存取控制:檢測公網暴露風險及白名單配置。

  • 服務配置:驗證敏感操作保護機制。

Security Center控制台風險治理 > 雲安全態勢管理頁面的雲產品配置風險頁簽,單擊全部檢查項地區的AI組態管理(AI-SPM),可查看AI組態管理相關檢查項及檢查結果。未通過檢查項治理的具體操作,請參見查看並處理未通過檢查項

image

鏡像安全掃描

Security Center支援掃描通過人工智慧平台PAI建立的容器鏡像風險,包括鏡像漏洞風險、鏡像基準檢查、鏡像惡意樣本、鏡像敏感檔案等。除了基礎的鏡像安全掃描能力外,Security Center支援識別鏡像中存在的AI服務API調用密鑰的明文儲存風險,例如OpenAI相關密鑰、阿里雲PAI-EAS服務Token等。

image

Security Center控制台防護配置 > 容器防護 > 鏡像安全掃描頁面,可查看鏡像中存在的安全風險。在對應風險的詳情頁面,Security Center將自動為通過PAI建立的鏡像標記PAI標籤。更多資訊,請參見查看掃描出的鏡像風險及修複說明

image

無代理檢測掃描風險

Security Center提供無代理檢測功能,可全面掃描安裝AI組件的Elastic Compute Service中存在的安全風險,包括漏洞風險、基準檢查、惡意樣本、敏感檔案。除了基礎的安全風險掃描能力外,Security Center支援對伺服器中存在AI API調用相關敏感資訊明文儲存的識別,例如OpenAI相關密鑰、阿里雲PAI-EAS服務Token等。更多資訊,請參見無代理檢測

image

Security Center控制台防護配置 > 主機防護 > 無代理檢測頁面,可查看ECS中存在的風險檢測結果。

image

  • 本頁導讀 (1, M)
  • 前提條件
  • AI資產梳理
  • 查看伺服器中的AI組件
  • 查看人工智慧平台PAI資產
  • AI應用風險管理
  • AI應用漏洞
  • 公網暴露AI組件
  • AI配置風險
  • 鏡像安全掃描
  • 無代理檢測掃描風險
文檔反饋