AI安全態勢管理是一種維護人工智慧(AI)和機器學習(ML)系統安全性和完整性的綜合方法。Security Center針對AI應用提供應用漏洞檢測、資產暴露分析、配置檢查、鏡像風險掃描等安全檢測能力,您可以使用這些工具確保AI應用的合規性和安全性。本文從AI資產梳理和AI應用風險管理兩方面介紹Security Center支援的安全能力。
前提條件
如果您是在伺服器上建立的AI應用,您需要在伺服器上安裝Security Center用戶端。具體操作,請參見安裝用戶端。
AI資產梳理
Security Center可以自動並持續發現阿里雲以下服務中部署的AI應用:
Elastic Compute Service。
人工智慧平台PAI:通過PAI平台建立的鏡像及部分執行個體,例如互動式建模的DSW執行個體、模型線上服務執行個體等。
查看伺服器中的AI組件
Security Center資產指紋調查功能支援採集伺服器上的AI組件資訊。更多資訊,請參見資產指紋調查。
在Security Center控制台 頁面的AI組件頁簽,您可以查看伺服器資產中存在的AI組件列表。
查看人工智慧平台PAI資產
在雲產品頁面查看PAI資產
Security Center支援即時同步阿里雲人工智慧平台PAI的雲產品資料。
在Security Center控制台 頁面,在搜尋方塊中將標籤選擇為AI應用,即可查看PAI平台的資產列表及其風險狀態。更多資訊,請參見查看雲產品資訊。
在倉庫鏡像頁面查看容器鏡像資產
開通鏡像安全掃描功能後,Security Center會自動同步阿里雲Container Registry的鏡像倉庫,並自動識別通過PAI平台建立的容器鏡像資產。
在Security Center控制台 頁面的倉庫鏡像頁簽,通過在搜尋條件組件中選擇 ,可查看人工智慧平台PAI相關的鏡像倉庫列表及其風險狀態。更多資訊,請參見查看鏡像資訊。
AI應用風險管理
AI應用漏洞
Security Center支援檢測並集中展示ollama、lm-studio等多種AI組件中存在的漏洞。AI應用相關漏洞可能會導致資料泄露或未經授權訪問AI模型和資源,建議您及時關注並手動處理此類漏洞。
在Security Center控制台 頁面的應用漏洞頁簽,選中僅顯示AI相關漏洞,即可查看AI應用中存在的漏洞。更多資訊,請參見查看和處理漏洞。
公網暴露AI組件
Security Center支援識別在伺服器中部署的AI應用是否存在公網暴露風險,可以協助您識別AI資產在公網的暴露面,以便您及時採取措施避免AI應用遭受攻擊。更多資訊,請參見資產暴露分析。
在Security Center控制台 頁面,單擊AI應用組件地區下的數字,可在AI應用組件面板查看在互連網暴露的AI應用列表。
Security Center將自動為包含AI組件的資產標記AI應用標籤。在有AI應用標籤的資產操作列單擊暴露詳情,可查看資產暴露的詳細資料。Security Center將以藍色底線標記AI組件。
AI配置風險
Security Center提供針對AI資產的安全配置風險自動化檢測能力。雲產品配置風險檢查功能依託阿里雲AI安全實踐,覆蓋人工智慧平台PAI的AI應用組件的關鍵安全配置項檢測,包括以下方面:
許可權管理:執行最小許可權原則審計。
存取控制:檢測公網暴露風險及白名單配置。
服務配置:驗證敏感操作保護機制。
在Security Center控制台 頁面的雲產品配置風險頁簽,單擊全部檢查項地區的AI組態管理(AI-SPM),可查看AI組態管理相關檢查項及檢查結果。未通過檢查項治理的具體操作,請參見查看並處理未通過檢查項。
鏡像安全掃描
Security Center支援掃描通過人工智慧平台PAI建立的容器鏡像風險,包括鏡像漏洞風險、鏡像基準檢查、鏡像惡意樣本、鏡像敏感檔案等。除了基礎的鏡像安全掃描能力外,Security Center支援識別鏡像中存在的AI服務API調用密鑰的明文儲存風險,例如OpenAI相關密鑰、阿里雲PAI-EAS服務Token等。
在Security Center控制台 頁面,可查看鏡像中存在的安全風險。在對應風險的詳情頁面,Security Center將自動為通過PAI建立的鏡像標記PAI標籤。更多資訊,請參見查看掃描出的鏡像風險及修複說明。
無代理檢測掃描風險
Security Center提供無代理檢測功能,可全面掃描安裝AI組件的Elastic Compute Service中存在的安全風險,包括漏洞風險、基準檢查、惡意樣本、敏感檔案。除了基礎的安全風險掃描能力外,Security Center支援對伺服器中存在AI API調用相關敏感資訊明文儲存的識別,例如OpenAI相關密鑰、阿里雲PAI-EAS服務Token等。更多資訊,請參見無代理檢測。
在Security Center控制台 頁面,可查看ECS中存在的風險檢測結果。