說明
目前OpenSearch對A/B Test進行的資料統計指標包括:核心指標,流量指標,行為指標,成交指標,使用者分析指標,五個維度:
核心指標
指標名 | 定義 | 計算公式 | 依賴 | 意義 |
搜尋PV | PageView:發送搜尋請求且成功的次數(翻頁也屬於搜尋請求) | 每發送一個搜尋請求返回成功記1 | 當日進行搜尋(且搜尋成功)的次數 | |
搜尋UV | UserView:訪問過搜尋結果頁的使用者數 | 同一個使用者無論訪問多少次都只記1 | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 當日進行搜尋的使用者數 |
翻頁率 | 翻頁請求占搜尋PV的比例 | 翻頁請求PV/搜尋PV | 翻頁請求佔總搜尋PV的比例,衡量搜尋召回、排序的效果 | |
無結果率 | 返回的Item數為0的比例 | 返回的item數為0的搜尋PV/搜尋PV | 搜尋無結果的比例,衡量搜尋召回效果/內容豐富度 | |
PV-CTR | 每次搜尋的點擊率 | IPV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 搜尋結果的點擊情況,衡量搜尋召回、排序的效果 |
UV-CTR | 點擊使用者率 | IPV_UV/搜尋UV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 使用者對搜尋結果的點擊情況,衡量搜尋召回、排序的效果 |
TOP5 PV-CTR | 前五位Item的點擊率(不計翻頁後的點擊) | 前五位Item的IPV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 前五個Item的點擊情況,衡量搜尋排序效果 |
人均搜尋PV | 訪問搜尋的使用者平均搜尋成功的次數 | 搜尋PV/搜尋UV | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 使用者平均搜尋次數,搜尋次數多一方面體現使用者對搜尋感興趣,另一方面體現使用者無法通過較少的搜尋滿足需求 |
次日留存率 | 搜尋使用者第二天仍進行搜尋的使用者佔比 | UV(t-1)∩UV(t)/UV(t-1) | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 反映使用者搜尋粘性 |
流量指標
指標名 | 定義 | 計算公式 | 依賴 | 意義 |
搜尋PV | PageView:發送搜尋請求且成功的次數(翻頁也屬於搜尋請求) | 每發送一個搜尋請求返回成功記1 | 當日進行搜尋(且搜尋成功)的次數 | |
搜尋UV | UserView:訪問過搜尋結果頁的使用者數 | 同一個使用者無論訪問多少次都只記1 | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 當日進行搜尋的使用者數 |
人均搜尋PV | 訪問搜尋的使用者平均搜尋成功的次數 | 搜尋PV/搜尋UV | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 使用者平均搜尋次數,搜尋次數多一方面體現使用者對搜尋感興趣,另一方面體現使用者無法通過較少的搜尋滿足需求 |
Item曝光次數 | Item(搜尋結果頁面上的商品/內容)的展現次數。在翻頁或者載入的過程中,如果結果重複出現在第二頁算一個新的曝光PV,結果不去重 | 如果開通資料擷取功能並上傳了曝光資料,則每次曝光記1否則,記每次返回的Item數 | 依賴開通資料擷取功能,並且上傳了使用者曝光行為資料/也可不開通或上傳,但資料準確度降低 | 當日搜尋結果的曝光次數 |
Query數 | 所有使用者搜尋的Query按使用者去重後的結果 | 使用者搜尋的去重Query數總和兩個使用者搜尋了同一Query記2 | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數如果搜尋請求中設定了raw_query,則使用raw_query;否則採用名字是default索引上的value作為query,如果沒有default索引,則query全是空 | 使用者搜尋的Query總數(減小翻頁、重複搜尋的影響) |
人均Query數 | 人均搜尋的去重Query數 | Query數/搜尋UV | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 人均搜尋的Query數(減小翻頁、重複搜尋的影響) |
獨立Query數 | 所有使用者搜尋的獨立Query數量 | 使用者搜尋的所有Query去重後的數量,多個使用者搜尋同一Query記1 | 依賴通過SDK/API搜尋時,搜尋請求設定raw_query參數/或無需設定如果搜尋請求中設定了raw_query,則使用raw_query;否則採用名字是default索引上的value作為query,如果沒有default索引,則query全是空 | 反映Query的豐富度 |
翻頁率 | 翻頁請求占搜尋PV的比例 | 翻頁請求PV/搜尋PV | 翻頁請求佔總搜尋PV的比例,衡量搜尋召回、排序的效果 | |
無結果率 | 返回的Item數為0的比例 | 返回的item數為0的搜尋PV/搜尋PV | 搜尋無結果的比例,衡量搜尋召回效果/內容豐富度 | |
少結果率 | 返回的Item數小於等於5的比例 | 返回的item數小於等於5的搜尋PV/搜尋PV | 搜尋少結果的比例,衡量搜尋召回效果/內容豐富度 | |
請求報錯次數 | 發送搜尋請求但因為被限流等原因請求報錯的次數 | 每請求報錯一次記1 | 反映應用是否需要擴容或進行其他調整 | |
請求報錯率 | 發送搜尋請求但因為被限流等原因請求報錯的比例 | 請求報錯次數/(搜尋PV+請求報錯次數) | 反映應用是否需要擴容或進行其他調整 |
行為指標
指標名 | 定義 | 計算公式 | 依賴 | 意義 |
IPV | ItemPageView。Item點擊次數 | 每點擊一次記1 | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 搜尋結果的點擊次數 |
IPV_UV | 在搜尋結果頁中點擊了Item的使用者數 | 同一個使用者無論點擊多少次都只記1 | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料(註:上傳資料時需要指定user_id參數) | 搜尋結果的點擊使用者數 |
人均IPV | 搜尋使用者平均從搜尋網頁面中點擊商品的次數。 | IPV/搜尋UV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料(註:上傳資料時需要指定user_id參數) | 搜尋結果的人均點擊次數 |
PV-CTR | 每次搜尋的點擊率 | IPV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 搜尋結果的點擊情況,衡量搜尋召回、排序的效果 |
UV-CTR | 點擊使用者率 | IPV_UV/搜尋UV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 使用者對搜尋結果的點擊情況,衡量搜尋召回、排序的效果 |
Item-CTR | Item(搜尋結果頁面上的商品/內容)點擊率 | IPV/Item曝光次數 | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 搜尋結果的點擊情況,衡量搜尋召回、排序的效果 |
有點擊PV佔比 | 有點擊的PV佔比 | 有點擊的搜尋PV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 搜尋結果的點擊情況,衡量搜尋召回、排序的效果 |
TOP3 PV-CTR | 前三位Item的點擊率(不計翻頁後的點擊) | 前三位Item的IPV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 前三個Item的點擊情況,衡量搜尋排序效果 |
TOP5 PV-CTR | 前五位Item的點擊率(不計翻頁後的點擊) | 前五位Item的IPV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 前五個Item的點擊情況,衡量搜尋排序效果 |
TOP10 PV-CTR | 前十位Item的點擊率(不計翻頁後的點擊) | 前十位Item的IPV/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料 | 前十個Item的點擊情況,衡量搜尋排序效果 |
收藏數 | 由搜尋直接引導的對商品進行收藏的次數 | 每收藏一次記1 | 依賴開通資料擷取功能,並且上傳了使用者收藏(bhv_type=”collect”)行為資料 | 衡量搜尋召回、排序效果和引導收藏效果 |
收藏轉化率 | 收藏行為的轉化率 | 收藏數/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者收藏(bhv_type=”collect”)行為資料 | 衡量搜尋召回、排序效果和引導收藏效果 |
加購數 | 由搜尋直接引導的把商品加入購物車的次數 | 每加購一次記1 | 依賴開通資料擷取功能,並且上傳了使用者加入購物車,加入書架,加入歌單(bhv_type=”cart”)行為資料 | 衡量搜尋召回、排序效果和引導加購效果 |
加購轉化率 | 加入購物車行為的轉化率 | 加購數/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者加入購物車,加入書架,加入歌單(bhv_type=”cart”)行為資料 | 衡量搜尋召回、排序效果和引導加購效果 |
點贊數 | 由搜尋直接引導的對商品進行點贊的次數 | 每點贊一次記1 | 依賴開通資料擷取功能,並且上傳了使用者點贊(bhv_type=”like”)行為資料 | 衡量搜尋召回、排序效果和引導點贊效果 |
點贊轉化率 | 點贊行為的轉化率 | 點贊數/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者點贊(bhv_type=”like”)行為資料 | 衡量搜尋召回、排序效果和引導點贊效果 |
評論數 | 由搜尋直接引導的對商品進行評論的次數 | 每評論一次記1 | 依賴開通資料擷取功能,並且上傳了使用者評論(bhv_type=”comment”)行為資料 | 衡量搜尋召回、排序效果和引導評論效果 |
評論轉化率 | 評論行為的轉化率 | 評論數/搜尋PV | 依賴開通資料擷取功能,並且上傳了使用者評論(bhv_type=”comment”)行為資料 | 衡量搜尋召回、排序效果和引導評論效果 |
成交指標
指標名 | 定義 | 計算公式 | 依賴 | 意義 |
搜尋引導GMV | 由搜尋直接引導的成交金額 | 成交金額的總和 | 依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料 | 衡量搜尋召回、排序效果和引導購買效果 |
搜尋引導成交UV | 由搜尋直接引導的有購買行為的使用者數 | 同一個使用者無論成交多少次都只記1 | 依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料(註:上傳資料時需要指定user_id參數) | 衡量搜尋召回、排序效果和引導購買效果 |
搜尋引導客單價 | 通過搜尋直接引導成交的每個使用者的平均成交額 | 搜尋引導GMV/搜尋引導成交UV | 依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料 | 衡量搜尋召回、排序效果和引導購買效果 |
下單轉化率 | 搜尋使用者中有購買行為的使用者佔比 | 搜尋引導成交UV/搜尋UV | 依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料 | 衡量搜尋召回、排序效果和引導購買效果 |
點擊成交率 | 有點擊行為的使用者中有購買行為的使用者佔比 | 搜尋引導成交UV/IPV_UV | 依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料 | 衡量搜尋召回、排序效果和引導購買效果 |
使用者分析指標
指標名 | 定義 | 計算公式 | 依賴 | 意義 |
次日留存率 | 搜尋使用者第二天仍進行搜尋的使用者佔比 | UV(t-1)∩UV(t)/UV(t-1) | 依賴通過SDK/API搜尋時,搜尋請求設定user_id參數 | 反映使用者搜尋粘性 |
跳失使用者率 | 指使用搜尋的使用者中沒有點擊的比例 | (UV-IPV_UV)/搜尋UV | 依賴開通資料擷取功能,並且上傳了使用者點擊行為資料(註:上傳資料時需要指定user_id參數) | 衡量搜尋召回、排序效果 |
使用介紹
單日資料預設展現最近一天各個資料指標的情況。可通過日期控制項選擇展示指標的日期。目前資料擷取資料產出暫時為T+1天,上傳行為資料後第二天才能查看報表。
資料對比以折線圖的方式預設展現最近7天各個資料指標的變化。可通過日期控制項選擇展示指標的時間跨度。可通過點擊圖表中指標的icon勾選在圖表中展示的指標項。
查看方法:點擊導覽列“統計報表—->A/B測試報表”,選擇應用、實驗組、實驗、指標類型及時間,查看統計圖表。