全部產品
Search
文件中心

OpenSearch:A/B測試報表

更新時間:Jul 13, 2024

說明

目前OpenSearch對A/B Test進行的資料統計指標包括:核心指標,流量指標,行為指標,成交指標,使用者分析指標,五個維度:

核心指標

指標名

定義

計算公式

依賴

意義

搜尋PV

PageView:發送搜尋請求且成功的次數(翻頁也屬於搜尋請求)

每發送一個搜尋請求返回成功記1

當日進行搜尋(且搜尋成功)的次數

搜尋UV

UserView:訪問過搜尋結果頁的使用者數

同一個使用者無論訪問多少次都只記1

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

當日進行搜尋的使用者數

翻頁率

翻頁請求占搜尋PV的比例

翻頁請求PV/搜尋PV

翻頁請求佔總搜尋PV的比例,衡量搜尋召回、排序的效果

無結果率

返回的Item數為0的比例

返回的item數為0的搜尋PV/搜尋PV

搜尋無結果的比例,衡量搜尋召回效果/內容豐富度

PV-CTR

每次搜尋的點擊率

IPV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

搜尋結果的點擊情況,衡量搜尋召回、排序的效果

UV-CTR

點擊使用者率

IPV_UV/搜尋UV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

使用者對搜尋結果的點擊情況,衡量搜尋召回、排序的效果

TOP5 PV-CTR

前五位Item的點擊率(不計翻頁後的點擊)

前五位Item的IPV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

前五個Item的點擊情況,衡量搜尋排序效果

人均搜尋PV

訪問搜尋的使用者平均搜尋成功的次數

搜尋PV/搜尋UV

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

使用者平均搜尋次數,搜尋次數多一方面體現使用者對搜尋感興趣,另一方面體現使用者無法通過較少的搜尋滿足需求

次日留存率

搜尋使用者第二天仍進行搜尋的使用者佔比

UV(t-1)∩UV(t)/UV(t-1)

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

反映使用者搜尋粘性

流量指標

指標名

定義

計算公式

依賴

意義

搜尋PV

PageView:發送搜尋請求且成功的次數(翻頁也屬於搜尋請求)

每發送一個搜尋請求返回成功記1

當日進行搜尋(且搜尋成功)的次數

搜尋UV

UserView:訪問過搜尋結果頁的使用者數

同一個使用者無論訪問多少次都只記1

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

當日進行搜尋的使用者數

人均搜尋PV

訪問搜尋的使用者平均搜尋成功的次數

搜尋PV/搜尋UV

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

使用者平均搜尋次數,搜尋次數多一方面體現使用者對搜尋感興趣,另一方面體現使用者無法通過較少的搜尋滿足需求

Item曝光次數

Item(搜尋結果頁面上的商品/內容)的展現次數。在翻頁或者載入的過程中,如果結果重複出現在第二頁算一個新的曝光PV,結果不去重

如果開通資料擷取功能並上傳了曝光資料,則每次曝光記1否則,記每次返回的Item數

依賴開通資料擷取功能,並且上傳了使用者曝光行為資料/也可不開通或上傳,但資料準確度降低

當日搜尋結果的曝光次數

Query數

所有使用者搜尋的Query按使用者去重後的結果

使用者搜尋的去重Query數總和兩個使用者搜尋了同一Query記2

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數如果搜尋請求中設定了raw_query,則使用raw_query;否則採用名字是default索引上的value作為query,如果沒有default索引,則query全是空

使用者搜尋的Query總數(減小翻頁、重複搜尋的影響)

人均Query數

人均搜尋的去重Query數

Query數/搜尋UV

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

人均搜尋的Query數(減小翻頁、重複搜尋的影響)

獨立Query數

所有使用者搜尋的獨立Query數量

使用者搜尋的所有Query去重後的數量,多個使用者搜尋同一Query記1

依賴通過SDK/API搜尋時,搜尋請求設定raw_query參數/或無需設定如果搜尋請求中設定了raw_query,則使用raw_query;否則採用名字是default索引上的value作為query,如果沒有default索引,則query全是空

反映Query的豐富度

翻頁率

翻頁請求占搜尋PV的比例

翻頁請求PV/搜尋PV

翻頁請求佔總搜尋PV的比例,衡量搜尋召回、排序的效果

無結果率

返回的Item數為0的比例

返回的item數為0的搜尋PV/搜尋PV

搜尋無結果的比例,衡量搜尋召回效果/內容豐富度

少結果率

返回的Item數小於等於5的比例

返回的item數小於等於5的搜尋PV/搜尋PV

搜尋少結果的比例,衡量搜尋召回效果/內容豐富度

請求報錯次數

發送搜尋請求但因為被限流等原因請求報錯的次數

每請求報錯一次記1

反映應用是否需要擴容或進行其他調整

請求報錯率

發送搜尋請求但因為被限流等原因請求報錯的比例

請求報錯次數/(搜尋PV+請求報錯次數)

反映應用是否需要擴容或進行其他調整

行為指標

指標名

定義

計算公式

依賴

意義

IPV

ItemPageView。Item點擊次數

每點擊一次記1

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

搜尋結果的點擊次數

IPV_UV

在搜尋結果頁中點擊了Item的使用者數

同一個使用者無論點擊多少次都只記1

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料(註:上傳資料時需要指定user_id參數)

搜尋結果的點擊使用者數

人均IPV

搜尋使用者平均從搜尋網頁面中點擊商品的次數。

IPV/搜尋UV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料(註:上傳資料時需要指定user_id參數)

搜尋結果的人均點擊次數

PV-CTR

每次搜尋的點擊率

IPV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

搜尋結果的點擊情況,衡量搜尋召回、排序的效果

UV-CTR

點擊使用者率

IPV_UV/搜尋UV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

使用者對搜尋結果的點擊情況,衡量搜尋召回、排序的效果

Item-CTR

Item(搜尋結果頁面上的商品/內容)點擊率

IPV/Item曝光次數

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

搜尋結果的點擊情況,衡量搜尋召回、排序的效果

有點擊PV佔比

有點擊的PV佔比

有點擊的搜尋PV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

搜尋結果的點擊情況,衡量搜尋召回、排序的效果

TOP3 PV-CTR

前三位Item的點擊率(不計翻頁後的點擊)

前三位Item的IPV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

前三個Item的點擊情況,衡量搜尋排序效果

TOP5 PV-CTR

前五位Item的點擊率(不計翻頁後的點擊)

前五位Item的IPV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

前五個Item的點擊情況,衡量搜尋排序效果

TOP10 PV-CTR

前十位Item的點擊率(不計翻頁後的點擊)

前十位Item的IPV/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料

前十個Item的點擊情況,衡量搜尋排序效果

收藏數

由搜尋直接引導的對商品進行收藏的次數

每收藏一次記1

依賴開通資料擷取功能,並且上傳了使用者收藏(bhv_type=”collect”)行為資料

衡量搜尋召回、排序效果和引導收藏效果

收藏轉化率

收藏行為的轉化率

收藏數/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者收藏(bhv_type=”collect”)行為資料

衡量搜尋召回、排序效果和引導收藏效果

加購數

由搜尋直接引導的把商品加入購物車的次數

每加購一次記1

依賴開通資料擷取功能,並且上傳了使用者加入購物車,加入書架,加入歌單(bhv_type=”cart”)行為資料

衡量搜尋召回、排序效果和引導加購效果

加購轉化率

加入購物車行為的轉化率

加購數/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者加入購物車,加入書架,加入歌單(bhv_type=”cart”)行為資料

衡量搜尋召回、排序效果和引導加購效果

點贊數

由搜尋直接引導的對商品進行點贊的次數

每點贊一次記1

依賴開通資料擷取功能,並且上傳了使用者點贊(bhv_type=”like”)行為資料

衡量搜尋召回、排序效果和引導點贊效果

點贊轉化率

點贊行為的轉化率

點贊數/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者點贊(bhv_type=”like”)行為資料

衡量搜尋召回、排序效果和引導點贊效果

評論數

由搜尋直接引導的對商品進行評論的次數

每評論一次記1

依賴開通資料擷取功能,並且上傳了使用者評論(bhv_type=”comment”)行為資料

衡量搜尋召回、排序效果和引導評論效果

評論轉化率

評論行為的轉化率

評論數/搜尋PV

依賴開通資料擷取功能,並且上傳了使用者評論(bhv_type=”comment”)行為資料

衡量搜尋召回、排序效果和引導評論效果

成交指標

指標名

定義

計算公式

依賴

意義

搜尋引導GMV

由搜尋直接引導的成交金額

成交金額的總和

依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料

衡量搜尋召回、排序效果和引導購買效果

搜尋引導成交UV

由搜尋直接引導的有購買行為的使用者數

同一個使用者無論成交多少次都只記1

依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料(註:上傳資料時需要指定user_id參數)

衡量搜尋召回、排序效果和引導購買效果

搜尋引導客單價

通過搜尋直接引導成交的每個使用者的平均成交額

搜尋引導GMV/搜尋引導成交UV

依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料

衡量搜尋召回、排序效果和引導購買效果

下單轉化率

搜尋使用者中有購買行為的使用者佔比

搜尋引導成交UV/搜尋UV

依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料

衡量搜尋召回、排序效果和引導購買效果

點擊成交率

有點擊行為的使用者中有購買行為的使用者佔比

搜尋引導成交UV/IPV_UV

依賴開通資料擷取功能,並且上傳了使用者購買(bhv_type=”buy”)行為資料

衡量搜尋召回、排序效果和引導購買效果

使用者分析指標

指標名

定義

計算公式

依賴

意義

次日留存率

搜尋使用者第二天仍進行搜尋的使用者佔比

UV(t-1)∩UV(t)/UV(t-1)

依賴通過SDK/API搜尋時,搜尋請求設定user_id參數

反映使用者搜尋粘性

跳失使用者率

指使用搜尋的使用者中沒有點擊的比例

(UV-IPV_UV)/搜尋UV

依賴開通資料擷取功能,並且上傳了使用者點擊行為資料(註:上傳資料時需要指定user_id參數)

衡量搜尋召回、排序效果

使用介紹

  1. 單日資料預設展現最近一天各個資料指標的情況。可通過日期控制項選擇展示指標的日期。目前資料擷取資料產出暫時為T+1天,上傳行為資料後第二天才能查看報表。

  2. 資料對比以折線圖的方式預設展現最近7天各個資料指標的變化。可通過日期控制項選擇展示指標的時間跨度。可通過點擊圖表中指標的icon勾選在圖表中展示的指標項。

  3. 查看方法:點擊導覽列“統計報表—->A/B測試報表”,選擇應用、實驗組、實驗、指標類型及時間,查看統計圖表。

1