说明
目前OpenSearch对A/B Test进行的数据统计指标包括:核心指标,流量指标,行为指标,成交指标,用户分析指标,五个维度:
核心指标
指标名 | 定义 | 计算公式 | 依赖 | 意义 |
搜索PV | PageView:发送搜索请求且成功的次数(翻页也属于搜索请求) | 每发送一个搜索请求返回成功记1 | 当日进行搜索(且搜索成功)的次数 | |
搜索UV | UserView:访问过搜索结果页的用户数 | 同一个用户无论访问多少次都只记1 | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 当日进行搜索的用户数 |
翻页率 | 翻页请求占搜索PV的比例 | 翻页请求PV/搜索PV | 翻页请求占总搜索PV的比例,衡量搜索召回、排序的效果 | |
无结果率 | 返回的Item数为0的比例 | 返回的item数为0的搜索PV/搜索PV | 搜索无结果的比例,衡量搜索召回效果/内容丰富度 | |
PV-CTR | 每次搜索的点击率 | IPV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 搜索结果的点击情况,衡量搜索召回、排序的效果 |
UV-CTR | 点击用户率 | IPV_UV/搜索UV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 用户对搜索结果的点击情况,衡量搜索召回、排序的效果 |
TOP5 PV-CTR | 前五位Item的点击率(不计翻页后的点击) | 前五位Item的IPV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 前五个Item的点击情况,衡量搜索排序效果 |
人均搜索PV | 访问搜索的用户平均搜索成功的次数 | 搜索PV/搜索UV | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 用户平均搜索次数,搜索次数多一方面体现用户对搜索感兴趣,另一方面体现用户无法通过较少的搜索满足需求 |
次日留存率 | 搜索用户第二天仍进行搜索的用户占比 | UV(t-1)∩UV(t)/UV(t-1) | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 反映用户搜索粘性 |
流量指标
指标名 | 定义 | 计算公式 | 依赖 | 意义 |
搜索PV | PageView:发送搜索请求且成功的次数(翻页也属于搜索请求) | 每发送一个搜索请求返回成功记1 | 当日进行搜索(且搜索成功)的次数 | |
搜索UV | UserView:访问过搜索结果页的用户数 | 同一个用户无论访问多少次都只记1 | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 当日进行搜索的用户数 |
人均搜索PV | 访问搜索的用户平均搜索成功的次数 | 搜索PV/搜索UV | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 用户平均搜索次数,搜索次数多一方面体现用户对搜索感兴趣,另一方面体现用户无法通过较少的搜索满足需求 |
Item曝光次数 | Item(搜索结果页面上的商品/内容)的展现次数。在翻页或者加载的过程中,如果结果重复出现在第二页算一个新的曝光PV,结果不去重 | 如果开通数据采集功能并上传了曝光数据,则每次曝光记1否则,记每次返回的Item数 | 依赖开通数据采集功能,并且上传了用户曝光行为数据/也可不开通或上传,但数据准确度降低 | 当日搜索结果的曝光次数 |
Query数 | 所有用户搜索的Query按用户去重后的结果 | 用户搜索的去重Query数总和两个用户搜索了同一Query记2 | 依赖通过SDK/API搜索时,搜索请求设置user_id参数如果搜索请求中设置了raw_query,则使用raw_query;否则采用名字是default索引上的value作为query,如果没有default索引,则query全是空 | 用户搜索的Query总数(减小翻页、重复搜索的影响) |
人均Query数 | 人均搜索的去重Query数 | Query数/搜索UV | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 人均搜索的Query数(减小翻页、重复搜索的影响) |
独立Query数 | 所有用户搜索的独立Query数量 | 用户搜索的所有Query去重后的数量,多个用户搜索同一Query记1 | 依赖通过SDK/API搜索时,搜索请求设置raw_query参数/或无需设置如果搜索请求中设置了raw_query,则使用raw_query;否则采用名字是default索引上的value作为query,如果没有default索引,则query全是空 | 反映Query的丰富度 |
翻页率 | 翻页请求占搜索PV的比例 | 翻页请求PV/搜索PV | 翻页请求占总搜索PV的比例,衡量搜索召回、排序的效果 | |
无结果率 | 返回的Item数为0的比例 | 返回的item数为0的搜索PV/搜索PV | 搜索无结果的比例,衡量搜索召回效果/内容丰富度 | |
少结果率 | 返回的Item数小于等于5的比例 | 返回的item数小于等于5的搜索PV/搜索PV | 搜索少结果的比例,衡量搜索召回效果/内容丰富度 | |
请求报错次数 | 发送搜索请求但因为被限流等原因请求报错的次数 | 每请求报错一次记1 | 反映应用是否需要扩容或进行其他调整 | |
请求报错率 | 发送搜索请求但因为被限流等原因请求报错的比例 | 请求报错次数/(搜索PV+请求报错次数) | 反映应用是否需要扩容或进行其他调整 |
行为指标
指标名 | 定义 | 计算公式 | 依赖 | 意义 |
IPV | ItemPageView。Item点击次数 | 每点击一次记1 | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 搜索结果的点击次数 |
IPV_UV | 在搜索结果页中点击了Item的用户数 | 同一个用户无论点击多少次都只记1 | 依赖开通数据采集功能,并且上传了用户点击行为数据(注:上传数据时需要指定user_id参数) | 搜索结果的点击用户数 |
人均IPV | 搜索用户平均从搜索页面中点击商品的次数。 | IPV/搜索UV | 依赖开通数据采集功能,并且上传了用户点击行为数据(注:上传数据时需要指定user_id参数) | 搜索结果的人均点击次数 |
PV-CTR | 每次搜索的点击率 | IPV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 搜索结果的点击情况,衡量搜索召回、排序的效果 |
UV-CTR | 点击用户率 | IPV_UV/搜索UV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 用户对搜索结果的点击情况,衡量搜索召回、排序的效果 |
Item-CTR | Item(搜索结果页面上的商品/内容)点击率 | IPV/Item曝光次数 | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 搜索结果的点击情况,衡量搜索召回、排序的效果 |
有点击PV占比 | 有点击的PV占比 | 有点击的搜索PV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 搜索结果的点击情况,衡量搜索召回、排序的效果 |
TOP3 PV-CTR | 前三位Item的点击率(不计翻页后的点击) | 前三位Item的IPV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 前三个Item的点击情况,衡量搜索排序效果 |
TOP5 PV-CTR | 前五位Item的点击率(不计翻页后的点击) | 前五位Item的IPV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 前五个Item的点击情况,衡量搜索排序效果 |
TOP10 PV-CTR | 前十位Item的点击率(不计翻页后的点击) | 前十位Item的IPV/搜索PV | 依赖开通数据采集功能,并且上传了用户点击行为数据 | 前十个Item的点击情况,衡量搜索排序效果 |
收藏数 | 由搜索直接引导的对商品进行收藏的次数 | 每收藏一次记1 | 依赖开通数据采集功能,并且上传了用户收藏(bhv_type=”collect”)行为数据 | 衡量搜索召回、排序效果和引导收藏效果 |
收藏转化率 | 收藏行为的转化率 | 收藏数/搜索PV | 依赖开通数据采集功能,并且上传了用户收藏(bhv_type=”collect”)行为数据 | 衡量搜索召回、排序效果和引导收藏效果 |
加购数 | 由搜索直接引导的把商品加入购物车的次数 | 每加购一次记1 | 依赖开通数据采集功能,并且上传了用户加入购物车,加入书架,加入歌单(bhv_type=”cart”)行为数据 | 衡量搜索召回、排序效果和引导加购效果 |
加购转化率 | 加入购物车行为的转化率 | 加购数/搜索PV | 依赖开通数据采集功能,并且上传了用户加入购物车,加入书架,加入歌单(bhv_type=”cart”)行为数据 | 衡量搜索召回、排序效果和引导加购效果 |
点赞数 | 由搜索直接引导的对商品进行点赞的次数 | 每点赞一次记1 | 依赖开通数据采集功能,并且上传了用户点赞(bhv_type=”like”)行为数据 | 衡量搜索召回、排序效果和引导点赞效果 |
点赞转化率 | 点赞行为的转化率 | 点赞数/搜索PV | 依赖开通数据采集功能,并且上传了用户点赞(bhv_type=”like”)行为数据 | 衡量搜索召回、排序效果和引导点赞效果 |
评论数 | 由搜索直接引导的对商品进行评论的次数 | 每评论一次记1 | 依赖开通数据采集功能,并且上传了用户评论(bhv_type=”comment”)行为数据 | 衡量搜索召回、排序效果和引导评论效果 |
评论转化率 | 评论行为的转化率 | 评论数/搜索PV | 依赖开通数据采集功能,并且上传了用户评论(bhv_type=”comment”)行为数据 | 衡量搜索召回、排序效果和引导评论效果 |
成交指标
指标名 | 定义 | 计算公式 | 依赖 | 意义 |
搜索引导GMV | 由搜索直接引导的成交金额 | 成交金额的总和 | 依赖开通数据采集功能,并且上传了用户购买(bhv_type=”buy”)行为数据 | 衡量搜索召回、排序效果和引导购买效果 |
搜索引导成交UV | 由搜索直接引导的有购买行为的用户数 | 同一个用户无论成交多少次都只记1 | 依赖开通数据采集功能,并且上传了用户购买(bhv_type=”buy”)行为数据(注:上传数据时需要指定user_id参数) | 衡量搜索召回、排序效果和引导购买效果 |
搜索引导客单价 | 通过搜索直接引导成交的每个用户的平均成交额 | 搜索引导GMV/搜索引导成交UV | 依赖开通数据采集功能,并且上传了用户购买(bhv_type=”buy”)行为数据 | 衡量搜索召回、排序效果和引导购买效果 |
下单转化率 | 搜索用户中有购买行为的用户占比 | 搜索引导成交UV/搜索UV | 依赖开通数据采集功能,并且上传了用户购买(bhv_type=”buy”)行为数据 | 衡量搜索召回、排序效果和引导购买效果 |
点击成交率 | 有点击行为的用户中有购买行为的用户占比 | 搜索引导成交UV/IPV_UV | 依赖开通数据采集功能,并且上传了用户购买(bhv_type=”buy”)行为数据 | 衡量搜索召回、排序效果和引导购买效果 |
用户分析指标
指标名 | 定义 | 计算公式 | 依赖 | 意义 |
次日留存率 | 搜索用户第二天仍进行搜索的用户占比 | UV(t-1)∩UV(t)/UV(t-1) | 依赖通过SDK/API搜索时,搜索请求设置user_id参数 | 反映用户搜索粘性 |
跳失用户率 | 指使用搜索的用户中没有点击的比例 | (UV-IPV_UV)/搜索UV | 依赖开通数据采集功能,并且上传了用户点击行为数据(注:上传数据时需要指定user_id参数) | 衡量搜索召回、排序效果 |
使用介绍
单日数据默认展现最近一天各个数据指标的情况。可通过日期控件选择展示指标的日期。目前数据采集数据产出暂时为T+1天,上传行为数据后第二天才能查看报表。
数据对比以折线图的方式默认展现最近7天各个数据指标的变化。可通过日期控件选择展示指标的时间跨度。可通过点击图表中指标的icon勾选在图表中展示的指标项。
查看方法:点击导航栏“统计报表—->A/B测试报表”,选择应用、实验组、实验、指标类型及时间,查看统计图表。