产品经理作为产品功能的发起者,在众多需求中挑选出来可做需求时,心中就会有初步的构想,新功能能够帮助产品覆盖哪些增量用户,新功能又能带来哪些指标的提升,提升幅度大约是多少?
当产品功能上线,用户使用产生用户行为数据后,“评估”就成了回答预设的主要手段。“评估”,是业务问题转化为数据问题的过程。效果评估,可以确定上线功能预期与实际效果的差异。
进行功能效果评估,分:数据采集和产品功能评估两步。下面就具体介绍工作内容。
用户行为数据对深入理解用户使用习惯起到至关重要的作用。
目前用户行为数据上报多采用埋点形式,然而上报数据越多,对产品性能的影响就越大。因此确定埋点需求时,要斟酌需求是否必须,是否有其他的数据可以近似替代?是否有对性能影响小一点的实现方式?
此外,埋点上线后,上报数据可能存在问题,例如:
l 数据不全: 我们的产品是服务于广告主的落地页产品,广告的投放就会涉及多个流量渠道,而不同的渠道对于数据上报时间节点的限制不同的,像这类情况就可能导致某些渠道数据上报不全;
l 数据不准确: 我们的落地页整体形式,头部是商品首图,接下来是商品详情页,最后是购买所需填写的表单内容。在这种页面结构下,我们希望能够获取用户最后跳出页面的位置。但当我们统计上报的数据后,发现90%的用户在完成表单填写后上报的页面浏览位置小于整体页面长度的10%。这明显与常规理解不符;
l 数据上报链路存在异常: 后台说埋点需求已经发布上线了,可以用了。但数据打开数据库,发现里面空空如也。然后开始拉着开发排查数据没到库的原因,是数据压根没采集?还是采集了没上报到服务器?服务器收到了没有推送到数据库?全部验证一遍之后,可能发现只是其中某一个环节的问题导致,但整个排查耗费了大量的人力。
要避免上线后再出现这些问题,做事后补救,可以上线前,对埋点需求进行测试,测试规范包括:
有了这个规范,就可以帮助我们在上线前发现很多隐藏的数据问题,也间接节省了校验数据、返工的机率。
案例:新功能调用了算法提供的异常帐号鉴别的接口,当时开发只对帐号标识了label(0:正常1:异常)。而当评估整个接口效果的时候,发现需要统计算法接口打分分布情况。这时才发现,开发存储的数据没有打分字段。
出现这个情况,是因为前期数据没有和开发充分沟通的原因,因此,数据没有在需求阶段和开发对齐,最终导致数据关注的部分字段被开发忽略。
当启动评估的时候,发现数据维度不够,再推动研发落地对应字段后启动评估,整个评估的时间周期明显被拉长了。所以,业务数据沉淀应该在需求阶段,一早就进行规划和确认。
产品功能每次迭代优化,都期望能够对核心指标产生积极影响。这就要求数据和业务形成有机结合,相互促进。
很多产品都设立了自己的北极星指标,衡量产品一个战略周期的关键成果指标。但由于关键指标过于宏观,可能对于业务策略制定和执行的指导性不强。
因此,需要拆解出可以影响关键指标的因素,并将这些因素对应到具体的、可落地、可度量的行为上,保证执行计划没有脱离大方向。
常用来拆解关键指标的产品分析框架有OSM模型:
·Objective(业务目标): 业务要提升的目标是什么
·Strategy(实现策略): 为了提升目标需采取的策略是什么
·Measurement(评估指标): 数据语言描述策略如何达到提升目标
用OSM模型梳理产品的数据框架,不同产品数据体系差异主要体现在这里。如:游戏关注用户留存率;电商平台关注转化率。
接下来,利用OSM模型就可以形成二、三级指标框架。
OSM模型拆解后的指标框架,每个评估指标波动,都会对核心指标产生影响,因此,用运营数据定位到具体的功能,从而就能确定功能迭代优化后,对核心指标的具体影响效果了。
没有落地的分析结果都是无用的分析。
要支持运营决策,运营数据分析可以分别从人、货、场三个维度,给出C端和B端用户使用情况的数据描述。
在这些分析数据基础上,运营选择推广人群和货品,更有底气。
如图:
上线效果:功能上线后,使用拼接的广告,转化率远低于其它渠道。
分析原因:确定了4个可能的影响因素,针对这些原因,逐步进行定位分析。
确定原因:虽然原生页拼接可以提升用户的到达率,但是,拼接后用户在手机首屏看到的信息有限,无法接收到购物相关的信息。
验证猜测:接着,对用户在原生拼接页和非拼接页面中平均浏览时长及跳出位置的差异进行统计。发现,原生拼接页用户的平均页面停留时间及跳出位置都比非拼接页面要差。
优化设计:接下来当然是有针对性的敲定了优化方案并让方案落地了。
·角色:先定位好是谁(管理层/非管理层)关心这个数据,和想看什么数据
·时间:要拿当前的数据跟以往的时间做对比才有意义,然后预测下之后的数据
·范围:要确定数据范围是整个产品是数据,还是某一个模块的数据
·数据指标:确定产品/功能对应什么类型的数据指标
案例:
角色:确定是项目组成员要看,还是管理层要看(他们要看什么数据)
时间:功能上线前和上线后,上线后1个月(这个功能已经铺开被人熟知)的数据对比
模块:到货通知模块这个功能的数据;发送信息通知模型(邮件,短信,Push;这些对下通过那些通知,用户下单比较多)
数据指标:功能展示人数/次数,推送人数/次数,点击人数/次数,带来的订单量/金额,成本数据
拉新
通常以日、周、月为周期来统计以上指标的新增
活跃
可以针对整个APP的数据,也可以针对某个模块或某个页面的数据
留存
转化
指产品核心业务或者指定业务的转化数据
传播
指用户自发传播的数据