业务问题,如何用算法模型来解决
创始人
2024-05-08 09:24:55
0

原标题:业务问题,如何用算法模型来解决

策略产品当中涉及到大量算法模型的应用,比如召回,排序策略的设计,除了规则逻辑之外,算法模型是很多体量比较大的业务必备的。所以有必要跟大家聊一下实际工作中,我们是如何利用算法模型来解决业务问题的。

了解这些也有助于大家熟知算法工程师的工作流程大概是什么样的,降低沟通成本。

算法模型解决业务问题整体上可以分为如下几步,接下来我将分别讲一下每一步具体做点什么。

一、问题定义

不能为了上模型而使用模型。

所以首先,我们需要明确我们要解决的问题是什么

问题可以是具体的用户需求,比如:用户希望看到自己感兴趣的商品排到前面;也可以是目前业务面临的问题,比如:目前平台GMV渗透率高的品类曝光流量不足,这些其实都是问题。但是对于使用算法模型来解决的话,关键点在于如何把这个问题变成算法模型能理解,能解决的问题。

因此这里面必然涉及到一个如何从感性的问题描述转变为一个可以让模型去理解和预测的问题。

这就到了第二个环节:问题建模。

二、问题建模

问题建模的关键其实就两个:业务指标定义和模型预测目标定义。

业务指标定义即根据当前业务核心场景去定义核心业务指标,这块涉及到一些数据指标体系搭建。

模型预测目标主要用于根据该目标去设定模型的收敛目标,也就是模型要预测什么,输出什么值。典型的比如ctr预估,实际上就是输出了ctr这个值。

在问题建模阶段,还有两个重要的事情:样本选择和交叉验证。

简言之,我们从原始数据(日志)当中选择跟当前模型预估指标相关的样本,然后把这些样本分为训练集和测试集,然后通过交叉验证的方法对模型进行训练和评估。

这块不得不提一下关于模型评估的指标。指标的分类有很多,最常见的其实就是准确率、召回率、AUC曲线等,包括常见的NDCG是对排序模型的衡量关键指标。

三、特征工程

完成了问题定义和问题建模,接下来就进入了很关键的特征工程,从大量的数据当中进行特征抽取,核心目的是为了将特征输入给模型,让模型从数据中学习规律。

最为关键的是下面这张图:

第一点好理解,特征是为目标服务的,因此选择出来的特征必须能够表征目标;

第二点的意思是这个特征要在不同的物品之间有相当明显的差异。比如销量,有的高,有的低;评价,有的是100%好评,有的是80%好评,这些都可以称之为特征。

但是,如果你们业务的基本上99%的物品好评率都在100%,那基本上这个特征就不用加了。

有差异才有区别,有区别才能作为一个决策的因素。

什么情况下我们需要进行特征选择

训练数据包含许多冗余或无用的特征,移除这些特征并不会导致丢失信息。其中冗余是指一个本身很有用的特征与另外一个有用的特征强相关,或它包含的信息能从其它特征推演出来;

特征很多但样本相对较少,也就是某一个维度的信息数据量太少,覆盖度较低。

关于特征选择的4个步骤

以下是模型特征选择的4个步骤,策略产品经理以了解为主:

  1. 产生过程:产生特征或特征子集候选集合;
  2. 评价函数:衡量特征或特征子集的重要性或者好坏程度,即量化特征变量和目标变量之间的联系以及特征之间的相互联系。为了避免过拟合,可用交叉验证的方式来评估特征的好坏;
  3. 停止准则:为了减少计算复杂度,需设定一个阈值,当评价函数值达到阈值后搜索停止;
  4. 验证过程:在验证数据集上验证选出来的特征子集的有效性。
四、模型选择

当我们把上面的事情确定之后,接下来就到了关键的模型选型的环节。大家都知道,具体的算法模型其实有很多种,不同的模型有很大差别,使用场景不同,能够处理的特征也有很大差异。

比如对于协同过滤,常见的usercf和itemcf两种,还有一些基于两个基本的协同过滤模型的变种,比如i2i,频繁二项集等。那我们就需要思考什么样的场景比较适合usercf,什么样的场景比较适合itemcf。

另外,虽然这些模型都能做到根据用户行为数据去进行个性化推荐的目标,但是具体的落地过程其实是大相径庭的。当我们经过特征工程得到一份高质量的特征之后,还需要考虑哪个模型能够更准确地从数据中学习到相应规律,从众多模型中选择最佳的模型。

五、模型融合

正如上面说的,其实不同的模型有不同的应用场景,所以一般线上通常是含有多个模型,最大化利用每个模型的优势,进而达到目标收益最大化,而模型融合以后得结果其实就是线上最终展示出来的结果。

以上就是关于算法是如何解决业务问题的介绍,希望大家能够明白一点,不要为了用算法而用算法,也不要认为算法就一定能更好的解决问题,关键点不在这,而是基于业务的实际情况去决定到底使用算法还是规则,使用什么样的算法。

专栏作家

策略产品夏师傅,微信公众号:策略产品夏师傅,人人都是产品经理专栏作家,2019年年度作者。京东美团阿里快手高级策略产品专家,搜索业务负责人,《策略产品经理,数据赋能业务》作者。

本文原创发布于人人都是产品经理,未经许可,禁止转载。

题图来自 Unsplash,基于 CC0 协议。

相关内容

阑尾炎前期有什么特征表现 ...
阑尾炎前期常见症状包括腹部不适、轻微发热、恶心、呕吐、食欲不振等。...
2024-11-05 18:22:07
临死前有什么预兆 临死前有...
临死前的预兆包括身体疲倦、呼吸困难、心跳变弱、血压下降等。在临死前...
2024-11-05 06:11:42
小叶性肺炎的主要病变特征 ...
小叶性肺炎是一种以肺泡和小叶为基本病变单位的肺炎,其症状主要有以下...
2024-11-04 02:11:45
12岁男孩发育的最早特征有...
12岁男孩发育的最早特征包括生殖器官开始发育和身体开始迅速增长。男...
2024-11-03 14:51:34
甲状腺4a有什么症状 甲状...
甲状腺4a症状包括甲状腺肿大、呼吸困难、声音嘶哑、吞咽困难等。甲状...
2024-11-02 01:02:12
智力残疾的表现特征有哪些
智力残疾的表现特征包括智力低下、学习困难、语言发育缓慢、社交能力差...
2024-10-31 14:51:02

热门资讯

存款利息怎么算?湖南农商行存款... 导读湖南农商行存款利息怎么算?湖南农商行作为湖南最大的股份制银行,它是一家地方性、集约化、国际化、股...
新农保一年缴费180元60岁后... 导读新农保一年缴费180元,60岁后能拿多少钱呢?我们这一个月是208块。农村大多是买这种农保吧,刚...
金三角李国辉,率领三千残部打败... 原标题:金三角李国辉,率领三千残部打败泰国政府军,到台湾后结局如何? 解放战争...
上海发布:紧挨着城区的六个村为... 原标题:上海发布:紧挨着城区的六个村为何一定要保留?来看闵行的城乡融合发展之路 ...
使命:林荫不做市公安局局长,为... 原标题:使命:林荫不做市公安局局长,为何副局长牛明也不可能接任 林荫从白山地区...
茫崖市有多孤独?方圆百里荒无人... 原标题:茫崖市有多孤独?方圆百里荒无人烟,我国为何要建在戈壁之中? 这是中国最...
邢台农商银行存款利率表:一年期... 导读邢台农商银行现在的利率表:一年期2.25二年期2.85三年期3.45。农商银行原来的利息比这高好...
杨虎城去世后,他的子女结局如何... 原标题:杨虎城去世后,他的子女结局如何? 1936年12月12日,著名爱国将领...
孙中山与黄兴为何会分道扬镳?两... 原标题:孙中山与黄兴为何会分道扬镳?两个事件促使他们关系破裂 现在说到辛亥革命...
哈以战争为何爆发?美国掌握军权... 原标题:哈以战争为何爆发?美国掌握军权的盎撒集团要收回犹太集团所控制的经济权利 ...