业务问题,如何用算法模型来解决
创始人
2024-05-08 09:24:55
0

原标题:业务问题,如何用算法模型来解决

策略产品当中涉及到大量算法模型的应用,比如召回,排序策略的设计,除了规则逻辑之外,算法模型是很多体量比较大的业务必备的。所以有必要跟大家聊一下实际工作中,我们是如何利用算法模型来解决业务问题的。

了解这些也有助于大家熟知算法工程师的工作流程大概是什么样的,降低沟通成本。

算法模型解决业务问题整体上可以分为如下几步,接下来我将分别讲一下每一步具体做点什么。

一、问题定义

不能为了上模型而使用模型。

所以首先,我们需要明确我们要解决的问题是什么

问题可以是具体的用户需求,比如:用户希望看到自己感兴趣的商品排到前面;也可以是目前业务面临的问题,比如:目前平台GMV渗透率高的品类曝光流量不足,这些其实都是问题。但是对于使用算法模型来解决的话,关键点在于如何把这个问题变成算法模型能理解,能解决的问题。

因此这里面必然涉及到一个如何从感性的问题描述转变为一个可以让模型去理解和预测的问题。

这就到了第二个环节:问题建模。

二、问题建模

问题建模的关键其实就两个:业务指标定义和模型预测目标定义。

业务指标定义即根据当前业务核心场景去定义核心业务指标,这块涉及到一些数据指标体系搭建。

模型预测目标主要用于根据该目标去设定模型的收敛目标,也就是模型要预测什么,输出什么值。典型的比如ctr预估,实际上就是输出了ctr这个值。

在问题建模阶段,还有两个重要的事情:样本选择和交叉验证。

简言之,我们从原始数据(日志)当中选择跟当前模型预估指标相关的样本,然后把这些样本分为训练集和测试集,然后通过交叉验证的方法对模型进行训练和评估。

这块不得不提一下关于模型评估的指标。指标的分类有很多,最常见的其实就是准确率、召回率、AUC曲线等,包括常见的NDCG是对排序模型的衡量关键指标。

三、特征工程

完成了问题定义和问题建模,接下来就进入了很关键的特征工程,从大量的数据当中进行特征抽取,核心目的是为了将特征输入给模型,让模型从数据中学习规律。

最为关键的是下面这张图:

第一点好理解,特征是为目标服务的,因此选择出来的特征必须能够表征目标;

第二点的意思是这个特征要在不同的物品之间有相当明显的差异。比如销量,有的高,有的低;评价,有的是100%好评,有的是80%好评,这些都可以称之为特征。

但是,如果你们业务的基本上99%的物品好评率都在100%,那基本上这个特征就不用加了。

有差异才有区别,有区别才能作为一个决策的因素。

什么情况下我们需要进行特征选择

训练数据包含许多冗余或无用的特征,移除这些特征并不会导致丢失信息。其中冗余是指一个本身很有用的特征与另外一个有用的特征强相关,或它包含的信息能从其它特征推演出来;

特征很多但样本相对较少,也就是某一个维度的信息数据量太少,覆盖度较低。

关于特征选择的4个步骤

以下是模型特征选择的4个步骤,策略产品经理以了解为主:

  1. 产生过程:产生特征或特征子集候选集合;
  2. 评价函数:衡量特征或特征子集的重要性或者好坏程度,即量化特征变量和目标变量之间的联系以及特征之间的相互联系。为了避免过拟合,可用交叉验证的方式来评估特征的好坏;
  3. 停止准则:为了减少计算复杂度,需设定一个阈值,当评价函数值达到阈值后搜索停止;
  4. 验证过程:在验证数据集上验证选出来的特征子集的有效性。
四、模型选择

当我们把上面的事情确定之后,接下来就到了关键的模型选型的环节。大家都知道,具体的算法模型其实有很多种,不同的模型有很大差别,使用场景不同,能够处理的特征也有很大差异。

比如对于协同过滤,常见的usercf和itemcf两种,还有一些基于两个基本的协同过滤模型的变种,比如i2i,频繁二项集等。那我们就需要思考什么样的场景比较适合usercf,什么样的场景比较适合itemcf。

另外,虽然这些模型都能做到根据用户行为数据去进行个性化推荐的目标,但是具体的落地过程其实是大相径庭的。当我们经过特征工程得到一份高质量的特征之后,还需要考虑哪个模型能够更准确地从数据中学习到相应规律,从众多模型中选择最佳的模型。

五、模型融合

正如上面说的,其实不同的模型有不同的应用场景,所以一般线上通常是含有多个模型,最大化利用每个模型的优势,进而达到目标收益最大化,而模型融合以后得结果其实就是线上最终展示出来的结果。

以上就是关于算法是如何解决业务问题的介绍,希望大家能够明白一点,不要为了用算法而用算法,也不要认为算法就一定能更好的解决问题,关键点不在这,而是基于业务的实际情况去决定到底使用算法还是规则,使用什么样的算法。

专栏作家

策略产品夏师傅,微信公众号:策略产品夏师傅,人人都是产品经理专栏作家,2019年年度作者。京东美团阿里快手高级策略产品专家,搜索业务负责人,《策略产品经理,数据赋能业务》作者。

本文原创发布于人人都是产品经理,未经许可,禁止转载。

题图来自 Unsplash,基于 CC0 协议。

相关内容

原创 ...
在阅读此文之前,请点击一下关注,方便您与我们讨论与分享,感谢您的支...
2025-12-06 14:00:14
做到电动牙刷行业老大,Us...
文 | 螳螂观察 星影 有“中国电动牙刷市场份额第一”之称的Us...
2025-12-05 17:01:28
长城VLA发布即上车,它为...
智驾领域的变化真的很快,感觉VLA才刚落地没多久,2025年下半年...
2025-12-05 16:01:13
【天眼问政】电费为何“悄悄...
近期,“天眼问政”栏目接到网友留言称,进入冬季后,家中的电费明显上...
2025-12-05 14:00:24
“我的网盘里,为何冒出别人...
法治日报记者 韩丹东 北京市朝阳区的王先生近日遇到一件令人费解的事...
2025-12-05 13:01:28
普京最新表态:如果美国有权...
【环球网报道 记者 张江平】综合俄新社等媒体4日报道,对于美国就购...
2025-12-05 10:01:44

热门资讯

孕妈检测出胎儿没有“胎心”究竟... 原标题:孕妈检测出胎儿没有“胎心”究竟为何?多半是这4种原因,预防下 昨天小樱...
耳聋耳背知识分享-----耳朵... 耳朵听力下降恢复方法首先要找出听力下降的病因,其次针对病因进行对症治疗。 耳朵听力下降,如何恢复听...
原创 如... 肺是人体非常重要的器官,空气中的很多灰尘和垃圾都会随空气进入肺部,所以肺部的清洁是非常重要的。我们可...
激光术后护理指南:如何科学恢复... 二氧化碳激光是一种常用于去除瘢痕、色素沉着、皱纹和其他皮肤问题的治疗方法。它通过发射高能量的二氧化碳...
如何有效应对低血压问题,提升生... 血压低,这个问题在生活中并不罕见。很多人可能会觉得,血压低就像是个小毛病,不用太在意。但实际上,低血...
孩子自控力差?家长如何引导培养 孩子自控力差?家长如何引导培养 在孩子的成长过程中,自控力是一项至关重要的能力。它关乎孩子的学业表现...
原创 婴... 在宝宝的成长过程中,奶粉作为重要的营养来源,其选择至关重要。那么,什么样的婴儿奶粉比较好呢?奶粉的营...
存款利息怎么算?湖南农商行存款... 导读湖南农商行存款利息怎么算?湖南农商行作为湖南最大的股份制银行,它是一家地方性、集约化、国际化、股...
宝宝不吸奶瓶的问题如何解决 原标题:宝宝不吸奶瓶的问题如何解决 宝宝出生后不久,有些妈妈因为要上班而不得不...
科普|秋季“花粉过敏”症状有哪... 不少人在秋冬来临之际,会出现反复打喷嚏、流鼻涕、鼻塞、眼睛发痒、呼吸不畅等症状,这有可能是遭遇了“花...