关联规则算法如何实际应用？你需知道这3大关键词、4大步骤
海致BDP | 2017-10-26 15:22
【数据猿导读】 关联规则是反映一个事物与其他事物之间的相互依存性和关联性，常用于实体商店或在线电商的推荐系统
来源：数据猿 作者：海致BDP
关联规则是反映一个事物与其他事物之间的相互依存性和关联性，常用于实体商店或在线电商的推荐系统：通过对顾客的购买记录数据库进行关联规则挖掘，最终目的是发现顾客群体的购买习惯的内在共性，例如购买产品A的同时也连带购买产品B的概率，根据挖掘结果，调整货架的布局陈列、设计促销组合方案，实现销量的提升，最经典的应用案例莫过于<啤酒和尿布>。
关联规则分析中的关键概念包括：支持度(Support)、置信度(Confidence)与提升度(Lift)。首先，我们简单温故下这3个关键指标：
支持度 (Support)
支持度是两件商品（A∩B）在总销售笔数(N)中出现的概率，即A与B同时被购买的概率。
公式：
例子说明：
比如某超市2016年有100w笔销售，顾客购买可乐又购买薯片有20w笔，顾客购买可乐又购买面包有10w笔，那可乐和薯片的关联规则的支持度是20%，可乐和面包的支持度是10%。
置信度 (Confidence)
置信度是购买A后再购买B的条件概率。简单来说就是交集部分C在A中比例，如果比例大说明购买A的客户很大期望会购买B商品。
公式：
例子说明：
某超市2016年可乐购买次数40w笔，购买可乐又购买了薯片是30w笔，顾客购买可乐又购买面包有10w笔，则购买可乐又会购买薯片的置信度是75%，购买可乐又购买面包的置信度是25%，这说明买可乐也会买薯片的关联性比面包强，营销上可以做一些组合策略销售。
提升度 (Lift)
提升度表示先购买A对购买B的概率的提升作用，用来判断规则是否有实际价值，即使用规则后商品在购物车中出现的次数是否高于商品单独出现在购物车中的频率。如果大于1说明规则有效，小于1则无效。
公式：
例子说明：
可乐和薯片的关联规则的支持度是20%，购买可乐的支持度是3%，购买薯片的支持度是5%，则提升度是1.33>1, A-B规则对于商品B有提升效果。
理论很简单，真正实践起来却会遇到种种困难，印证了那句"数据分析师的50%～80%的时间都花在了处理数据上”，例如一般POS明细是以下图表形式展现：
要计算支持度(Support)、置信度(Confidence)与提升度(Lift)，首先需要知道Freq(A∩B)、Freq(A)、Freq(B)和总笔数数值，那么需要对商品进行排列组合。
所以，我们希望转换成下表形式，如销售ID=000001， 4种商品的两两组合（种）：
若一个收银小票（销售ID）有30种商品，则组合数达到:
而可视化层级上还需要展现集团下每个分公司、每个城市、每个门店、月度、季度或者年度时间的关联规则分析，如果用传统的工具来实现上述分析无异于大海捞针。
BDP商业数据平台以高效的数据处理和优秀的可视化数据分析著称。在BDP中，不仅可以便捷地实现多维数据分析，还可以通过灵活强大的功能组合来进行更深层面的数据分析探索。
从一个分析师的角度来看，我认为BDP有以下三个最大的亮点：
1. 易操作性——可以很好的把想法转化为实践应用。
2. 优秀的处理能力——轻松处理亿级数据，尤为突出的是合表速度秒级响应，这得益于BDP强大的大数据架构以及云端计算能力。
3. 灵活及优秀的可视化——通过拖拽的方式即可实现可视化，同时也可自定义报表。
下面我们就来看看在BDP中如何实现Apriori算法，实现关联规则分析：
商品两两组合的初步想法是通过量化的思想对商品进行编码，比方说可按照增序（从1开始），算出每笔销售单最大值，求出两者差值得到一组数组，通过数组行转列形式实现2种商品两两组合。
图：销售单2种商品两两组合逻辑图
BDP实现过程：
为了实现上述的组合算法，也为了方便感兴趣的同学进行实践，我们先上传10条数据到BDP平台，共有3票购物单，最大商品数分别是5、3以及2。
（如果您不是企业级用户，可以直接免费用BDP个人版，注册后即可使用。）
图：EXCEL 上传表
操作①：
【工作表】-【创建合表】-【SQL创建】
图：商品量化
上图转换成日期的形式，主要目的是为下一步的数组转列做准备，为配合explode（）函数使用。其中需要说明的是上图[日期]字段是自定义日期，可以更改成任意日期，没有实际日期意义。
图：商品组合数效果
上图主要使用的关键函数是FILL_DATES（[日期1],[日期2]），Explode（）。组合效果初显现，只是缺另一个商品名，然后把[下一日期]字段通过LEFT JOIN 关联出商品B的名称。
操作②：
【工作表】-【创建合表】-【多表关联】 用于创建表关联 包括（LEFT/INNER/ FULL JOIN）
图：商品组合数实现
从上图可以看到A商品和B商品两两组合逻辑已完成，在当前表基础上我们已经可以去做连带分析内容。
在这里，求Freq(A)和Freq(B)和总笔数数值就不祥述了，思想大致是求出所有销售商品的A 和B商品的频次，通过合表关联，整合到一张大表。
操作③：
【工作表】-【创建合表】-【追加合并】合并订单总数 ，A商品订单数，B商品订单数和A∩B商品连带笔数
图：追加合并逻辑实现
追加合并可以把相同字段商品合并在一起，方便计算三个指标（支持度、置信度、提升度）有利于可视化展现。
操作④：
可视化展现：【BDP】-【仪表盘】
图：仪表盘全局展示
注：为了更好体现可视化效果，这部分的可视化展示成果并非使用上述的测试数据或某个企业数据。
制作三个图表进行购物篮分析：
图： TOP 20商品连带次数
上图反映季度连带最高频次商品，高联带商品意味着对客户吸引力大商品粘性强，同时也可以查看不同分公司的TOP20连带情况。根据结果我们可以合理设计促销策略，例如买2送1等。
图：商品组合指标
置信度高说明商品连带紧密，说明客户连带意愿强，同时关注支持度，支持度高说明是需求量大，如果支持度低，置信度高其实对市场作用是有限小的。
图：购物来分析详情
通过单价，支持度，置信度，提升度综合指标来看待商品组合，发现高价值关联商品，有助于提升客单价，同时也需要考虑提升度，提升度小于1，提升效果有限，可以把精力花在提升度大于1的商品组合。
同样地，我们是否可以实现三种商品的组合呢？答案是显然的，只要我们深入理解以上过程，三种商品关联也是可以在BDP实现的。
除了购物篮分析这个典型应用，关联规则分析还在金融行业、搜索引擎、智能推荐等领域大有所为，如银行客户交叉销售分析、搜索词推荐或者识别异常、基于兴趣的实时新闻推荐等。
BDP有强大稳定的数据计算能力、多维度的数据分析、直观的可视化展现能够帮助企业实现关联规则分析。通过不同维度的分析，从海量数据中捕捉到关联关系，进行有的放矢的决策调整，进一步提升销售能力、提高产品收益。
最后附上关联规则分析的体验地址：https://me.bdp.cn/home.html
来源：数据猿
我要评论
活动推荐more >
- 2018 上海国际大数据产业高2018-12-03
- 2018上海国际计算机网络及信2018-12-03
- 中国国际信息通信展览会将于2018-09-26
- 第五届FEA消费金融国际峰会62018-06-21
- 第五届FEA消费金融国际峰会2018-06-21
- “无界区块链技术峰会2018”2018-06-14
