大数据|Spark技术在京东智能供应链预测的应用案例深度剖析(一)

标签:大数据存储电商技术人工智能

访客:23794  发表于:2017-03-31 09:30:08


1. 背景

前段时间京东公开了面向第二个十二年的战略规划,表示京东将全面走向技术化,大力发展人工智能和机器人自动化技术,将过去传统方式构筑的优势全面升级。京东Y事业部顺势成立,该事业部将以服务泛零售为核心,着重智能供应能力的打造,核心使命是利用人工智能技术来驱动零售革新。

1.1 京东的供应链

京东一直致力于通过互联网电商建立需求侧与供给侧的精准、高效匹配,供应链管理是零售联调中的核心能力,是零售平台能力的关键体现,也是供应商与京东紧密合作的纽带,更是未来京东智能化商业体布局中的核心环节。

目前京东在全国范围内的运营256个大型仓库,按功能可划分为RDC、FDC、大件中心仓、大件卫星仓、图书仓和城市仓等等。RDC(Regional Distribution Center)即区域分发中心,可理解为一级仓库,向供货商采购的商品会优先送往这里,一般设置在中心城市,覆盖范围大。FDC(Forward Distribution Center)即区域运转中心,可理解为二级仓库,覆盖一些中、小型城市及边远地区,通常会根据需求将商品从RDC调配过来。


大数据|Spark技术在京东智能供应链预测的应用案例深度剖析(一)

结合人工智能、大数据等技术,京东首先从供货商那里合理采购定量的商品到RDC,再根据实际需求调配到FDC,然后运往离客户最近的配送站,最后快递员将商品带到客户手中。这只是京东供应链体系中一个普通的场景,但正因为有这样的体系,使得京东对用户的响应速度大大提高,用户体验大大提升。

1.2 京东供应链优化

用户体验提升的同时也伴随着大量资金的投入和成本的提高,成本必须得到控制,整个体系才能发挥出最大的价值,于是对供应链的优化就显得至关重要了。

京东自打建立供应连体系的那一天起,就不断地进行改进和优化,并且努力深入到供应链的每一个环节。优化其实是一门运筹学问题,需考虑在各种决策目标之间如何平衡以达到最大收益,在这个过程中需要考虑很多问题,把这些考虑清楚,问题就容易解决了。举几个简单的例子:

商品补货:考虑在什么时间,给哪个RDC采购什么商品,采购量是多少?

商品调拨:考虑在什么时间,给哪个FDC调配什么商品,调配量是多少?

仓储运营:在大促来临之际,仓库和配送站要增配多少人手、多少辆货车?

虽然看上去这些问题都很容易回答,但仔细想想却又很难给出答案,原因就在于想要做到精确不是那么容易的事情,就拿补货来说,补的太多会增加库存成本,补的太少会增加缺货成本,只有合理的补货量才能做到成本最低。

1.3 预测技术在京东供应链的作用

借助机器学习、大数据等相关技术,京东在很多供应链优化问题上都已经实现系统化,由系统自动给出优化建议,并与生产系统相连接,实现全流程自动化。在这里有一项技术起着至关重要的低层支撑作用--预测技术。据粗略估算,1%的预测准确度的提升可以节约数倍的运营成本。

怎样理解预测在供应链优化中的作用呢?拿商品补货举例,一家公司为了保证库房不缺货,可能会频繁的从供货商那里补充大量商品,这样做虽然不会缺货,但可能会造成更多卖不出去的商品积压在仓库中,从而使商品的周转率降低,库存成本增加。反之,这家公司有可能为了追求零库存而补很少的商品,但这就可能出现严重的缺货问题,从而使现货率降低,严重影响用户体验,缺货成本增加。于是问题就来了,要补多少商品才合适,什么时间补货,这就需要权衡考虑了,最终目的是要使库存成本和缺货成本达到一个平衡。

考虑一下极端情况,等库存降到零时再去补货,这时供货商接到补货通知后将货物运往仓库。但是这么做有个问题,因为运送过程需要时间,这段时间库房就缺货了。那怎么办呢?就是利用预测技术。利用预测我们可以计算出未来商品在途的这段时间里销量大概是多少,然后我们让仓库保证这个量,低于这个量就给供货商下达补货通知,于是问题得以解决。总而言之,预测技术在这里发挥了重要的作用,成为关键的一个环。

2. 京东预测系统

2.1 预测系统介绍


大数据|Spark技术在京东智能供应链预测的应用案例深度剖析(一)

预测系统在整个供应链体系中处在最底层并且起到一个支撑的作用,支持上层的多个决策优化系统,而这些决策优化系统利用精准的预测数据结合运筹学技术得出最优的决策,并将结果提供给更上层的业务执行系统或是业务方直接使用。

目前,预测系统主要支持三大业务:销量预测、单量预测和GMV预测。其中销量预测主要支持商品补货、商品调拨;单量预测主要支持仓库、站点的运营管理;GMV预测主要支持销售部门计划的定制。

销量预测按照不同维度又可以分为RDC采购预测、FDC调拨预测、城市仓调拨预测、大建仓补货预测、全球购销量预测和图书促销预测等;单量预测又可分为库房单量预测、配送中心单量预测和配送站单量预测等(在这里“单量”并非指用户所下订单的量,而是将订单拆单后流转到仓库中的单量。例如一个用户的订单中包括3件物品,其中两个大件品和一个小件品,在京东的供应链环节中可能会将其中两个大件品组成一个单投放到大件仓中,而将那个小件单独一个单投放到小件仓中,单量指的是拆单后的量);GMV预测支持到商品粒度。

2.2 预测系统架构


大数据|Spark技术在京东智能供应链预测的应用案例深度剖析(一)

整体架构从上至下依次是:数据源输入层、基础数据加工层、核心业务层、数据输出层和下游系统。首先从外部数据源获取我们所需的业务数据,然后对基础数据进行加工清洗,再通过时间序列、机器学习等人工智能技术对数据进行处理分析,最后计算出预测结果并通过多种途径推送给下游系统使用。

数据源输入层:京东数据仓库中存储着我们需要的大部分业务数据,例如订单信息、商品信息、库存信息等等。而对于促销计划数据则大部分来自于采销人员通过Web系统录入的信息。除此之外还有一小部分数据通过文本形式直接上传到HDFS中。

基础数据加工层:在这一层主要通过Hive对基础数据进行一些加工清洗,去掉不需要的字段,过滤不需要的维度并清洗有问题的数据。

核心业务层:这层是系统的的核心部分,横向看又可分为三层:特征构建、预测算法和预测结果加工。纵向看是由多条业务线组成,彼此之间不发生任何交集。

特征构建:将之前清洗过的基础数据通过近一步的处理转化成标准格式的特征数据,提供给后续算法模型使用。

核心算法:利用时间序列分析、机器学习等人工智能技术进行销量、单量的预测,是预测系统中最为核心的部分。

预测结果加工:预测结果可能在格式和一些特殊性要求上不能满足下游系统,所以还需要根据实际情况对其进行加工处理,比如增加标准差、促销标识等额外信息。

预测结果输出层:将最终预测结果同步回京东数据仓库、MySql、HBase或制作成JSF接口供其他系统远程调用。

下游系统:包括下游任务流程、下游Web系统和其他系统。

未完待续......

来源;慧都学院

评论(0)

您可以在评论框内@您的好友一起参与讨论!

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");