一、目标分析 1.1 目标系统 本次要采集的任务是LES（物流执行系统）系统相关业务数据。 我们可以理解LES是SRM功能中的一部分。 在LES中，《供货计划》、《SAP未排计划》是本次要采集的数据。 北汽福田是国内销量前10的商用车制造商，使用LES系统对上游供应商进行管理，为其配套的零部件供应商有几百家！ 1.2 业务痛点 对于使用LES的供应商来说，他们频繁登录LES系统多有不便，LES数据无法与自己公司信息系统对接，导致业务沟通不畅。 1.3 业务诉求 对于供应商来说，希望采集LES数据，存入数据库，建立业务模型，实现客户计划、生产计划、库存占用之间的数据联动，从而提高效率，降低成本。 1.4 采集方法 大家问：采用什么方式获取数据最合适呢？ 工程师答：该网站数据可以通过模拟人工（或数据接口）方式获取数据。 方案定制：选择接口获取数据，缩短数据采集时间。 二、程序功能 爬虫定制程序5大功能 网络爬虫，数据采集程序，不仅仅是采集数据，还要实现数据清洗、数据加工，数据对比分析，数据存储。数据采集程序可以按需运行，也可以按指定频率运行。新增业务数据可以通过企业*进行提醒。 三、项目效果 3.1 采集数据同步到数据库 程序按预设频率定时运行，原始数据采集后，经过数据清洗，差异对比分析，最后将数据增量写入数据库中。 采集数据存入数据库 3.2 业务提醒 业务数据有更新时发送企业*提醒 3.3 业务模型建立 采集数据不是目的，如何最大化利用数据，发挥数据价值才是最终目的。本案例利用采集数据，建立库存当量（最低库存、最高库存），结合ERP存货现存量、采购在途量、生产订单在制量等数据，计算该存货在该时点的最小/最大可入库量。利用报表工具，将计划数据共享给生产、采购、营销等部门，指导生产、采购、营销协同工作，因为库存当量动态调整，所以库存占用趋于合理化，相比以前存货占用下降了50%，交付效率提高了20%。

一、目标分析 1.1 目标系统 本次要采集的任务是SCM的SRM系统相关业务数据。 一汽是国内销量前10的商用车制造商，使用SCM系统对上游供应商进行管理，为其配套的零部件供应商有几百家！SCM主要功能如下图，其中大纲计划、送签单是业务计划有关的数据，使用频率最高。 1.2 业务痛点 对于使用SRM的供应商来说，他们频繁登录SRM系统多有不便，SRM数据无法与自己公司信息系统对接，导致业务沟通不畅。 1.3 业务诉求 对于供应商来说，希望采集SAP-SRM数据，存入数据库，建立业务模型，实现客户计划、生产计划、库存占用之间的数据联动，从而提高效率，降低成本。 1.4 采集方法 大家问：采用什么方式获取数据最合适呢？ 工程师答：该网站数据可以通过模拟人工（或数据接口）方式获取数据。 方案定制：选择接口获取数据，缩短数据采集时间。 二、程序功能 网络爬虫，数据采集程序，不仅仅是采集数据，还要实现数据清洗、数据加工，数据对比分析，数据存储。数据采集程序可以按需运行，也可以按指定频率运行。新增业务数据可以通过企业*进行提醒。 三、项目效果 3.1 项目效果 采集数据同步到数据库。程序按预设频率定时运行，原始数据采集后，经过数据清洗，差异对比分析，最后将数据增量写入数据库中。 3.2 业务提醒 业务数据有更新时发送企业*提醒。 3.3 业务模型建立 采集数据不是目的，如何最大化利用数据，发挥数据价值才是最终目的。本案例利用采集数据，建立库存当量（最低库存、最高库存），结合ERP存货现存量、采购在途量、生产订单在制量等数据，计算该存货在该时点的最小/最大可入库量。利用报表工具，将计划数据共享给生产、采购、营销等部门，指导生产、采购、营销协同工作，因为库存当量动态调整，所以库存占用趋于合理化，相比以前存货占用下降了50%，交付效率提高了20%。

第一部分 项目背景 本文将分享Python爬虫采集其他异构系统数据存入数据库，利用帆软报表+业务建模实现上下游数据集成打通。 1.1 需要采集的数据 某公司是国内销量前10的商用车制造商，使用SAP进行日常业务管理、使用SAP的SRM系统对上游供应商进行管理，为其配套的零部件供应商有几百家！SRM主要功能如下图，其中需求预测、采购执行监控、寄售库存监控是业务计划有关的数据，使用频率最高。 1.2 业务痛点 对于使用SRM的供应商来说，他们频繁登录SRM系统多有不便，SRM数据无法与自己公司信息系统对接，导致业务沟通不畅。 1.3 业务诉求 对于供应商来说，希望采集SAP-SRM数据，存入数据库，建立业务模型，实现客户计划、生产计划、库存占用之间的数据联动，从而提高效率，降低成本。 第二部分 Python爬虫定制（数据采集） 2.1 爬虫定制+数据采集 数据采集集成是一门专业的技术，不同的网站采集方法不一样，不同的业务需求数据加工处理方法也不一样。网络爬虫，数据采集程序，不仅仅是采集数据，还要实现数据清洗、数据加工，数据对比分析，数据存储。数据采集程序可以按需运行，也可以按指定频率运行。新增业务数据可以通过企业*进行提醒。所以数据采集环节，存在很大的定制成分。 2.2 待采集数据(SAP系统的SRM模块) SAP系统中【需求预测】、【寄售库存监控】是需要采集的数据 2.3 已采集数据（存入数据库） 数据采集工具运行后，将异构业务系统数据同步到本地数据库中。我们只使用数据状态为1的记录（为0的数据代表已经过期或者作废）。 三、使用帆软报表展示数据、建立业务模型 3.1 采集数据展示（需求预测） 将异构系统采集到数据库中，通过帆软报表展示出来，这个没啥难度，直接上图。 3.2 采集数据展示（库存明细） 将异构系统采集到数据库中，通过帆软报表展示出来，将数据分成2级展示（按需求工厂显示库存数据概要、点击明细可查看数据明细）。 3.3 业务模型建立 3.3.1 业务规则 采集并合理利用数据，最大限度发挥数据价值才是我们本案例的宗旨。本案例的业务模型就是业务规则。 3.3.2 数据编程 由于数据之间取数、计算关系复杂，本案例客户协同计划看板数据，大部分通过数据库存储过程编程实现。本案例只展示核心存储过程代码，其他存储过程在程序运行中自动调用，其他存储过程代码本案例不展示。 3.3.3 数据计算结果 通过数据库编程，调用程序计算，最终生成需要的数据。 3.3.4 数据使用 制作帆软报表，调用存储过程、使用数据库表 3.3.5 数据展示 将制作完毕的决策报表挂接到报表平台，分配权限，即可完成报表发布。 四、案例视频介绍 想了解整个过程，可以参考：http://pawho.cn/