(1)从数据信息、基本服务平台、统计分析方法、应用领域4个层面,义情景化方法解读数据信息从获得、预备处理、发掘、模型、依据解析与呈现到系统软件运用的步骤,及其深度学习的关键技术性
(2)三位金融行业的大数据专家近10年制造行业实战演练经验小结,包括很多行业解决方案和实例,并公布源码
这书从公司实践活动来看,內容遮盖数据信息、服务平台、解析和运用等公司内数据信息土地流转的关键阶段。合理布局上,依照数据信息与服务平台篇、解析篇和运用篇各自编写。数据信息与服务平台篇(第1~3章),立足于寻找数据信息、融合数据信息、应用数据信息三个视角,详细介绍数据信息在公司内的遍布和解决逻辑性,便于迅速为解析提前准备素材图片。解析篇(第4~11章),选择公司具体实例,详细介绍常见的大数据挖掘与机器学习算法,以业务流程情景为导向性展现数据统计分析全过程和方法。运用篇(第12~15章),选择当今主流产品的四个应用领域,详细介绍怎样保持数据信息驱动器,让数据信息“全自动”土地流转于重要环节。
目录
前言第一部分 数据与平台篇第1章 数据与数据平台31.1 数据的基本形态41.1.1 数据环境与数据形态41.1.2 生产数据51.1.3 原始数据51.1.4 分析数据61.2 数据平台71.2.1 数据仓库平台91.2.2 大数据平台131.2.3 MPP数据库221.2.4 NoSQL数据库231.3 应用系统241.4 本章小结25第2章 数据体系262.1 数据闭环272.2 数据缓冲区282.2.1 系统解耦292.2.2 批量导出312.2.3 FTP传输402.2.4 批量导入422.3 ETL492.3.1 ETL工具502.3.2 ETL作业522.4 作业调度562.5 监控和预警562.5.1 使用监控工具进行监控572.5.2 使用BI工具进行监控572.6 本章小结57第3章 实战:打造数据闭环593.1 数据缓冲区的基本规则603.1.1 文件存储规则613.1.2 文件命名规则613.1.3 文件清理规则623.2 自动加载的流程623.2.1 扫描文件633.2.2 下载文件643.2.3 解压文件653.2.4 加载文件653.3 自动加载程序的数据库设计663.3.1 数据文件信息表673.3.2 数据文件状态表683.3.3 加载配置信息表693.3.4 数据缓冲区信息表703.3.5 目标服务器表703.4 自动加载程序的多线程实现713.4.1 ScanFiles723.4.2 DownLoadAndUnZip753.4.3 LoadToHive773.4.4 LoadToOracle783.4.5 自动加载程序的部署架构793.4.6 程序的维护和优化803.5 本章小结80第二部分 分 析 篇第4章 数据预处理834.1 数据表的预处理844.2 变量的预处理854.2.1 缺失值的处理854.2.2 极值的处理904.3 变量的设计914.3.1 暴力衍生914.3.2 交叉升维924.4 变量筛选954.4.1 筛选显著变量954.4.2 剔除共线性964.5 本章小结100第5章 聚类,简单易用的客户细分方法1015.1 从客户细分说起1025.1.1 为什么要做客户细分1025.1.2 怎么做客户细分1035.1.3 聚类分析,无监督的客户细分方法1075.2 谱系聚类1075.2.1 基本步骤1075.2.2 案例:公司客户差异化服务1105.2.3 谱系聚类方法的题外话1155.3 K-means算法1165.3.1 基本步骤1165.3.2 案例:电商卖家细分1175.3.3 K-means算法的题外话1215.4 本章小结121第6章 关联规则挖掘,发现产品加载和交叉销售机会1226.1 销售的真谛:让客户买得更多1236.1.1 案例:电商的生意经1236.1.2 案例:富国银行的“商店”经营模式1246.1.3 案例总结1256.2 交叉销售1266.2.1 为什么要做交叉销售1266.2.2 怎么做交叉销售1266.3 关联规则挖掘,发现交叉销售机会1286.3.1 Apriori算法1296.3.2 Apriori算法的主要指标1296.3.3 Apriori算法的基本步骤1316.4 案例:信用卡产品交叉销售1316.4.1 准备数据1326.4.2 SAS实现1326.4.3 结果分析1336.4.4 序列关联分析1366.4.5 结果应用1376.5 本章小结138第7章 社交网络分析,从“关系的角度分析问题1397.1 先看几张美轮美奂的图片1407.2 社交网络分析方法1427.2.1 定义1427.2.2 应用场景1427.2.3 网络识别算法1437.3 案例:电商通过订单数据识别供应链1447.3.1 供应链及供应链金融1447.3.2 识别核心企业及其上下游关系1447.3.3 分析结果的业务应用1497.4 案例:P2P投资风险防范1517.4.1 案例背景1517.4.2 防范方法1527.5 本章小结153第8章 线性回归,预测客户价值1558.1 数值预测1568.2 回归与拟合1578.2.1 回归就是拟合1578.2.2 在Excel中添加趋势线预测1588.3 案例:信用卡客户价值预测1598.3.1 确定预测目标1598.3.2 准备建模数据1618.3.3 模型拟合1638.3.4 模型评估1658.4 基于客户价值分层的业务策略1678.5 本章小结167第9章 Logistic回归,精准营销的主要支撑算法1699.1 大数据时代的精准营销1709.1.1 精准营销1709.1.2 基于大数据的精准营销模式1719.1.3 如何做到精准1729.2 Logistic回归算法介绍1739.2.1 算法原理1739.2.2 关键步骤1749.3 案例:信用卡消费信贷产品的精准营销1769.3.1 案例背景1769.3.2 数据准备1769.3.3 数据预处理1809.3.4 建模1829.3.5 模型评估1859.4 预测模型的应用与评估1899.5 本章小结189第10章 决策树类算法,反欺诈模型“专家”19110.1 决策树,重要的分类器19110.2 决策树的关键思想19210.2.1 理财客户画像案例背景19210.2.2 关键思想一:递归划分19410.2.3 关键思想二:剪枝19710.3 案例:电商盗卡交易风险识别19810.3.1 案例背景19810.3.2 以SAS实现19910.3.3 以Clementine实现20110.3.4 以R实现20410.4 随机森林20810.5 本章小结209第11章 数据可视化,是分析更是设计21011.1 数据演示之道21011.1.1 好“色”之图21111.1.2 版式有形21211.1.3 数据发声21411.2 个性化地图21511.2.1 案例背景:存款增长率指标展示21511.2.2 获取地理位置的经纬度数据21611.2.3 定制地图背景和图标21711.2.4 生成地图22011.3 文本分析22211.3.1 案例:电商的客户评价分析22211.3.2 分词22311.3.3 词云制作22411.3.4 情感分析22511.4 本章小结227第三部分 应 用 篇第12章 标签系统23112.1 认识标签系统23112.2 标签系统的设计23312.2.1 标签系统的层次结构23312.2.2 标签系统的更新规则23312.2.3 机器学习模型转化为标签23512.3 标签系统的实现23612.3.1 标签映射表23712.3.2 标签系统的前端实现23812.3.3 标签系统的数据后端实现23812.3.4 标签系统的在线接口实现24212.4 本章小结242第13章 数据自助营销平台24413.1 数据自助营销平台的价值所在24513.1.1 自动化营销,提升工作效率24513.1.2 降低营销成本,提升用户体验24713.1.3 个性化营销,提升响应率24813.1.4 统一管理,便于效果追踪24913.2 数据自助营销平台的实现原则24913.2.1 数据营销活动的节点24913.2.2 数据自助营销平台的基础:标签系统25113.2.3 数据自助营销平台的批量任务25213.2.4 实时数据营销25413.3 数据自助营销平台的场景实例25413.3.1 客户生命周期管理25413.3.2 用卡激励计划25713.4 本章小结260第14章 基于Mahout的个性化推荐系统26114.1 Mahout的推荐引擎26214.1.1 Mahout的安装配置26214.1.2 Mahout的使用方式26314.1.3 协同过滤算法26414.1.4 Mahout的推荐引擎26514.2 规模与效率26814.2.1 Mahout推荐算法的适用范围26814.2.2 通过分布式解决规模和效率的问题27014.3 实现一个推荐系统27514.3.1 系统框架27514.3.2 推荐系统的刷新27614.3.3 部署一个可用的推荐系统27614.4 本章小结280第15章 图计算与社会网络28115.1 社会网络和属性图28215.2 Spark GraphX与Neo4j28315.2.1 Scala编程语言28415.2.2 Cypher查询语言28515.3 使用Spark GraphX和Neo4j处理社会网络28615.3.1 背景说明28615.3.2 数据准备28615.3.3 Spark GraphX处理原始网络28715.3.4 Neo4j交互式查询分析29115.3.5 更多的应用场景29515.4 本章小结296