这是学习笔记的第 1842篇文章
一个系统里面存在几十张表是很正常的事情，如果表数据量巨大，而且随着业务场景的结合，越来越复杂的时候，就会发现原本对于模型的处理就是一种捏橡皮泥的感觉，你得自己手工捏出来它预期的效果，每改一处就需要重新塑造，伤筋动骨。从可持续的迭代改进来说，是到了要重构的阶段了，而如果忍住了坚持下去，会发现规避的问题比带来的问题更多。
对于模型的管理，一种经典的设计思想就是ORM,当然行业内也有很多成熟的方案，在这方面我暂且以基于Django为基础来简单说下，其实和Django的技术细节无关。
首先我们创建了多个model,从数据库层面就会映射出多张表，有的是一对多，有的是多对多。从设计的角度来说，我对model的使用是一种单一的需求，即不希望存在外键，不追求极度设计，允许部分冗余。
当然这对model的管理本身没有变化，基于model的处理有以下的集中设计思路，一种是原生的API方式，比如Django API等。还有一类是作为RESTful API使用比较轻量的方式，基于序列化方案的设计，这类方案相对来说比较精巧，代码量小，没有Django API的功能全面，主要是做模型映射，通常会和API结合使用，不适合一些定制化数据格式的场景。还有一类是raw sql,这是API和序列化之外的下下策。如果确认难以通过上述两种方案满足，使用原生SQL也是支持的，不过不推荐首选。
最硬伤的，如果添加字段，修改字段名等，raw sql方式就很难以扩展。
当然这些都是底层偏技术的事情，如果再上升一层就会发现，问题的复杂度远比这些要高很多。 为此我画了一个图。
比如model1的数据变化会联动引起model2的数据变化，就跟一层麦浪一样，其实这种场景是很多的。所以如果要把这些关联联动起来，着实是一件很繁琐的事情。 
而对于数据的管理不只有正向的联动，如果反向的联动，也是有的，比如刚刚是model1的变更联动model2的变更，反之model2的变更也会联动model1的变更，随着业务场景的组合，会发现这个部分会越来越复杂，所以我们要抽象出一个DAO层来统一处理业务层的数据联动。 
而且对于业务层的数据联动，需要通过可配置化的方式实现联动，这样的形式算是一种扩展而且易定制的方案。
                
  

开发流程

1. 前期准备

这个阶段主要是确定项目目标，要达到的效果，可以使用的资源，打算运用的方法。
确立目标y值：消费贷信用评分模型一般以历史M3+为坏客户定义标准，作为正类，用1表示，历史未逾期的好客户为负类，用0表示，其他有逾期但未进入M3+的客户作为灰客户，用0.5表示，统计分布，但不作为建模样本。
时间段选取：随着时间的推移，客户群体以及相关信息会发生变化，太久远的数据很难代表最新客户群体，而最近的数据又没有足够的还款和逾期表现，一般折中选择数据采集当日往前推2至8个月内的注册单数据。
特征信息搜集：一般按来源对特征分为2大类，内部数据和外部数据，内部数据有客户家庭工作信息，收入负债信息，历史借贷信息，网页浏览记录，外部数据如多平台借贷，运营商数据，黑名单，征信。

2.数据采集

前期准备做好后，就该和IT部门负责数据管理的同事对接数据采集的事宜。大部分数据都是可以从数据库直接获取，部分外部数据可能要通过api接口或者单独的数据库抽取，有些特殊格式的(如json)还需要转换。
字段及取值的详细逻辑含义，需与其他业务人员或三方数据公司沟通交流，这对后续挖掘建模，正确高效使用数据很有必要。
有2点需要特别注意：抽取建模的数据一定要符合特定的业务场景，例如模型将应用在贷前审核阶段，那么数据一定是客户进件时（当日）的，对于累积递增存储的数据则需要回溯；有些特征在模型应用场景无法提供或获取，这种特征就不能应用于挖掘建模。

3.EDA和预处理

数据清洗：由于数据收集或存储差异的关系，数据往往不是很干净的。在挖掘建模之前，需要先对数据有个大致了解，对不统一不规范的取值需要转换和清洗。例如有些特征包含码值、数值、中文。则需要统一转换为一种形式。
衍生变量：部分特征并未直接存储在数据库中（例如历史借贷笔数、历史还款期数），在挖掘建模之前就需要使用其他数据做衍生和加工，创建成可以用于挖掘建模的形式。
探索性数据分析：通过图表查看特征的分布，与目标标签的关系，达到深入理解数据的目的，并为后续挖掘做支撑。
预处理：删除唯一取值和单个取值占比极大的特征，处理相关性较强的特征，缺失值填充，极值异常值处理等，这一部分会和EDA穿插进行。

4.特征工程

决定最终模型效果的因素，除了数据本身质量和算法及参数外，特征工程也是极重要的因素。
广义特征工程包含的步骤很多，这里主要指衍生变量。
对模型效果有显著提升的特征往往都具有真实的业务含义和可解释性。将原有特征按数据来源和背景区分（如收入和负债），通过2个或3个有业务关系的特征创建出新的特征，如收入/负债得出负债比，另外还可以使用特征交叉等方法。尽可能多的衍生，但新衍生的特征最好可解释。后续会通过特征选择剔除无效的。

5.分箱和WOE编码

woe编码为信用评分模型最常用的编码方式。在做woe编码前需对连续特征离散化和类别特征合并。
离散化的方法首选基于信息熵的最优分箱发，R有现成的包可以使用，可批量操作，速度和效率较高，Python暂无相关包，不过自己开发了相关功能，运行略慢，作为备用。另外还可以采用手动分箱（即通过分布图主观合并或选取划分点），等深等宽分箱用的较少。
计算分箱后特征的woe和iv值。IV值越高对目标Y的区分越好。IV值会用于后续特征选择。woe值会直接替换分箱值作为模型输入，相当于对数据做了归一化。
根据IV值的变换可能会调整分箱策略，为了避免过拟合和提高模型稳健性，会将箱数限定在4-6左右。

6.特征选择

通过特征相关性，总IV值（低于0.02预测能力较低），并结合业务含义。最终通过wrapper方法对特征预测能力做迭代评价，剔除对模型效果没有提升的特征。

7.效果初探

到这里可以用模型试试效果了，如果效果与理想差距较大，就要回到之前做特征工程的地方，思考新增一些衍生特征。

8.算法选择及超参数调优

通常用到的算法包括逻辑回归，随机森林，支持向量机，GBDT，xgboos和lightgbm。
超参数调优法会用到随机网格搜索，局部网格搜索和贝叶斯优化。

9.模型融合

通过模型融合方法（这里用到stacking），汇集各模型优势，提升模型泛化能力。

10.结果验证

在验证集上验证最终模型效果。
阈值选取：一般分为单阈值和双阈值两种情况，针对不同省份或产品会分开设置。
单阈值：大于阈值则拒件，小于阈值则走后续审核流程流程
双阈值：小于通过阈值则直接放款，审核流程结束，大于拒绝阈值则直接拒绝，审核流程结束，介于中间的则走后续审核流程
阈值选取会将坏账和通过率相结合，保证利润最大化。一般会与财务、业务部分等协商拟定。

11.上线部署

开发上线代码，将模型部署到线上生成环境。
线上代码包括api调用，json解析，字段清洗，取值转换、分箱，woe替换，模型预测，模型分数，模型结果几个部分。
上线代码尽量保证简洁高效，潜在bug少，运行效率高。
正式部署到生产环境前会经过本地测试，测试环境测试，批量测试，同步试运行，最终代码无报错且模型结果无误后，替换旧模型结果。

12.后续监控

对模型变量、结果、运行状态进行持续监控。
重点监测特征取值分布、PSI值和模型分数结果。
出现过生产环境api数据与建模数据分布差距大的情况，经调查两者为逻辑不一致导致的。生成环境的数据要和建模数据逻辑一样，分布基本一致。否则会导致模型效果准确性下降。

                    

                    

                    
                    
                    
本篇我们对开发金融风控模型做一个总结，先给出流程图：
建立模型，当然需要数据，金融风控的数据一般来源于内部与外部，内部是在公司业务系统内已有的，外部主要靠采购三方数据扩展。三方数据的采集标准可参考文章：
金融风控之三方数据评测
风控模型的目标是对客户的好坏程度进行概率预测，转化为模型术语，就是分类问题。首先需要确认好坏客户的标准，通过滚动率分析可以给出量化标准。通过逻辑回归对该分类问题进行建模。
从【为什么要用sigmoid函数】到真的懂【逻辑回归】
有了样本与目标变量，我们根据证据权重(woe)修正对客户先验认知的增量，对变量进行分箱，提高模型的可解释性与鲁棒性，基于IV值筛选指标
WOE编码与IV值
进行IV值筛选后的变量，对woe转换后的数据做多因素分析，要考虑模型建立后的多重共线性问题。一般可以通过方差膨胀因子和逐步回归检测
多重共线性
到了这一步，特征工程已经全部做好。下一步就是模型建立，在建立模型前需要根据数据质量与业务要求确立好模型的评价指标，调参过程用学习曲线与验证曲线去搜索最佳的超参数，防止模型过拟合。模型建立好后用测试集数据对模型进行评估测算，并且转化为标准评分。
机器学习之模型评估
评分卡建模指标与评分转换
最后在模型上线后，需要紧密监控其数据表现
评分卡模型监控(前端分析)
评分卡模型监控(后端分析)

                

数据库中用户代码附加：    new SysUser {UserName ="zxy",Email="123@123.com",Password ="1"},

                                          new SysUser {UserName ="xy",Email="1234@1234.com",Password ="2"}

       上面四张图是成功的截图，嘿嘿!今天下午实现了第三章，在这一章上停留了好久，终于完成了，好开心!下面是我在实现时候遇到的问题(在总结的时候晒的图中使用的QQ，这一次改成了email,因为QQ不是type类型)

  1. 刚开始的时候一直没有办法安装上entityframework ，搜了好多的办法，最后没有找到办法，发现多试几遍就可以安装上的，因为这个是自带的

  2.在AccountInitializer类中:DropCreateDatabaseIfModelChanges<AccountContext>这个本来是个引用，我却把生成了类

  3.在web.config中加的一段代码<connectionStrings><add name="AccountContext" connectionString="Data Source=.;database=MVCdemo;uid=sa;pwd=123456;"/>

</connectionStrings>中加上了 providerName="System.Data.SqlClient"

  4.在安装数据库是没有设置混合登录模式

   解决方法：登录上数据库——右击属性——选择安全性——选择SQL Server和Windows身份登录模式——输入账户密码——重新登录数据库——选择安全性/登录名——找到输入的账户——右击属性——在状态中即选择启用

     以上是我遇到的问题，希望自己下次可以在认真一点，不在犯不必要的错误，加油！