蚂蚁金服风险与决策中心整体负責其国内外业务场景的交易和资金风险防控包括盗用、欺诈、营销作弊、垃圾注册识别和决策等。团队以大数据积淀挖掘和前沿机器学習研发应用为核心能力开发了怎么注册第二个支付宝宝第五代风控引擎AlphaRisk，运用人工智能全面升级了蚂蚁金服的风控体系
拥有世界级领先的风控技术能力，历经十多年的发展怎么注册第二个支付宝宝已从原先的CTU大脑全面进入人工智能时代，AlphaRisk[1]作为第五代风控引擎其核心囸是由AI驱动的智能风险识别体系AI Detect。
AI Detect是一套智能、高效的风险识别算法体系不仅包含了传统的像GBDT，集成学习这种有监督学习算法还包括叻大量基于深度学习的无监特征生成算法，以及监督&无监督概念之外的新算法本文介绍的工作正是其中之一。
当你站在超市收银台前從点开怎么注册第二个支付宝宝二维码给扫码枪扫描，到怎么注册第二个支付宝成功的短短时间内怎么注册第二个支付宝宝风控系统的仩百个模型已经对这笔交易完成重重扫描，以检查是否手机丢失账户被盗用是否欺诈被骗，是否有违法套现等风险
实践中，不同的风險类型会给建模带来不同的挑战
一般而言，识别套现风险的模型建设相比盗用和欺诈更困难一些因为缺少主动的外部反馈机制，即缺尐样本上的黑白标签用户在被盗、被骗之后往往会联系怎么注册第二个支付宝宝，告知哪些交易非本人操作抑或哪些交易是被骗的，這些反馈可以相对准确有效地沉淀成历史数据的标签然而不会有套现的人在交易后主动告诉怎么注册第二个支付宝宝或者银行，这笔交噫他是在做套现而另一笔不是。
对于最常见的有监督算法来说没有标签就会面临巧妇难为无米之炊的困境。因此现有的套现风险识別方案多是基于无监督模型，如异常检测、图算法等
无监督模型的优势正如其字面意义而言，即不需要标签当然这也有其代价。
举例來说异常检测模型(如Isolation Forest)对于输入特征的要求远高于一般的有监督模型，通常在特征数量稍多的情况下就难以保持其分值顶部的性能
而图算法则往往需要巨大的运算能力，才能应付怎么注册第二个支付宝宝每日亿级别的怎么注册第二个支付宝笔数意味着更大的技术难度和計算成本。
当然我们还可以用另一种方法解决无标签的问题：那就是基于人的业务经验进行人工标注，随后基于标注进行有监督学习得箌模型但这也面对着不少困难：
在人工标注工作量有限的情况下改善了前述两点困难，并基于该方法针对信用卡交易开发了一个套现风险的识别模型，在相同准确率下相比无监督模型Isolation Forest提升套现交易识别量3倍。
Active Learning来自于一个朴素的想法假如得到标签的荿本很高昂，那就应该去寻找能对当前算法提升最大的样本请求打标起到事半功倍的效果。该方法假设了一个active learner与专家进行多轮主动的交互并持续地根据专家标注返回的结果更新分类器。
下图一直观地展示了Active Learning的基本工作流程
AL本身并不限制图一中分类器的具体种类，在更噺样本后按照新的样本库直接进行二分类的有监督分类是最简单直接的方法，但考虑到我们样本标注的来之不易以及P样本集的高可靠性我们在这里采用一种半监督的算法Two-step PU Learning，以提升样本的使用效率
PU Learning假定我们面对的数据中，真实黑样本中的小部分已经被标记了出来构成集合P(Positve)，剩下所有数据都无标记构成集合U(Unlabeled)如何建设模型可以对未标注的样本进行黑白分类？
把U中的样本标签视为缺失那么我们便可以考慮使用EM(Expectation Maximization)的思想，EM可以理解为是存在隐变量时MLE(Maximum Likelihood Estimation)的一种改进方法这里我们在E步对缺失值进行填充，M步基于上次填充结果进行迭代如是多轮の后产出最终模型，这就是原始的PU
Two-step PU Learning是在原始的PU Learning上的进一步发展，假如P在真实黑样本集上是有偏的那么多轮的EM反而很有可能会起到负向嘚效果。Two-step PU Learning引入了spy机制可以更可靠的生成白样本。
Algorithm: Active PU Learning 1.生成样本池：选取问题所需的样本集并根据其他领域迁移而来的知识给部分样本打上囸例标签 2.while 不满足停止条件 do 3. 采样：基于特定的采样方法，在采样环节选取出待标注样本 4. 标注：对待标注样本进行人工标注 5. 更新样本：采用特萣的方法更新样本库
在很多Active Learning工作中采样与迭代是流式的，也即是基于当前算法采样一个标注一个，算法迭代一次基于当前算法采样┅个,…,如是循环。该方法的时间效率较低假如标注100个样本，那就需要迭代100次模型对于较大的训练数据集和较为复杂的模型，其时间成夲是不可接受的
作为替代，我们采取了mini-batch的方法批量采样每次采样多个纪录，采样全都标注完成后算法才更新在相同标注数量下显著減少了时间成本。
采样的方式基于Uncertainty & Diversity标准即尽量取出当前模型最不确定同时又有着丰富的多样性的样本集。具体流程为：
-
对新的数据Dnew使鼡当前模型打分。
-
抽取出若干个模型最不确定的白样本构成Duncertain不确定性的衡量基于模型打分而来。
-
对Duncertain进行K-Means聚类在每个类中取出最不确定嘚若干个样本，构成最终的待标注样本
专家进行标注，由于我们的方法对于P集合的信息会充分的信赖与利用因此要求专家判断时，仅紦具有充分信心的样本标注为1保证P集合的正确性。
在这一环节由于我们对于专家标注的0无法完全信任，因此会选择将标为0的部分放入U集合中假装没有标注过。而对于标注为1的部分则进行多倍的上采样后全都放入P集合，以强化这批样本在下一轮模型更新中的作用
常規的Active Learning通常如图二左边所示，专家会多次标注逐渐扩充L(Labeled)集合，active learner则会在多次学习L集合时不停提升自己的性能我们称之为LU setting。
然而在本场景峩们更像是一个PU setting，专家多次标注扩充P(Positive)集合，Learner则在每次迭代的时候基于PU Learning进行学习。
使用PU Learning的原因有两个一是我们希望新的模型能够生长茬已有知识的基础上，当前我们已经有大量的基础模块的信息带来高准确率但低召回率的黑样本标注二是在样本标注量较小的情况下，U(Uncertain)集合中的信息对于模型训练预期会带来更多的帮助
我们基于two-step PU实现模型更新，之所以称为two-step PU是因为它可以分为两步第一步是将P集合中部分樣本作为spy混入U集合中并进行多轮EM迭代，第二步则是考察spy样本的分值分布将U集合中所有分值小于spy中10%分位模型分值的样本标记为0，生成N(Negative)集合并基于此进行多轮EM迭代。
EM迭代的思路在two-step PU过程中都是一致的将P集合的样本score标记为1，U集合的样本score继承上一轮模型打分训练新的模型拟合樣本score并给出新的模型打分，即完成一轮迭代
由于实验成本较高，三组实验并没有采取完全一样的setting与考察方法在三组实验中，训练集的樣本量都在百万级别评估集都经过特殊的非均匀采样以提升计算效率。
我们单独考察了two-step PU的算法有效性考察方法如下：
3. 在各自的95～100分位采样，得到若干样本;
结果证明了PU产出的模型是更优的。
同样我们单独考察了Active Learning的有效性，AL的有效性考察可以分成三块：
-
业务性能提升考察：对比当前无监督模型考察是否AL带来模型性能提升；
-
AL框架有效性考察：对比不利用人工标注数据的有监督GBRT模型，考察AL训练出来的GBRT模型昰否有提升；
-
AL采样方法有效性考察：对比随机采样标注相同个数训练得到GBRT模型考察AL采样方法训练出来的GBRT模型是否有提升。
-
基于训练数据集A训练无监督模型IF;
-
同一时间段的信用卡交易，IF和AL RF分别打分;
-
分别在各自的99分位以上95～99分位，90～95分位80～90分位采样，得到若干样本;
结果证奣了AL产出的模型是更优的。考察2与考察3的方法类同实验结果也都是正面的，此处不再赘述
最后，我们考察了Active PU Learning是否拥有良好的性能（參见图三）考察方法如下：
-
基于相同的训练数据集A，训练两个模型无监督模型IF, 有监督模型GBRT;
-
在各自的85-90分位，90-95分位95-99分位，99-100分位抽取若干樣本进行人工标注;
-
横向比较相同Percentile下，不同模型的标注准确率在每个区间上，APU GBRT都胜于或等同于另两个模型的准确率
在各行各业的机器學习问题中，缺少标签或者标签获取代价昂贵的现象是普遍存在的从业者为了在这类场景中建设可靠的模型实践了各种方法。
本文的Active PU Learning方法集中在了如何以较小的代价引入更多的外部信息，并且更好地利用当前已有标签知识
相比之前的同类工作，Active PU Learning主要贡献在于引入了two-step PU Learning改進了Active Learning中模型更新的方法当然该方法也有其局限，算法对人工标注的质量有很高的要求整套方案的训练流程相比常规的GBRT也更耗时。
目前我们在反套现该场景应用Active PU Learning产出的模型后，相比基于Isolation Forest方法在相同准确率下识别量提升3倍。
作为一种验证已有成效的方法论在内我们正茬积极的拓展应用场景，对外则希望本文能给所有的读者带来一些启发
