BANKTHINK.

确保数学证明基于机器学习的贷款决策

现在注册

机器学习 模特持有巨大的承诺 在帮助扩大信用权限,对那些不公平否认的人,特别是那些具有薄信用文件的人。但它也造成了贷方的实现陷阱。

如果贷方未能同时采用有效的基于数学可解释的技术,则该模型冒着违反法律的风险。并且监管机构可以在离开地面之前射击。

当消费者被ML模型被拒绝信誉时,法律(相当正确)要求贷方告诉消费者为什么。这有助于消费者知道该如何做些什么来提高下次获得批准的机会。它还让监管机构信心贷方正在制定公平,业务合理的贷款决策。

但是,贷款人真正知道为什么他们的贷款模型做出他们所做的决定吗?

大多数贷方依赖于承保算法,为它们做出这些决策 - 依赖于数百或数千个变量的算法。主要原因是哪些变量导致贷方否认贷款?它是可变的127还是变量18?

当使用ML模型进行信用决策时,该问题甚至更加困难,这使得基于所有这些变量之间的无数相互作用做出更准确的预测和决定。

然而,麻烦的是,当贷方试图解释他们的贷款决策并使用设计以更简单,陈旧的模型来确定主要否认原因。如果您希望每次都要获得正确的答案,则无法使用旧工具来解释ML模型,因为法律要求。

然而,今天大多数贷方使用两个看似合理的方法中的一种来识别主要否认原因:“下降一个”及其表弟,“赋予中位数”。

通过删除,贷方测试哪些模型变量通过从模型中删除一个变量并测量分数的变化来计算模型变量,以量化该变量的影响。通过赋予中位数,贷款人做同样的事情,而不是丢弃变量,它们一次替换每个变量,一个时间,在数据集中的该变量的中位值。

这些方法听起来合理但在实践中,它们通常不准确。那是因为一旦改变了模型考虑的数据,你就已经从现实世界转移到假设的那个假设中。你最终试图解释在现实世界中永远不会发生的情况。

这些技术也未能解释变量交互的事实,并不总是独立的,并且在ML模型中,变量可能指向不同的方向。

更好的方法是基于一个 游戏 - 理论方法开发 在20世纪70年代,诺贝尔劳库特劳埃德福德及其同行。他们的方法最初是为了解释篮球等游戏中的玩家如何促成最终得分。

事实证明,在ML型号中,变量像篮球运动员一样,使福利的方法非常适合解释模型如何运作,并准确地识别每次主体否认原因。

例如,这种方法在10月份在消费者金融保护局的虚拟技术冲刺期间在改善不利行动通知时进行了测试。在Sprint,Zest AI和我们来自奥马哈,韦伯和公民银行第一个国家银行的合作伙伴, 展示 下降一项方法每次都会产生错误的否认原因,并且福芙方法得到了正确的。

更进一步,它会帮助贷方如果是 CFPB.可以更新或扩展 它的指导是接受更多这些解释性方法,旨在提高消费者接受的信息的准确性以及为什么特定的消费者被否认。因此,CFPB应修改其指导,以允许更多数学上合理的方法来产生不利行动通知。

此类方法和技术可供今天使用并由贷款人使用。但如果CFPB抚养采用,则可以帮助为行业提供清晰度,以便消费者可以获得建立信贷所需的精确信息。

用于本文的重印和许可请求, 点击这里.
机器学习 消费者贷款 金融金 CFPB.
更多来自美国银行家