(该文章转自“Carey Community”微信公众号)
你知道吗？
银行正把贷款审批的“决定权”交给AI。
谁能获得房贷、小微企业贷款或信用额度，越来越多由算法说了算。
因为相信：机器更理性、更安全。它能处理海量数据，给出快速且一致的判断，仿佛提供了一种可靠的“精准性”。
但问题是，信任机器，还是信任人？答案没那么简单。
——凯瑞科研
一项ASU凯瑞商学院的最新研究表明：
完全依赖AI未必是最优策略。
通过真实业务场景实验，研究人员发现，当信贷员被鼓励对AI建议进行独立判断，而不是直接照单全收时，信贷员做出的决策不仅更准确，也更加公平。
在一些情况下，适当地“质疑算法”反而能为放贷方和借款人带来更好的结果。
助理教授陆天
在这项研究中，ASU凯瑞商学院信息系统系助理教授陆天分享了其论文《The Power of Disagreement: A Field Experiment to Investigate Human-Algorithm Collaboration in Loan Evaluations》（《分歧的力量：一项关于人机协作在贷款评估中的实地实验研究》）的核心发现，并解释了为何在AI时代，适度的怀疑反而可能成为实现负责任AI的重要工具之一。
问：你的研究发现，当信贷员不盲从AI建议时，反而能做出更好的贷款决策。这似乎很反直觉。当人类对算法提出异议时，我们在谈论什么？
答：这结论确实有些反直觉，尤其我们研究中使用的算法本身已经相当准确了。
在大多数情况下，直接遵循算法建议其实是合理选择。而真正信贷决策质量的提升的情况，靠的不是频繁质疑算法，而是在算法犯错的关键少数案例中，由人类做出精准修正。
关键在于，当算法建议与人的判断相左，尤其是算法自己给出的理由前后矛盾时，人会如何应对。
当算法给出的分析依据自相矛盾时，信贷员更容易产生质疑，而这些"有理由的反对"，往往更可能改善最终决策结果。
但并不是所有"不同意见"都有价值。我们的研究发现，过度的异议反而会降低决策质量。人机协作的价值，在于评估者并非随意干预，而是只在发现算法自相矛盾时才出手。
这背后的机制也并不是对「AI」的不信任，而是对「不一致性」的敏感。正是这种有选择的判断，让人机协作的效果优于单独依赖任何一方。
问：在您的实地实验中，您是如何引导这种“有结构的分歧”的？这对贷款决策的准确性和公平性产生了什么影响？
答：我们通过实验设计，控制评估人员是否能够看到算法决策背后的关键解释信号。结果发现，能看到推理依据的信贷员，更容易识别模型重点提示因素是否存在不一致。这种透明性并未显著提高分歧发生的频率，但确实让人工干预变得更加精准有效。
从结果来看，人机协作之所以能提升整体决策质量，是因为它精准地纠正了算法犯下的错误。
更重要的是，从公平性出发，这种人机协作有助于避免两种类型的错误：
●第一类错误：
借款人获批，但之后违约
●第二类错误：
合格的借款人，却被错误拒绝
这种结构性异议，既减少了代价高昂的错误拒绝，也没有显著增加高风险批准。这对公平性至关重要，因为错拒一个合格的申请人，本身就是一种伤害。
而改进的关键，不是放宽审批标准，而是针对性修正那些"人机意见冲突"的案例。
问：算法偏见一直是监管机构和消费者关注的重点。AI驱动的决策下，银行应该如何管理偏差和职责？您的研究对银行有什么启迪？
答：我们的研究表明，要管理AI贷款决策中的偏差，不能只盯着模型，而要关注整个决策系统。因为在实际操作中，贷款决策是由人机共同完成的。
实验发现，只有当人为干预是审慎的、并且基于可识别的信号而非直觉时，决策结果才会有所改善。
而模型推理是否公开、人机意见冲突如何呈现等设计，直接决定了人类的异议是增强还是削弱了信贷决策。这重新定义了银行应如何看待问责制。
偏差和错误可能源自三个来源：
● 模型本身
● 人类决策者
● 模型与人类之间的交互
即使算法高度精确，如果推翻规则不清晰、管理不善，结果也会走样。
因此，管理偏差不能只靠模型验证，还需要明确谁有最终决定权，设定何时可以推翻AI建议，并定期审查复盘这些选择对审批结果的影响。换言之，问责的是整个决策系统，而不仅仅是算法。
问：我们经常听说人工智能能减少人为错误，但您的研究结果表明这种AI和人的关系微妙。那么，在信任机器和信任人类判断之间，平衡点在哪里？
答：信任机器与信任人类判断之间的平衡，本质上是在依赖与监督之间找到平衡点。
算法能带来一致性和规模化处理能力，为决策提供坚实的起点，也能避免在处理大量案例时标准不一。但没有任何模型是完美无缺的。
我们的研究表明，当机构审慎设计人机交互方式，而非放任自流时，决策表现会得到提升。
这意味着在适当的情况下，要让模型的推理过程可见，突出显示能帮助人类发现潜在矛盾的信号，并明确规定在何时以及如何进行干预。
这也意味着，评估结果时不仅要看整体准确性，还要关注不同类型的错误在人机协作下如何演变。
因此，恰当的AI和人的平衡并非权力共享或持续怀疑，而是一种审慎设计的架构：
1）算法主导常规决策，为判断提供基准；
2）而人类判断则在清晰界定的、基于证据、可解释且可追溯的协议框架内运作。
问：现在正值金融素养月和报税季，很多人都在关注信用、贷款和财务状况。普通消费者应如何理解AI在这些生活中金融决策中的作用？
答：“金融素养”在今天有了新含义。除了懂利率、看信用分，还得明白：AI系统是用你的还款记录、消费习惯、甚至数字足迹来评估风险的。
所以，按时还款、少刷爆卡、定期查信用报告，这些事比以往更重要。毕竟，算法只看数据，不看人情。想通了这一点，对结果也能更理性。
另一个关键点是：知情与主动权。
消费者应当有权质疑决策是如何做出的，尽可能要求解释，并纠正不准确的记录。
随着AI在金融系统中日益深入，了解数据、模型和人工监督如何相互作用，能帮助个人更自信、更主动地驾驭信贷市场。
///////////////////////////////////
你在日常生活或工作中是如何使用AI工具的？它是否影响了你的决策方式？
欢迎在评论区分享你的体验，和大家一起交流。
////// 精选校友精彩回复 //////
