在由学院等共同主办的第四届智能财务高峰论坛上，合肥工业大学博士/博士后张超讲解了关于智能财务决策系统建设中的伦理问题及防范的相关内容。

从2021年6月30日，滴滴在美国纽约证券交易所上市，到2021年7月2日，国家互联网信息办公室发布公告，对“滴滴出行”实施网络安全审查并停止新用户注册。接下来，7月4日、7月5日、7月9日网信办接连加大审查力度，要求各网站、平台不得为“滴滴出行”和“滴滴企业版”等25款已在应用商店下架的App提供访问和下载服务。

滴滴事件引发了人们对人工智能所带来的伦理讨论，比如数据安全、隐私、公平性的问题。于此同时，作者在长期跟踪智能财务决策支持系统建设过程中，在与大量开发人员、用户、监管机构的接触过程中发现，各个主体的行为或多或少存在着一定的隐形动机，或者说各自的行为原则，于是产生了信息系统伦理或人工智能伦理问题。

大数据与人工智能技术应用带来的伦理问题不仅出现在个人层面，也会出现在政策、社会或组织层面，而且伦理常常是一个隐性的动机，而不是明确的动机，强调财务人员在技术使用中的行为原则。在适当的时候防止对他人、组织和社会的伤害。与会计的其他领域相比，在财务分析决策领域使用大数据智能技术将对组织产生深远的影响，更可能引起道德问题。

在大数据环境下，决策从传统的主观判断到依托数据再加上职业判断，更强调的是人机协同。人机协同的系统往往是更会引起伦理问题的讨论。讨论的时候有几个前提：一是智能财务决策系统伦理研究的目的和前提是理解行为对他人、组织和社会是否会带来伤害。二是伦理研究的范围，可能会涉及到智能财务决策系统全周期，从系统设计、开发、实施、最终应用，不仅仅关注短期，还会关注长期，伴随不同场面的伦理问题。三是责任伦理学，基于利益相关者的视角，人机协同中人是最关键的，高层管理者、监管者、使用者以及其他人都会在决策过程中带来风险，因此要建立问责制。

研究之前，首先应明确智能财务决策系统相比于传统ERP系统的区别。ERP更多是产品化，智能财务决策系统是半定制化产品，根据基本的需求与不同行业需求开发共同形成，其中所解决的技术，更多是规则性的。而且财务会计领域有会计准则等规则和规范进行约束，决策领域乃至管理会计领域则相对较少。智能财务决策系统可以运用大数据分类、聚类、优化对数据进行处理，揭示过去所发生的事情，诊断问题发生的原因，不仅仅融合财务人员的职业判断，还引入外部的数据进行对标，或者设置风险阈值，由此数据决策与人的决策共同进行融合，在此过程中难免会出现一些伦理问题。

智能财务决策系统伦理主题范畴界定共分为四部分。首先是人机伦理。虽然系统不同于机器人所带来的道德行为主体讨论，但是智能系统产品是否要承担道德责任？是否影响人间伦理关系？比如数据隐私是否达到预期问题，系统会不会传递专家偏见？系统透明度、可理解性会不会给人带来依赖？对系统带来不信任感会不会带来技术的压力、给财务人员带来不舒适感等，都是人机伦理讨论的范畴。其次是责任归属的伦理，分析责任主体的伦理目的、行为方式、结果和成因，就智能财务决策系统而言，主要讨论的是不同行为人在哪一个环节或者在哪一个节点应该承担哪些伦理责任以及建立必要的问责制。另外是伦理价值失衡问题，人类社会发展在于追求文明社会的和谐，维护社会公平正义，这也是社会价值的基本取向。不能因为信息技术或智能系统产品的使用而出现伦理价值的失衡，比如偏见往往产生于不同学历背景以及年龄段，对于年长的财务人员会不会不具备可操作性，对财务人员会不会带来转型、失业的问题，会不会带来沟通或者更深层次了解业务场景的新要求等。最后是系统应用对人的伦理行为影响。系统应用之后，是否会产生长期依赖继而影响职业判断，以及是否会产生系统质疑。另外是路径依赖问题，更关注系统显示的异常、风险，以至于减少对未知的认知，这是否带来其他风险，是否会产生信息茧的问题。其他利益相关者之间的关系也会产生影响，按照系统结果进行考核及责任追究时会不会带来人与人之间的隔阂，减少线下人与人之间的交流见面会不会产生孤立感等。

基于此，对于智能财务决策系统伦理风险防范的政策建议主要有以下几点：伦理规范与法律约束协同发力，法律的有效实施离不开道德的支持，道德的践行也离不开法律的约束。建立利益相关者共担责任机制，例如建立第三方验证和监测机制，在系统上线有专门的机构判断是否践行财务领域相关行为准则、实施规范。确保合乎伦理设计的开发原则，在设计开发时事先把伦理问题转化为具体设计标准和约束，使系统更具可靠性、安全性。除此之外，还要培训提升利益相关者素质与伦理意识、完善利益相关者沟通与反馈机制。

信息系统伦理是一个有趣、有意义但有难度、有深度的话翘，需要持续深入的研究。由于AI仍在快速发展，因此随着新算法和方法的引入，更多的道德问题和挑战可能会在以后出现，这方面的研究应具有连续性，以帮助防止道德风险并保护人类、组织和整个社会的权利。