2024中关村论坛年会｜金融业的AI革命：创新动力与安全挑战
金融是“AI+”的最理想应用场景，而AI是普惠金融的核心驱动力之一。4月29日，在2024中关村论坛年会——金融科技平行论坛上，国家金融监督管理总局政策研究司司长李明肖表示，要高度重视人工智能技术应用过程中数据安全和消费者隐私保护问题。
中国人民银行此前印发的《金融科技发展规划（2022—2025年）》中明确提出，要抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域的深化应用。在多位与会嘉宾看来，人工智能的蓬勃发展为金融业带来了无限可能，数据要素在其中发挥着至关重要的作用。但与此同时，“牢牢守住不发生系统性金融风险的底线”仍是关键词，行业呼唤对数据安全更严格的保护与要求。
AI的金融渗透力
“根据最近一项市场研究，人工智能已应用于香港金融业多个领域，其中聊天机器人和辨识认证是应用程度最高的领域。研究也指出，人工智能的进一步应用将为企业带来大量机遇，特别是在算法交易及自动化客户服务等应用范畴。”会上，香港特别行政区财经事务及库务局局长许正宇说道。
人工智能与金融相遇，为金融科技领域发展带来了创新和变革的可能。值得注意的是，金融业的数字化基础好、应用场景密集，也为人工智能应用提供了广阔空间，是“人工智能+”落地的重点行业之一。
李明肖表示，当前，人工智能在智能客服、工程评估、信贷审批等数字金融领域已经有了一些应用，提高了金融服务的个性化和智能化水平。数字金融的发展为人工智能技术的创新和应用提供了丰富的产品和技术资源。同时，监管部门利用人工智能技术，能够更好地识别风险，识别股东股权关联关系及资金往来，有效提高监管效率。
许正宇进一步指出，在现今信息化的时代，金融业面对大量数据和复杂的市场环境。人工智能具有强大的数据处理和分析能力，能够从庞大的数据库中挖掘出具有价值的信息，协助金融机构更好地理解市场趋势和客户需求，提供准确的预测和决策支持，同时有助于提高金融交易的效率和速度，为金融创新开拓新的可能性。
此外，人工智能可应对金融业人手短缺的问题，将相对简单的工作自动化，以腾出人力资源集中处理复杂的增值工作，包括监督、系统开发和品质保证，有助于金融机构提升生产力和效率。
网商银行副行长江浩以公司业务为例，他表示，作为一家互联网银行，AI永远是网商银行探索的一个重要领域。最初，网商银行的AI应用重点在客户服务，面对每天百万级的线上客群做融资；第二阶段，将AI用于辅助风控。而到如今，AI能力进一步升级，帮助客户挖掘价值。例如，一些小微客户对金融常识没有概念，当线下面对客户经理时，并不知道该提供什么。网商银行提供的AI解决方案使小微融资过程变得简单，客户只要把租赁合同、店面照片等有价值的所有东西都拍下来并上传，剩下的都可以交给AI。
对人工智能的重视，已成为了一种产业趋势。2023年以来，生成式AI、大模型产品爆发式涌现，并被金融机构广泛运用于智能客服、智能营销甚至风控领域。有统计显示，2023年生成式人工智能的私人投资金额达250亿美元，比前年增长9倍。
基础建设方面，北京推进国家新一代人工智能创新发展试验区和国家人工智能创新应用先导区建设，打造具有全球影响力的人工智能创新策源地，积极拓展人工智能在智能客服、智能贷款审批、信用贷款等金融领域应用场景，健全应用场景发布机制，促进供需研发应用服务技术的双向赋能，并利用“冒烟指数”等工具加强监管，实现风险“四早”管理。海淀区正在打造全球AI创新策源地和产业高地，建立科技企业与金融机构的常态化对接机制，支持数字金融创新。
安全与合规难题
而与此同时，一些挑战仍然存在。“安全”与“合规”是金融业绕不开的话题。人工智能加速金融与科技深度融合的同时，对于数据要素的保护和应用成为制约金融机构高质量发展的重要因素。
许正宇直言，金融机构应用人工智能时或会涉及大量数据，其中包括个人和敏感资料。此外，数据的准确性及人为监督对人工智能的运作至关重要。
在交银金融科技有限公司副总裁王浩看来，金融机构利用数据要素提升实体经济服务水平，带来了新平台、新视野、新连接、新模式。一方面，随着各类数据的融合深入，这些要素形态不断发生变化，新技术驱动的场景、平台不断出现，从而提升了金融机构服务效率。
王浩指出，另一方面，各类商务平台、流量平台、自媒体平台层出不穷，企业也在进行数字化转型，从而衍生出各类的数据要求。如何将金融服务融入这些新的平台、新的业态，只有通过数据要素之间的连接，运用隐私计算等技术打通不同主体之间的流程和数据壁垒，才能为广大客户提供更加有效的服务。
“未来，谁能更好地掌握数据要素，谁就能掌握金融发展的制高点。”有业内人士这样认为。第四范式（北京）技术有限公司联合创始人兼总裁胡时伟同样表示，数据要素给金融业带来的价值，一是释放，二是升级。当前，大模型在金融业不能有效落地并提供服务，问题在于愿景不清晰、路径不明确、分配不合理。有效解决这样的发展挚肘，需要从数据中寻找答案。
大模型新路径探讨
不可否认的是，人工智能等数字技术的迭代速度快，在蓬勃发展机遇中也蕴含了一定的偏差空间。因此，如何平衡人工智能带来的业务效率提升与用户数据安全的问题，尤其值得金融机构警惕。
对此，许正宇强调，金融机构必须采取稳妥的网络安全措施，例如全面加密个人和敏感资料、定期进行保安审查，以及建立注重数据安全的机构文化。在应用人工智能时，金融机构必须尊重个人资料隐私，以及严格遵守所有适用的个人资料隐私及保护知识产权的相关法律。
中国国际金融股份有限公司专精特新企业服务业务执行负责人黄弋进一步提出，对于隐私的保护是“极容易出问题的”，因此，更需要在规则的前置层面上以及技术底层上就加以逻辑上的区分和管理。
胡时伟则提供了一条新的路径。当前，大语言模型对C端处在“不敢用”的状态，究其原因，是大语言模型“直通”外界带来的注入风险与加装额外保护造成的成本提升的矛盾。如果换一种思路，不是选择把所有的敏感数据都“一股脑”塞进去，而是清晰地知道构建怎样的智能、用的什么数据以及服务产品对外的核心价值，选择把原始的数据转化为知识、转化成经验，即数据服务化，从某种意义上来讲是解决安全问题的一个很重要的方式。
除了对数据与隐私的把控，另一些安全问题或成为人工智能助力金融路上的“绊脚石”。许正宇举例到，金融机构可能需要第三方服务供应商提供人工智能所需的技术和基础设施。由于市场上的人工智能服务供应商较为集中，如有突发情况导致服务中断或故障，便会影响金融机构的营运。因此，金融机构必须制定全面的应变计划，以确保金融系统畅顺运作。
此外，人工智能模型可以按指示撰写流畅而且高质量的分析，也可以理解图像、处理声音及创作视频。然而，人工智能模型也存在幻觉风险，有机会输出看似符合逻辑但不合乎事实的错误资料。许正宇对此表示，金融机构及从业人员不能完全倚赖人工智能，人工智能也不能取代金融专业人员的独立思考和判断。
北京商报记者岳品瑜董晗萱