部分房贷重定价在即 LPR仍有 ...
金观平：完善维护金融稳定长效机 ...
再跌11%！特斯拉“抛售潮”愈 ...
消费券“大礼包”促消费暖人心 ...
金融机构如何面对AI幻觉
来源：中国经济网 作者：《华夏时讯网》编辑 发布时间：2025-04-14
今年的《政府工作报告》对推进“人工智能+”行动提出了新的要求。《政府工作报告》着重强调了人工智能的实际应用，包括产业赋能、终端应用等方面。在强调技术应用的同时，多次出现“安全”一词，强调了产业的安全健康发展。
在金融领域，庞大的用户群体和海量数据积累还为人工智能技术的落地提供了优质场景。随着“人工智能+”行动的持续推进，AI大模型已经成为不少金融机构的标配。与此同时，问题也随之而来，“一本正经说胡话”的AI幻觉已经让不少金融从业者感到头疼，更令人担忧的是，金融业的高精确性要求使得AI幻觉问题被放大，从模型误判到资金损失可能仅是一步之遥。
AI幻觉是指AI大模型生成的内容与现实世界事实或用户输入不一致的现象。简而言之，就是AI在“胡说八道”。
记者了解到，眼下金融行业确实有不少投诉案例与AI幻觉有关。以市面上常见的AI智能客服为例，AI智能客服的“已读乱回”经常令用户陷入沟通困局。有客户连续发送“转人工”请求，对面仍回复“为了节约您的时间，还请再简单描述问题”；当用户咨询复杂的理财产品条款时，AI回答往往仍以“请咨询客户经理”仓促收场。不少用户不禁疑惑：这些外表智能实则机械的AI客服，与传统电话客服“按0转人工”的机械设置相比，究竟在服务体验上有多大程度的实质性提升？
中国邮政储蓄银行研究员娄飞鹏表示，AI幻觉会生成看似不合理、与事实不符的结果，如果出现在营销领域，可能导致银行无法向客户做好解释，从而增加银行维护客户群体的难度；如果出现在风险管理领域，可能使银行因为无法理解其中的逻辑原因，无法有效采取针对性的风险管理措施。
记者采访发现，AI幻觉的出现与行业之间的信息壁垒存在一定关联。“银行、保险、证券等不同行业间的数据难以有效整合，碎片化的数据生态制约了AI模型的训练精度。”招联首席研究员、上海金融与发展实验室副主任董希淼认为，AI模型的训练需要大量数据支持，如何在保证隐私和安全的前提下进行模型训练，是行业需要共同解决的问题。在部分对精度要求极高的金融应用场景中，AI幻觉可能对新技术的落地应用造成障碍。现行金融监管体系主要针对传统业务模式设计，面对AI技术驱动的新兴业态需要新的有效规制手段。“需要注意的是，AI生成的知识在准确性、科学性方面仍存在很大不足，现阶段只能作为辅助工具而不能作为决策工具。”董希淼说。
目前来看，完全消除AI幻觉并不现实。AI幻觉是一把“双刃剑”，尽管可能给金融这样对精确性要求较高的行业带来风险，但在文学艺术等创作领域，许多人视其为灵感的催化剂，甚至主动加以利用激发创新。“对金融机构而言，需要对AI大模型有一定的容错度。”娄飞鹏认为，对不同类型的经营管理决策需要在AI生成结果和人工经验判断上设置不同的权重比例。在AI输出结果的基础上，辅以人工判断更好地开展决策。同时通过适时增加数据指标、调整优化大模型等方法尽量减少AI幻觉的发生。
责任编辑：《华夏时讯网》编辑
华夏时讯网版权及免责声明：
1、凡本网注明“来源：华夏时讯网” 或“来源：华夏时讯-华夏时讯网”的所有作品，版权均属于 华夏时讯网（本网另有声明的除外）；未经本网授权，任何单位及个人不得转载、摘编或以其它 方式使用上述作品；已经与本网签署相关授权使用协议的单位及个人，应注意该等作品中是否有 相应的授权使用限制声明，不得违反该等限制声明，且在授权范围内使用时应注明“来源：华夏 时讯网”或“来源：华夏时讯-华夏时讯网”。违反前述声明者，本网将追究其相关法律责任。2、本网所有的图片作品中，即使注明“来源：华夏时讯网”及/或标有“华夏时讯网(hxsxnews.cn)” 水印，但并不代表本网对该等图片作品享有许可他人使用的权利；已经与本网签署相关授权使用 协议的单位及个人，仅有权在授权范围内使用该等图片中明确注明“华夏时讯网作者XXX摄”或 “华夏时讯-华夏时讯网作者XXX摄”的图片作品，否则，一切不利后果自行承担。
3、凡本网注明 “来源：XXX（非华夏时讯网）” 的作品，均转载自其它媒体，转载目的在于传递更 多信息，并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的，请在30日内进行。
※ 网站总机：010-59447158 有关作品版权事宜请联系：13341002733 邮箱：hxsxnews@163.com
.png)
