清华大学金融科技研究院孵化
金融科技与金融创新全媒体

扫描分享

本文共字,预计阅读时间。

当AI正以前所未有的速度涌入金融业,英国监管机构给出的最新一份"体检报告"却显示出一组耐人寻味的反差。

近日,英格兰银行与英国金融行为监管局(FCA)联合发布了对英国金融服务业人工智能与机器学习的第四次调查报告。结果显示,AI的采用率已升至86%,生成式AI成为绝对主流;但与此同时,绝大多数机构对AI仍"不敢放手"——真正部署高度自主智能体的,只有2%。

以下为这份调查执行摘要的核心内容:

一、采用率升至86%,生成式AI成主流

受访机构的AI采用率持续上升。86%的受访机构表示使用了人工智能(AI),较2024年的75%有所提高。

报告的技术组合已明显转向生成式AI。生成式AI占所有报告AI系统的56%,而2024年基础模型占17%。

报告显示,AI应用分布于各业务领域,但仍集中于运营和IT。该领域约占所有报告涉及AI系统的31%,高于2024年的约22%。其他单一领域的占比均未超过11%。

二、多数系统"重要性"不高,机构间差距悬殊

大多数报告中提及的AI系统并未被机构评估为具有高重要性。其中,约7%的AI系统被受访机构评为"高重要性",低于2024年的16%。不过,2026年报告的高重要性AI系统的绝对数量多于2024年。

各机构报告的AI系统数量参差不齐。近半数机构表示,其相关AI系统不超过10个,而排名前十的受访机构占所有报告AI系统的43%。

三、智能体部署普遍,但自主性极其有限

报告显示,AI智能体采用已相当普遍,并预计将进一步扩大。80%的受访机构表示已部署AI智能体,另有14%表示计划在未来12个月内加以部署。

AI智能体部署虽普遍,但自主性有限。多数受访机构部署的AI智能体仅具有限自主性:80%报告已有处于生产环境、仅提供决策支持的AI智能体(即智能体提出建议,由人决定并执行)。仅有2%报告部署了具广泛自主性的智能体。

当前及计划中的AI智能体部署因职能而异。16%的受访机构表示,当前已将智能体用于自动化客户沟通,计入计划部署后升至34%。相比之下,即便计入未来12个月的计划部署,预计智能体将用于以下用途的受访机构也不超过9%,主要涉及批准或拒绝客户结果;执行交易或下单;发起、执行或拦截支付;或调整限额、阈值与控制措施等方面。

四、第三方AI既更普遍、也更关键

第三方AI系统已变得既更普遍,也更重要。第三方实施占所有报告AI系统的39%,高于2024年的33%;同时占高重要性AI系统的53%,高于2024年的35%。

云和算力托管提供商的集中度高于模型API/托管提供商。前三家云/算力提供商占所有报告关系的79%;前三家模型/API提供商占所有报告关系的54%。

信息安全和运营韧性方面的担忧,是报告中最突出的第三方AI采用制约因素。40%的受访机构将其列为重大制约因素,其次是第三方AI系统透明度有限,占比34%。

五、收益看运营效率,风险聚焦数据与第三方

运营效率、自动化和生产力是当前对AI感知收益评价最高的领域。受访机构预计未来三年各领域的收益都将提升,其中网络安全与运营韧性、以及收入创造与竞争定位方面的预期增幅最大。

当前机构对AI感知风险评价最高的领域是数据保护与安全、第三方与供应链风险,以及生成式AI特有风险(如幻觉、提示注入或操纵、通过提示词/输出造成的数据泄露等)。受访机构预计未来一到三年内,各类风险水平都将上升。

受访机构预计,随着AI应用更加广泛,本已突出的系统性风险——尤其是网络风险放大和关键第三方依赖——将进一步加剧。这两项在当下和未来三年均被评为最高的系统性风险。

六、真正的"拦路虎":流程整合与既有系统

除监管外,被提及最多的制约因素是难以将AI整合进现有业务流程与决策,以及既有系统或基础设施带来的制约。分别有23%和22%的受访机构将其列为重大制约因素。

被提及最多的监管制约因素与英国的数据保护和隐私、以及国际监管相关。分别有42%和29%的受访机构认为其构成高合规负担。

七、治理框架已普遍建立,但"重审批、轻监控"

多数受访机构报告已建立正式的AI治理安排。94%报告有全机构层面的AI政策、原则或标准;84%报告设有集中化的AI/模型风险治理论坛。

部署前的数据风险控制比部署后的监测与审查控制报告得更为普遍。人工审批、部署前审查和供应商尽职调查均各有超过90%的受访者报告。相比之下,仅约半数受访机构表示设置了持续监测、泄露测试和定期审查或重新认证措施。

受访机构表示,对高重要性AI系统的了解方式因系统是内部开发还是第三方提供而不同。77%报告依赖对内部开发系统的深入了解,而第三方系统仅为24%;对第三方系统,81%转而依赖供应商保证和合同安排。

第三方AI系统的监督,是报告中最常见的治理不确定性或实施挑战领域。54%的受访机构选择将模型风险管理原则应用于第三方或供应商提供的模型,49%选择监督由第三方提供或实质影响的系统。

八、前沿AI网络风险:88%机构预期将成实质影响

多数机构预计,前沿AI的网络能力将对其风险状况产生实质影响。88%的受访机构评估认为,未来两年不断演进的前沿AI网络能力对其机构风险状况有中等或较高影响。

对前沿AI的认知,使管理层注意力最集中于漏洞管理与补丁修复。64%的受访机构选择将漏洞管理与补丁修复节奏,作为因了解前沿AI而使管理关注增加最多的网络韧性领域。

九、可持续性:过半机构考虑,但披露率偏低

57%的受访机构表示,考虑了AI使用的可持续性影响。82%的受访机构表示,未就AI使用的可持续性影响对外报告。在目前未对外报告的受访机构中,36%表示计划在未来两年内进行报告。

十、小机构:73%已用AI,主攻运营场景

73%的小机构报告使用了AI,其中58%报告主要使用大语言模型。运营是最常见的当前或计划AI应用领域(占受访机构的64%)。30%的小机构报告,数据保护和IT系统是部署AI的制约因素。

人工智能免责声明: 本文部分内容由人工智能工具辅助整理生成,并经未央网编辑团队审核

[Source]

本文系未央网专栏作者发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!首图来自图虫创意。

本文为作者授权未央网发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!首图来自图虫创意。

本文版权归原作者所有,如有侵权,请联系删除。首图来自图虫创意。

评论


猜你喜欢

扫描二维码或搜索微信号“iweiyangx”
关注未央网官方微信公众号,获取互联网金融领域前沿资讯。