机器中的幽灵：金融市场的人工智能、风险及监管 | 未央网

扫描分享

本文共字，预计阅读时间。

四、从摩尔定律到墨菲定律

哪些方面会出错？Andrew Lo 认为市场将出现更多的瞬间暴跌，或者其他负面变化，行业和监管者目前对这些问题还没有清晰的认识。「这些策略的性质使它们很难被理解。这意味着它们产生的影响也将很难预测，就像没人能预测出2010年5月6日的暴跌——即使到今天我们仍然不太了解到底发生了什么」。他也提到了骑士资本（Knight Capital）的覆灭，2012年这家美国主要的交易商由于软件故障在交易过程中损失了4.4亿美元，直接被推到了破产边缘：「我不认为我们会很快处理好这类问题，因为最终要解决的是人类能力和技术之间的错配和不协调。即摩尔定律遇上墨菲定律。」

技术并不能将对未来事件下注等金融活动的内在风险去除。无论人们或算法怎么做，这种风险仍可能存在。

正如贝克·麦坚时律师事务所（Baker & McKenzie）的合伙人 Arun Srivastava 指出的，「金融机构已经由于交易员违法违规被处罚了数十亿美元。银行可行的应对方案就是用程序化来做尽可能多的决策，因此越来越多的银行去拥抱人工智能和程序化交易。但降低了操作风险的同时，人工智能方面的内在未知风险并没有被消除。」

1）所有一切都在算法里

监管部门虽然对机器学习还不太了解，但也将算法视为可能发生问题的领域进而重点关注。加拿大投资行业监管组织（IIROC）市场监管高级副总裁 Victoria Pinnington 称她目前最大的担忧就是关于算法的产生过程，无论是在机器学习还是在更广义的系统化交易背景下，「如果算法有问题，」她说，「对市场的影响可能就会相当大。」

算法可能在各个方面出现问题。一个最常见的错误就是「过度拟合」，通常发生在一个算法过于复杂并缺乏合理假设时。在这种情况下它们无法从大量无关数据中（噪声）分辨出有用的相关性（信号），而是识别出了「幽灵」参数或似是而非的相关性。想象一下用一个敏感的麦克风对古典音乐会录音。过度拟合将把周围的背景噪音视为与管弦乐队发出的声音同等重要。就像 Babak Hodjat 所警示的，「人们可能错误的使用机器学习并且不做检验。如果你使用一个机器学习算法但没有充分检验它，那可能就会存在一些过度拟合，使算法今天看上去不错，但明天就可能会大错特错。这是需要仔细检查的。」

程序错误风险提高了使用新程序的压力。像之前提到的，差异化对于一个人工智能交易员的成功是很关键的。做出第一款成功的应用，机构将得到一个独一无二的可以盈利的机会——一个没有竞争的市场。接下来的风险就是其他机构将在市场上应用这个成功的策略。谷歌前工程师，目前任机器智能研究机构（Machine Intelligence Research Institute）研究人员的 Nate Soares 在接受金融时报采访时称，「将足够强大的保障措施编入高级人工智能，只有5%的可能性。」

2）数据、责任和法律风险

机构是否已了解与新型金融科技相关的法律风险目前还有很大不确定性：有47%的被调查者对此没信心。Price 先生并不惊讶。「原因在于这种技术还处于初期阶段，而且还在不断进步。人们对可能的风险感到谨慎和些许不确定也正是反映了这种技术处于初期阶段。」

一个风险是公司责任。做出糟糕的投资决策可能是由于数据质量差、对公司业绩分析失误、或算法有瑕疵，这都会引起投资者大幅亏损。机器学习模型对信用风险做出糟糕的决策时：出借方可能遭受财务损失、或潜在融资方的声誉受损，责任问题就可能出现。当这种情形发生时由谁承担责任目前还不明晰——金融机构自身、算法的作者、交易平台、数据提供者、或是其他人？

机器学习的智能及数据处理特性也可能使数据保护和隐私风险达到另一个高度。个人投资数据或敏感的公司数据无论因为事故（被黑客获取）还是因为制度（被市场管理者和政府获取）而落入其他人手中，都是互联网时代的一个非常常见的风险。当机器学习模型为达到更好效果而收集更多的数据时，这种风险也将随之增大。机构将越来越需要了解数据隐私与消费者保护法规之间的紧密联系，以及扩大的法律管辖范围，例如欧盟Cookie指令（EU Cookie directive）。贝克·麦坚时律师事务所（Baker & McKenzie）合伙人 Adrian Lawrence 预计获取数据的能力将对人工智能系统的范围及影响起着核心作用，她称「数据，及使用和获取数据的各类规则及过程，位于具有颠覆性的金融科技领域的核心位置。即使是最先进和最智能的算法及模型在不能有效、安全和合法的获取详细、准确、及时的数据时，也将变得毫无用处」。

除了法律风险，这些被调查者对于他们所在的机构是否了解人工智能的影响也是明显缺乏信心。49%的被调查者不能确定他们的机构了解了人工智能的其他重大风险。只有32%是确定的。考虑到这项应用还处于早期发展阶段，这项调查表明人工智能将会向机构展示出一系列风险，而其中的大部分还尚未定义。

3）对人工智能的过度依赖

通过这些例子，调查受访者似乎希望机器学习将帮助他们在某些情况下降低风险。近六成（58%）的人认为机器学习将「大大提升」他们的风险评估流程。比如，机器学习技术可以被用来警示基金经理去关注他们已投的企业中新出现的一些弱点（参见上图「了解外汇风险预测收益」）。

来自 Baker & McKenzie 的 Astrid Raetze 还期望消费信贷风险评估可以通过对客户进行更全面的风险剖析来加强。Raetze 女士表示，「如果能得到正确的部署，人工智能也可以在一些领域降低一定的风险。市场失当行为，反洗钱（AML）行为和了解你的客户（KYC）行为都是地方监管机构可以利用人工智能来改进监管和审查的。」基于机器学习的分析也可以识别某些客户活动的具体方式，甚至可能辨别某种形式的渎职。这有助于解释为什么相对于其他领域，受访者更希望能在未来三年内，机器学习能应用在风险评估领域。

4）人工智能 VS 知识产权

调查对象似乎一致认为，算法需要更多的监管。超过一半的人（56%）说，给监管机构提供检查交易的算法将有助于保证金融体系的安全。这说明大量的金融监管机构正计划使算法的源代码开放给当局检查。

例如，美国商品期货交易委员会（CFTC）目前正在试图推动一项关于自动交易的规定（或称为 REGAT）。这项规定最有争议的点之一是，使商品期货交易委员会和美国司法部获得金融机构的交易算法。

REGAT最直接的对手，Chris Giancarlo（美国商品期货交易委员会的共和党成员）认为，给监管机构这种程度的控制将向较小的市场参与者征收额外的合规成本，并阻碍期货市场的创新。

此外，Giancarlo 先生主要是担心本条例将标志着有关当局可以前所未有的入侵私人知识产权。他在最近的一份声明中表示，「我不知道除了国防和安全之外的任何其他行业，联邦政府是否都有如此容易获得一个公司的知识产权和未来的商业策略的方式…」。类似的监管机制也表现在欧洲 MiFID 市场的监管上，并可能导致类似的知识产权冲突的算法。实际上，Baker & McKenzie的 John Flaim 预测知识产权纠纷的本质会显著改变，他认为，「知识产权所有权将是关键。自本世纪初开始，电子商务专利申请的文件有了显著的增加。但是，美国最高法院发布的判决导致许多电子商务的专利在2014年全面失效。许多其他地区，比如欧洲，完全不允许软件专利。金融行业因此面临着平衡他们已增加的研发努力和电子商务专利的高门槛。」

在源代码存储库移交之前，监管机构还需要证明数据保护和网络安全的能力。2014年3月，一群中国黑客攻击了美国人事管理办公室。他们盗窃了2100万份美国联邦雇员的记录，其中包括美国商品期货交易委员会的高级成员。这样的漏洞在当局获取算法之前就需要修复，然而，结果的出现使得一些人怀疑，监管当局并未认真准备快速迭代的技术。

5）监管者跟上进度了吗？

当被问及金融监管机构是否「跟上了技术进步」时，76% 的受访者持反对意见。近十分之七的受访者表示，他们对于「监管机构对金融技术和它们对如今金融服务部门的影响有足够的了解」这一点几乎没有信心。一位受访者评论道，「监管机构可悲的不能胜任人工智能监管，他们需要增强了解，不然有着被边缘化的风险。」

在竞争数据科学家和其他拥有机器学习相关知识的专业人员方面，面对大型金融机构，监管机构肯定处于不利地位。这使得他们很难跟上这一领域最新的技术进展。不过，监管机构开始探索机器学习在金融市场扮演的角色和产生的影响。正如 REGAT 和 MiFID II 一样，很多探索都发生在整个系统交易环境，而不是针对机器学习。然而，在美国证券交易委员会和美国金融业监管局、英国央行（Bank of England）和新加坡金融管理局（Monetary Authority of Singapore）等监管机构带领下，监管人员开始了解人工智能和机器学习在金融市场扮演的角色。

在 ASIC，John Price 2015 年初带头创立了一个创意中心，试验在金融市场上应用机器学习的不同领域，而且它已经向使用这样技术的公司/组织提供建议。Victoria Pinnington 在加拿大 IIROC 也正在带领一个类似的组织。两边官员都说，他们所在的机构都在与监管机构交流研究结果。

这种互动便是调查对象们给监管机构提议的核心所在。当被问及监管机构应采取的管理新技术风险的单一措施是什么时，多数受访者（32%）认为监管机构应该与一些金融科技公司合作。而有的受访者（25%）则建议应该在全球范围内协调跨市场的监管能力。

调查中，绝大多数的产业管理者们相信，我们需要针对人工智能和机器学习的新监管形式。60% 的调查对象相信，现存的规定需要加以改善，而目前的监管是不够的（见表 6 ）。但是，监管者并不想在近期起草针对人工智能的特别规定。那些近期出现的规定将关注算法本身或者稍广泛的系统性交易领域。在澳大利亚，Price 先生说，任何规则制定都应该以原则为基础，而不是基于规定。「任何新的规则都不会说『你得去做X、Y 还有 Z』。它们会规定，比如说，要求这些公司必须要拥有足够完善的风险管理程序。」

6）飞行员与自动飞行

几乎可以确信，随着时间的流逝，机器学习将把一些交易员、分析师、还有其他产业雇员推离他们目前的岗位。68% 的调查对象预期，在十五年内将看到自己工作发生完全或者显著的改变。每十个人中就会有四人担心三年内它会对劳动力结构带来负面影响。

然而，在大多数职位中（包括交易），人类还不太可能在短期内就消失。据 Hodjat 先生所言，个体交易者的角色将会被削弱一些，但绝不会完全被抹灭。他指出，特定类型的交易技能是无法被代替的，才华横溢的专业人员也会被需要，比如需要他们构建、验证算法。这也许会挫败一位微软执行官在 2014 年所作出的预言：「在十年内，将由机器人运行这座城市，投资银行家们、分析师们、甚至是量化分析师都会变得多余。」

Amen 先生也相信，引导人工智能运用走向成功，人类直觉和影响十分重要。「即使使用机器学习，你仍需要运用少量的市场理解和直觉。输入一个系统，接下来十年都不管它，情况不是这样的；你时刻都希望想出与市场变化有关的新点子，这最终还是需要人来做。」

Ebner 先生把机器学习时代里投资组合经理的职位比做飞行员。「我们周围存在某种结构，而且我们一路上几乎都在采用自动飞行模式，但是，我们可以将一些细节信息输入导航系统，可以决定什么时候自动飞行，什么时候手动操作。我们正控制着这架飞机。」

五、结论

2016 年年初，一群世界领军的企业家，包括 Peter Thiel 和 Elon Musk，宣布他们将要投入十亿美金建立一个叫做 OpenAI 的公司。它的唯一目的就是保护人类免受人工智能危害。在一封公开信中，这些创始人总结了这项技术中的紧张关系，写道，「我们很难测量人类级别的人工智能到底会给社会带来多少好处，同样难以想象如果以不当的方式构建、使用人工智能，会对社会产生什么样的危害。」

类似的情绪也贯穿了金融市场对人工智能应用的看法。所有人都承认，机器学习会有多么颠覆性，对比，我们还有很多需要学习的地方。同时，我们也需要去了解它潜在的负面效果。

大多数的受访者都对未来人工智能在金融市场的角色表示出谨慎的乐观。这一乐观态度源自于人们认识到，成功的应用将会带来的巨大机遇。然而，像所有的科技一样，很大程度上，人工智能使用方式将最终决定它的风险跟回报。

六、关于本调查

1）定义我们的术语

人工智能是一个总称，包含了计算机科学研究的多个领域，这些领域都试图让计算机系统执行那些通常需要借助人类智能的任务，比如视觉感知和决策。机器学习是人工智能的一个分支，它能让计算机系统根据算法和分析数据，独立学习和自适应。人们正将机器学习布局在金融业的几个领域里，最显著的当属交易和财务研究方面，但是，机器学习也被用于其它方面，比如投资咨询。

2）这一研究

调查时，Euromoney Institutional Investor Thought Leadership 从全世界的金融机构中调查了424 名高级管理人员。其中，超过四分之一（26%）的受访者在资产管理公司工作，16% 的受访者在投资银行工作，其余的在银行、保险公司、对冲基金和经纪公司工作。大多数的受访者（57%）在他们的公司拥有 C 级职位；剩下的其他人是不同领域的高级管理人员，包括数据、技术、法律、合规等。此外，调查对象中大型、中型、小型企业都有涉及，51% 的公司拥有 100 名或更多的员工。最后，调查样本是全球范围的：三分之一的受访者来自欧洲，三分之一的受访者来自北美，16% 来自亚洲，剩下的受访者来自拉丁美洲、中东和非洲。

除外，还有 11 名高级产业高管和独立专家参与了深度访谈。

他们是：

· Saeed Amen ：Thalesians 总经理、联合创始人

· Paul Ebner：Blackrock Scientific Activ Equity 高级投资组合经理

· John G.Flaim：贝克•麦坚时的知识产权全球总监

· Peter Hafez：首席数据科学家，Raven Pack

· Babak Hodijat：Sentient 科技公司的首席科学家

· Adrian J.Lawrence：贝克•麦坚时的媒体和 IT 合作伙伴

· Andrew Lo：MIT 斯隆管理学院金融工程实验室的金融教授、主任

· Victoria Pinnington：加拿大投资行业监管组织（IIROC）市场监管高级副总裁

· John Price：澳大利亚证券投资委员会委员

· Astrid Raetze：贝克•麦坚时的银行与金融业务合作伙伴

· Arun Srivastava：贝克•麦坚时的金融服务监管合作伙伴

《机器中的幽灵：金融市场中的人工智能、风险及监管》是Euromoney Institutional Investor Thought Leadership 的一项报告，受到了贝克·麦坚时国际律师事务所的委托。这一研究由 Thought Leadership 指挥完成的。报告中的结果和观点只代表 Thought Leadership 公司自己，不完全反映赞助商的观点。

调查数据产生了许多关于人工智能技术如何被来自世界各地的管理者们采用、管理和感知的有趣发现和见解。下面是调查中一些其它有趣的发现。

3）非洲是人工智能「局外人」？

当被问到在接下来的三年里，人工智能和机器学习将会颠覆哪三大部门时，几乎世界各地的金融服务高管们都选择信贷、资产管理和股票证券交易受到的影响最大。

特例是那些来自中东和非洲的调查对象。有趣的是，他们预言了支付系统和虚拟钱包将会首先受到颠覆。正当大量的移动银行平台在非洲乡村推广时，我们能否期待新的人工智能应用将会更进一步的改革非洲的小额银行业务？

4）最高管理层预见了颠覆

我们分析了参与者中高级管理层的回答，他们是一个有影响力的团体，占到了全部调查人数的 57%。惊奇的是，这些决策制定者们认为，在整个金融服务业中，人工智能最负面的影响将会体现在劳动力结构上。

39% 的调查对象认为人工智能在劳动力结构上的影响，要么非常消极要么比较消极。他们也承认，人工智能在市场稳定性上的负面影响，有 38% 的人认为人工智能技术将会有负面的或者非常负面的影响。

5）监管和干预上的合作与协调

当我们要求调查对象给出一个监管机构应该采取的、解决新科技影响的最重要的办法时，大多数人表示，监管机构和金融科技使用者之间的合作是最重要的（32%）。然而，亚洲的调查对象把以一种系统的全球方式，协同各个市场的监管能力看做是最重要的措施。不出所料，（38%）调查对象不认为，管理者增加市场监督或者迫使市场参与者们公布更多技术信息是最佳的解决办法。

6）对监管者的信任度

全球对监管者的信任度都非常低，但在北美洲尤其的明显。这个发现非比寻常。因为美国的金融监管者已经引进了全球最先进的机构，其中包括金融研究办公室（the Office for Financial Research），一个通过先进的数据科学对金融市场进行更为精细分析的组织。

7）人工智能/机器学习和监管

一些调查对象相信，为了解决由人工智能/机器学习引发的问题，需要起草、实施进一步的规定。那些专司法律、合规以及规定领域的调查对象，与数据和技术特定部门人士一起，最渴望新规定的出台和实施。