盘点金融领域里常用的深度学习模型

作者: Sonam Srivastava 2017-11-02 14:24:08

盘点金融领域里常用的深度学习模型

在今天我们发布的这篇文章中,作者 Sonam Srivastava 介绍了金融中的三种深度学习用例及这些模型优劣的证据。

我们跟随 Sonam Srivastava 的分析,并展望深度学习在金融领域的运用前景。虽然金融是计算密集型最多的领域,但广泛使用的金融模型:监督和无监督模型、基于状态的模型、计量经济学模型甚至随机模型都受到过度拟合和启发式问题带来的影响,抽样结果很差。因为金融生态圈异常复杂,其非线性充斥着大量的相互影响的因素。

要解决这个问题,如果我们考虑到深度学习在图像识别、语音识别或情感分析方面所做的研究,我们就会看到这些模型能够从大规模未标记数据中学习,形成非线性关系的递归结构,可以轻松予以调整以避免发生过度拟合。

如果金融生态圈能够使用这些网络进行建模,应用领域就会深远而广泛。这些模型可用于定价、投资组合构建、风险管理甚至高频交易等领域,让我们来解决这些问题。

收益预测

以预测每日黄金价格的抽样问题为例,我们首先看看传统的方法。

ARIMA 模型

ARIMA 模型(Autoregressive Integrated Moving Average model),差分整合移动平均自回归模型,又称整合移动平均自回归模型(移动也可称作滑动),时间序列预测分析方法之一。ARIMA(p,d,q)中,AR 是“自回归”,p 为自回归项数;MA 为“滑动平均”,q 为滑动平均项数,d 为使之成为平稳序列所做的差分次数(阶数)。“差分”一词虽未出现在 ARIMA 的英文名称中,却是关键步骤。

ARIMA 模型的基本思想是:将预测对象随时间推移而形成的数据序列视为一个随机序列,用一定的数学模型来近似描述这个序列。这个模型一旦被识别后就可以从时间序列的过去值及现在值来预测未来值。现代统计方法、计量经济模型在某种程度上已经能够帮助企业对未来进行预测。利用整合移动平均自回归模型,来尝试预测季节性平稳时间序列,我们得到结果如下图所示:

VAR 模型

VAR 模型,(Vector Autoregression model)向量自回归模型,是一种常用的计量经济模型,由计量经济学家和宏观经济学家 Christopher Sims 提出。它扩充了只能使用一个变量的自回归模型(简称:AR 模型),使容纳大于 1 个变量,因此经常用在多变量时间序列模型的分析上。

如果我们将相关的预测变量添加到我们的自回归模型中并移动到向量自回归模型,我们得到结果如下图所示:

深度回归模型

如果在数据上使用简单的深度回归模型,使用相同的输入,会得到更好的结果,如下图所示:

卷积神经网络

卷积神经网络(Convolutional Neural Network, CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。

卷积神经网络由一个或多个卷积层和顶端的全连通层(对应经典的神经网络)组成,同时也包括关联权重和池化层(pooling layer)。这一结构使得卷积神经网络能够利用输入数据的二维结构。与其他深度学习结构相比,卷积神经网络在图像和语音识别方面能够给出更好的结果。这一模型也可以使用反向传播算法进行训练。相比较其他深度、前馈神经网络,卷积神经网络需要考量的参数更少,使之成为一种颇具吸引力的深度学习结构。

修改我的架构,使用卷积神经网络来解决同一个问题,得到结果如下图所示:

所得结果大为改善。但***的结果还在后头。

长短期记忆网络

长短期记忆网络(Long Short-Term Memory, LSTM)是一种时间递归神经网络 (RNN),论文***发表于 1997 年。由于独特的设计结构,LSTM 适合于处理和预测时间序列中间隔和延迟非常长的重要事件。

LSTM 的表现通常比时间递归神经网络及隐马尔科夫模型(HMM)更好,比如用在不分段连续手写识别上。2009 年,用 LSTM 构建的人工神经网络模型赢得过 ICDAR 手写识别比赛冠军。LSTM 还普遍用于自主语音识别,2013 年运用 TIMIT 自然演讲数据库达成 17.7% 错误率的纪录。作为非线性模型,LSTM 可作为复杂的非线性单元用于构造更大型深度神经网络。

使用循环神经网络(RNN)的变种后,我得到结果如下所示:

因此,整体来说均方误差的趋势出乎意料。

投资组合构建

我们尝试使用深度学习解决的第二个金融问题是投资组合构建。在这个问题上,深度学习的实际应用效果很好。我的研究灵感来自这篇论文:《深度投资组合》(https://0x9.me/8uOBt)

这篇论文的作者尝试构建自动编码器,将时间序列映射到自身。使用这些自动编码器的预测误差成为股票测试版(与市场相关)的代用指标,自动编码器用作市场的模型。

自动编码器(auto-encoder),是一种无监督的学习算法,主要用于数据的降维或者特征的抽取,在深度学习中,自动编码器可用于在训练阶段开始前,确定权重矩阵 W 的初始值。基于上述自动编码器的误差选择不同的股票,我们可以使用另一个深度神经网络来构建深度指标,结果相当不错,如下图所示:

深度神经网络已成为利用股票复制指数的指数构建方法。

但这只是它的开始!如果我们应用智能索引,在我去掉指数的极端下降期,并在智能索引上训练我的指数映射深度神经网络时,我就能以惊人的速度超过指数!

这种技术在证券投资组合领域有着巨大的潜力!

结论

目前金融业的趋势是朝更复杂、更健全的的模式发展。随着大量数据科学家涌入该行业,对所有银行来说,技术是一个巨大的压力。像 RelTec、Worldquant 这样的对冲基金,在其交易中已经使用这种技术。由于这些复杂模型在其他领域所表现出的优异结果,以及在金融建模领域的巨大差距,将会有一系列的戏剧性的创新涌现!

更好地解决金融和贸易领域的关键问题,将会提高效率、提高透明度、加强风险管理和新的创新。

深度学习 模型 金融领域
上一篇:那些深度学习《面试》你可能需要知道的 下一篇:如有有一天,你的小孩问:「爸爸,什么是机器学习呀?」
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

2020年深度学习优秀GPU一览,看看哪一款最适合你!

如果你准备进入深度学习,什么样的GPU才是最合适的呢?下面列出了一些适合进行深度学习模型训练的GPU,并将它们进行了横向比较,一起来看看吧!

大数据文摘 ·  1天前
清华开源Jittor:首个国内高校自研深度学习框架,一键转换PyTorch

深度学习框架越来越多,主导的团队也从高校研究机构渐渐转向了科技巨头。但是,学界在这一领域的力量不容忽视。今日。清华大学开发了一个名为计图(Jittor)的深度学习框架。

佚名 ·  2020-03-20 14:33:29
一行代码让性能提升2倍 精选

如果现在向你推荐一款神器,可以实现训练速度翻倍,访存效率翻倍,你心动吗?心动不如行动,来和我一起看看这款神器——基于PaddlePaddle核心框架的自动混合精度技术,简称飞桨 AMP 技术。

佚名 ·  2020-03-13 13:23:42
Facebook研究开放三个新框架,让深度学习更容易

你知道吗?微软、谷歌、Facebook、亚马逊、Uber等科技巨头的研究部门已经成为人工智能(AI)领域开源框架最活跃的贡献者之一。

读芯术 ·  2020-03-10 13:27:28
迁移学习,让深度学习不再困难……

在不远的过去,数据科学团队需要一些东西来有效地利用深度学习:新颖的模型架构,很可能是内部设计的;访问大型且可能是专有的数据集;大规模模型训练所需的硬件或资金。

读芯术 ·  2020-03-02 17:03:32
国产深度学习框架MegEngine,三月底即将开源

2020 年我们应该选择哪一种深度学习框架?现在又有了一个新选择,据可靠消息,来自旷视 Brain++的 核心深度学习框架即将于 3 月底开源。

Synced ·  2020-02-28 15:20:38
从TensorFlow到Theano:横向对比七大深度学习框架

最近,来自数据科学公司 Silicon Valley Data Science 的数据工程师 Matt Rubashkin(UC Berkeley 博士)为我们带来了深度学习 7 种流行框架的深度横向对比,希望本文能对你带来帮助。

AI小师弟 ·  2020-02-25 15:04:48
2020年搞深度学习需要什么样的GPU:请上48G显存

在 lambda 最新的一篇显卡横向测评文章中,开发者们探讨了哪些 GPU 可以再不出现内存错误的情况下训练模型。当然,还有这些 GPU 的 AI 性能。

机器之心 ·  2020-02-19 15:16:42
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载