基于分层多尺度的高斯Transformer
由qxiao创建,最终由qxiao 被浏览 77 用户
原标题:Hierarchical Multi-Scale Gaussian Transformer for Stock Movement Prediction
时间:2020年
作者:
摘要
由于金融市场的不确定性,预测股票等金融证券的价格走势是一项重要而具有挑战性的任务。本文提出了一种新的基于Transformer的股票移动预测方法。此外,我们还对提出的基本Transformer进行了一些增强。首先,提出了一种多尺度高斯先验增强Transformer局部性的方法。其次,我们提出了一种正交正则化方法,以避免在多头自注意机制中学习多余头。然后,我们设计了一个用于Transformer的交易缺口分割器,以学习高频金融数据的层次特征。与其他流行的递归神经网络(如LSTM)相比,该方法在挖掘金融时间序列的长期相关性方竞争方法。
/wiki/static/upload/ac/acfd8c33-78a5-4cac-849f-d7bed7cc2a36.pdf
\