数据处理

旧版声明

本文为旧版实现，仅供学习参考。

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

下列代码在读取数据时，使用最新dai.query接口即可。

数据读取

\

导语

本文继续讲解Pandas库在数据分析和处理上的一些应用。

[https://bigquant.com/codesharev2/5a39d584-7b74-4d00-832f-

新版数据导入部分使用dai库

导语

本节主要讲解Pandas库中 DataFrame 的数据查看与选择

Pandas 是基于 Numpy 构建的，让以 Numpy 为中心的应用变得更加简单。平台获取的数据主要是以 Pandas 中DataFrame 的形式。除此之外，Pandas 还包括 一维数组Series 以及三维的Panel。

Pandas中获取数据的方式

下面将进行详细介绍：

Series：一维数组，与Numpy中的一维array类似。二者与Python基本的数据结构List也很相近，其区别是：List中的元素可以是不同的数据类型，而

BigQuant的DAI数据平台提供了许多字段运算的表达式函数，完整的函数在这个文档（DAI SQL 函数列表），我们这篇文档总结了一些常见的表达式

1. DAI数据平台表达式函数的使用

1.1 输入特征模块中使用表达式函数

DAI数据平台封装的表达式函数，需要在可视化模式下的“输入特征（DAI SQL）”模块中的“表达式特征”一栏中填写，之后再连接数据抽取模块就可以把该表达式的计算抽取出来

例如，我们以5日平均收盘价`m_avg(close,

在使用“输入特征（DAI SQL）”提取数据的时候，可能会遇到缺失值的问题，缺失值的出现可能是因为原始数据表中有缺失值，也有可能是表达式计算的过程中产生了缺失值

对于缺失值，我们主要有两种处理方式，缺失值删除，或者缺失值填充

1. 缺失值删除

要想将缺失值剔除，只需要在“输入特征（DAI SQL）”模块中，将“表达式-移除空值”勾选即可

值得注意的是，使用这种方法，只要一行数据中有一个字段是空值，那么这一行就会被剔除

因此，当有多个特征被提取的时候，只要有一个特征由于运算逻辑错误导致整个字段都是空值的话，那么所有行都是包含空值的，这样的话数据提取

策略介绍

A股分两种：“漂亮50”和“要命3000” http://stock.qq.com/a/20170428/006821.htm 证券时报记者以三个指标筛选出A股的“漂亮50”，这三个指标分别是净利润增长率长大于15%，连续3年净资产收益率大于15%，市盈率低于35。

策略流程

1. 筛选条件：净利润增长率长大于15%，连续3年净资产收益率大于15%，市盈率低于35。
2. 策略回测：开盘买入，收盘卖出，回测时间为2017-05-01至2017-06-15

策略实现

输入特征模块

• 将净利润增长率，净资产收益率，市盈率作为作为输入特征

本系列文章列举了AIStudio3.0环境中可视化模式下的常用数据处理方式

小伙伴们可以在评论区发你们想了解的其他数据处理方式，我们会在本文持续更新

新版本暂无深度学习可视化模块

导语

在阅读了 深度学习的简要介绍后，本文将介绍深度学习DNN模型及其在量化投资领域中的应用。

深度学习在量化领域的应用

机器学习作为人工智能的核心，其传统算法在解决很多问题上都表现出了高效性。随着近些年数据处理技术上的进步和计算能力的提升，深度学习得以在很多问题上也大放光彩，成为近一段时间互联网、金融等领域的大热门。

在量化投资领域，机器学习尤其是由统计学延伸的各种算法一直以来都被尝试应用在选股、择时等策略的开发上，随着深度学习在其他领域上的突破，其在自动化交易甚至投资策略的自开发自

Numpy（Numerical Python）和Pandas两个库是Python编程语言中两个极其重要的库，尤其在数据科学、金融分析和量化投资领域。尽管它们在处理数据方面有所重叠，但各自设计的初衷和优势领域有所不同。

Numpy简介

• 核心功能：Numpy是一个开源的Python库，用于科学计算。它提供了一个高性能的多维数组对象和这些数组的操作工具。
• 设计初衷：为数学运算、尤

https://bigquant.com/experimentshare/1e185519774149e6803c36f1e6ecb1e6

\

\

\

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

新版数据平

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

新版数据平

导语

完成了数据处理，接下来就可利用平台集成的各算法进行模型训练和模型预测啦。本文将详细介绍“模型训练”、“模型预测”两大模块操作、原理。

模型训练和模型预测是AI策略区别于传统量化策略的核心，我们通过模型训练模块利用训练集因子和标注数据构建一个模型，并通过模型预测模型将预测集的因子数据输入模型进行预测。 \n

在模块列表的 机器学习 、 **深度学习

{{use_style}}

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

[https://bigquant.com/wiki/doc/demos-ecdRvuM1TU](https://bigquant.com/wiki/doc/demos-ecd

介绍

BigQuant是专业但易用的AI量化投资平台。如下知识可以帮助我们更好的开始策略开发。

如果没有特别说明，请在 AIStuido 3.0使用。

编程

BigQuant平台同时支持可视化编程开发和代码编程开发，并且两种模式可以无缝切换和融合

• 可视化：无需学习复杂的编程，支持低代码/零代码开发策略。BigQuant提供策略了海量模块、模版、学院、策略社区、知识库

m7 = M.derived_feature_extractor.v3(
        input_data=m1.data,
        features=m15.data,
        date_col='date',
        instrument_col='instrument',
        drop_na=False,
        remove_extra_columns=False,
        m_cached=False, # 去掉缓存
        user_functions={}
    )

摘要

近年来，随着投资者对于因子选股体系研究的深入，选股因子值的处理也在逐渐细化。本文主要对于选股因子的正交进行了讨论。之所以讨论因子的正交是因为在传统的多因子模型中，选取的因子之间往往存在着相关性，而这种相关性并不稳定。因此相关性的存在会复杂因子权重的分配。对于等权分配因子权重的多因子模型，由于因子之间相关性的存在，模型可能实际上对于某一因子有更高的暴露（例如，市值因子）。对于权重优化的模型，相关性的影响可能会更大。因此，本文考虑在构建因子的时候就对于相关性进行剔除从而达到更为可控的因子暴露。

选股因子截面相关性波动较大。以市值因子与反转因子为例，虽然两因子截面相关性长期来看均值较

摘要

估值因子在不同行业、不同规模上市公司间差异较大

估值因子是一类非常重要的风格因子，本报告中我们选取了十个具有代表性的估值因子——EP、EPcut、BP、SP、NCFP、OCFP、FCFP、DP、EV2EBITDA、PEG，首先经实证分析发现，不同一级行业间估值因子差异较大，并且随时间推移同一行业的估值水平也在不断变化。同时，估值因子在不同规模的上市公司间差异也比较大，近两年EP、EPcut、BP、SP、NCFP、OCFP、DP明显与市值因子呈现正相关性，FCFP、EV2EBITDA与市值因子略微负相关，PEG与市值因子相关性不明显。

**各估值因子间也

平台提供的所有所有数据、因子都是后复权的吗？

问题

想要单独计算和查看一个因子特征数据，比如 `sum(avg_turn_10 > 0.05, 20)`，应该怎么做？

视频教程

/wiki/static/upload/b1/b12c2ca5-40ca-4e7c-bf51-6f96a844080f.mp4

\

实现步骤

1. 我的策略 > 新建 > 可视化策略

2. 只保留如下四个模块，删除其余模块

   
   ![{w:100}{w:100}{w:100}](/wik

没有找到类似的函数，类似的就一个mean求平均值，为什么没有函数文档啊？

问题

找不到依赖的列：close_0avg_turn_0

选择换手率因子，是为了找流动性较好的股票，股性较为活跃。 选取资金流超大单因子，是为了增加短期买点的爆发力。 因为超大单因子的ic均值很高，而且存在一定的方向性，在牛市中有较为稳健的风格收益。

怎么解决呀！少了那个定义呀

https://bigquant.com/experimentshare/c73ca37a718648c7ac0951e25dee42fa

![{w:100

问题

如下图，请教一下各位大佬，因子分析里面的收益价格，在因子分析的时候是取当天的还是第二天的？

看了alphalens的介绍，这里应该要取第二天的数据，不知道平台的因子分析里面有做了处理没有

策略

\

问题

因子分析模块中，如何设定参与因子分析的股票数量