配置Quick引擎
为了更好的优化数据集性能,Quick BI推出Quick引擎,Quick引擎支持直连模式、抽取加速、查询缓存和维值加速4种计算模式,本文为您介绍如何配置Quick引擎。
前提条件
已连接目标数据源,请参见连接数据源。
如何使用Quick引擎
在正式开始介绍Quick引擎具体用法前,先结合每种计算模式特点给出一个场景使用指南,方便您在不同场景下选择最合适的计算模式。
直连模式
直连模式是Quick引擎查询的默认模式,所有的查询会发送给底层数据库或数仓执行,所有与Quick BI连接的数据库均支持该模式。
登录Quick BI控制台。
在Quick BI首页,按照下图指引,进入数据集编辑页面。
在数据集编辑页面创建数据集,请参见创建并管理数据集。
数据集保存后,后续基于该数据集创建的数据分析查询默认直连模式。
抽取加速
当直连模式查询过多或者数据量过大时,会使得数据库负载过重导致查询速度变慢,从而影响仪表板展示和数据分析效率,此时可以考虑Quick引擎的抽取加速。抽取加速有以下特点:
可以周期性抽取数据到Quick引擎中,通常适用于离线型数据,例如天粒度的数据。
支持增量和全量抽取,包含全表抽取和预计算两种模式。
免费赠送抽取空间:
高级版抽取加速容量为2 GB。
专业版抽取加速容量为10 GB。
数据集抽取限制: 单数据集不超过1亿行数据。
支持高级版、专业版抽取加速容量扩容。说明如下:
扩容需以5 GB为单位进行购买(5000元/年),最多可扩容100 GB。
高级版扩容后,如果从高级版升级为专业版,付费扩容的容量不变,免费容量由2 GB变为10 GB。
仅高级版和专业版支持抽取加速功能,目前覆盖MySQL、SQL Server、AnalyticDB for MySQL 3.0、Oracle、MaxCompute、PostgreSQL、Hologres、Hive、AnalyticDB for PostgreSQL、PolarDB for MySQL、PolarDB for PostgreSQL、Presto和达梦数据源。
MaxCompute配置抽取加速时,数据源采用公网方式连接,可能在MaxCompute中产生额外下载费用,建议进入数据源修改数据库地址。
组织管理员开启抽取加速功能。
登录Quick BI控制台。
按照下图指引,打开抽取加速开关。
数据开发人员在目标数据集中,开启并使用离线加速功能。
在Quick BI首页,按照下图指引,进入数据集管理页面。
在数据集列表中,选择目标数据集并配置加速功能。
在Quick引擎区域,打开开启引擎开关并选中开启抽取加速后,您需要配置以下参数:
参数名称
参数描述
抽取方式
支持全表加速、预计算、全表加速+预计算三种计算模式。
全表加速,系统会抽取全量的数据并进行加速计算。
开启后所有查询都可以加速,对于抽取空间有较高要求,如果您的抽取空间足够大,推荐您选择全表加速。
预计算,系统会抽取部分数据并进行加速计算。
开启后,系统会将高频查询结果预先计算好,当用户访问该报表时,便可以快速返回结果。例如,对于有分区的ODPS表,您可以选择预计算方式只抽取一部分,从而节约抽取空间,提高分析效率。
全表加速+预计算,抽取全表数据,并智能根据查询做预计算,进一步提升全表加速查询速度
抽取时间
支持手动触发和定时加速两种方式。
选择手动触发,手动触发后,才会进行数据的抽取加速。
选择定时加速,并配置时间后,则每月、每周、每日或每小时会定时进行数据的抽取加速。
定时配置
支持按照月、周、天或者小时级别,定时配置抽取加速的时间。
说明仅当选择抽取时间为定时加速,才能配置该选项。
按日期加速
如果当前表为分区表且日期字段为分区列,则您可以选择该日期字段,并进行增量抽取。您也可以配置仅抽取最近几天的数据,来节约抽取空间。
失败报警
当任务执行失败时,您可以配置报警的接收方式和收件人。
接收方式支持钉钉、邮箱和钉钉群3种方式。
收件人:一次可选择多个收件人,且收件人只能是同组织下的阿里云账户。
若收件人名称显示灰色,说明该账户没有设置邮箱,请确保收件人已设置好邮箱。配置邮箱的操作请参见收件人邮箱配置。
说明仅当接收方式选择钉钉和邮箱时,需要配置收件人。
机器人webhook和密钥:择接收方式为钉钉群时,需要配置该选项。
获取机器人Webhook地址请参见如何获取自定义机器人Webhook地址?。
密钥为获取自定义机器人Webhook地址中加签的值。
数据分析人员创建报表并进行分析数据。
配置完成后,您可以创建报表并进行数据分析,比如创建即席分析。
请参见新建即席分析。
查询缓存
数据集缓存机制可以加速报表访问,降低数据库的压力。例如,某个数据集开启缓存后,只要报表被访问过,则在预设的缓存时间内,其他人再访问报表时,系统无需查询即可直接显示报表数据。
结果缓存是一种应用范围很广且非常有效的数据查询加速方式,对一定时间内存在重复查询的数据集都可以配置查询缓存,特别是重复查询较多的场景,例如仪表板展示类,可以大幅提升查询性能。
开启查询结果缓存,可配置不同缓存时间,如果数据是非小时粒度实效性,建议选择12小时。
仅高级版和专业版支持数据集缓存功能,目前覆盖所有支持与Quick BI建立连接的数据源。
登录Quick BI控制台。
在Quick BI首页,按照下图指引,进入数据集管理页面。
在数据集列表中,选择目标数据集并配置缓存时间。
您可以选择跟随全局缓存策略或自定义设置缓存时间。
新建数据集时缓存配置默认为跟随全局缓存策略,全局缓存策略的配置方式请参见全局缓存配置。
您也可以自定义设置每个数据集的缓存策略。
配置不同缓存时间,表示缓存生效的有效期。各版本支持设置的缓存时间如下:
版本
缓存时间
高级版
5分钟、30分钟、1小时、2小时、4小时、12小时。
专业版
5分钟、30分钟、1小时、2小时、4小时、12小时、24小时。
超过预设的缓存时间后,缓存失效,此时在报表页面触发查询才会有新的缓存,相同SQL查询语句从缓存中取数。
缓存以数据集为粒度,清理缓存时会清理该数据集关联的所有图表缓存数据。超过预设的缓存时间后,此数据集的所有图表缓存都会被清除。
单击保存,查询缓存生效。
维值加速
某些维度字段被频繁用于查询控件和即席分析时,您可以为高频字段配置维值加速。例如,您需要查看基于客户名称和产品名称查询成交情况,则需要在订单明细表中为客户名称和产品名称配置维值加速。
假设这俩字段分别存在于数据库表customer_info和product中,对应的字段名称为user_name
和product_name
。
配置加速后,进行数据查询时,仅需分别在customer_info中查询user_name
的值,以及在product中查询product_name
的值,无需通过订单明细表做聚合查询,从而提升查询速度。
仅高级版和专业版支持维值加速功能,目前覆盖所有支持与Quick BI建立连接的数据源。
登录Quick BI控制台。
在Quick BI首页,按照下图指引,进入数据集管理页面。
在数据集列表中,按照下图指引,选择目标数据集并配置维值加速。
开启维值加速后,假设目标数据集为订单明细表,您需要在仪表板查询基于客户名称和产品名称查询成交情况,因此需要为这两个字段配置维值加速。
假设客户名称和产品名称字段分别存在于数据库表customer_info和product中,对应的字段名称为
user_name
和product_name
。此时:数据集维度:分别为客户名称和产品名称。
配置表:分别为customer_info和product。
配置表字段:分别为
customer
和product_name
全局缓存配置
高级版和专业版的组织管理员支持配置全局缓存策略。新组织默认关闭全局缓存。
您可以按照图示方式进入全局缓存配置。
当选择开启全局缓存(①)后,您可以设置相同查询直接返回缓存结果的间隔时间(②)和自动清除时间(③)。
说明相同查询直接返回缓存结果的间隔时间支持选择5分钟、30分钟、1小时、2小时、4小时、8小时、12小时和24小时。
自动清除时间为每隔半小时。
单击更新配置,保存配置结果。