为了更好的优化数据集性能,Quick BI推出Quick引擎,Quick引擎支持直连模式、抽取加速、查询缓存和维值加速4种计算模式,本文为您介绍如何配置Quick引擎。
前提条件
已连接目标数据源,请参见连接数据源。
如何使用Quick引擎
在正式开始介绍Quick引擎具体用法前,先结合每种计算模式特点给出一个场景使用指南,方便您在不同场景下选择最合适的计算模式。
直连模式
直连模式是Quick引擎查询的默认模式,所有的查询会发送给底层数据库或数仓执行,所有与Quick BI连接的数据库均支持该模式。
登录Quick BI控制台。
在Quick BI首页,按照下图指引,进入数据集编辑页面。
在数据集编辑页面创建数据集,请参见创建并管理数据集。
数据集保存后,后续基于该数据集创建的数据分析查询默认直连模式。
抽取加速
当直连模式查询过多或者数据量过大时,会使得数据库负载过重导致查询速度变慢,从而影响仪表板展示和数据分析效率,此时可以考虑Quick引擎的抽取加速。抽取加速有以下特点:
可以周期性抽取数据到Quick引擎中,通常适用于离线型数据,例如天粒度的数据。
支持增量和全量抽取,包含全表抽取和预计算两种模式。
免费赠送抽取空间:
高级版抽取加速容量为2 GB。
专业版抽取加速容量为10 GB。
数据集抽取限制: 单数据集不超过1亿行数据。
支持高级版、专业版抽取加速容量扩容。说明如下:
扩容需以5 GB为单位进行购买(5000元/年),最多可扩容100 GB。
高级版扩容后,如果从高级版升级为专业版,付费扩容的容量不变,免费容量由2 GB变为10 GB。
仅高级版和专业版支持抽取加速功能,目前覆盖MySQL、SQL Server、AnalyticDB for MySQL 3.0、Oracle、MaxCompute、PostgreSQL、Hologres、Hive、AnalyticDB for PostgreSQL、PolarDB for MySQL、PolarDB for PostgreSQL、Presto、达梦、Impala、ClickHouse、StarRocks和Spark SQL数据源。
MaxCompute配置抽取加速时,数据源采用公网方式连接,可能在MaxCompute中产生额外下载费用,建议进入数据源修改数据库地址。
组织管理员开启抽取加速功能。
登录Quick BI控制台。
按照下图指引,打开抽取加速开关。
支持查看容量的使用情况,包括数据集加速、探索空间和其他(API数据源、应用数据源等)的占用情况。
单击图标,设置数据集抽取限制。
说明您可以为单数据集设置抽取的最大行数限制,以优化任务执行。请注意,设置后将对组织内所有数据集生效。若行数超过您设定的最大值,会导致抽取任务失败,单数据集最多抽取100000000行。
数据开发人员在目标数据集中,开启并使用离线加速功能。
在Quick BI首页,按照下图指引,进入数据集管理页面。
在数据集列表中,选择目标数据集并配置加速功能。
在Quick引擎区域,打开开启引擎开关并选中开启抽取加速后,您需要配置以下参数:
参数名称
参数描述
抽取方式
支持全表加速、预计算两种计算模式。
全表加速,系统会抽取全量的数据并进行加速计算。
开启后所有查询都可以加速,对于抽取空间有较高要求,如果您的抽取空间足够大,推荐您选择全表加速。
预计算,系统会抽取部分数据并进行加速计算。
开启后,系统会将高频查询结果预先计算好,当用户访问该报表时,便可以快速返回结果。例如,对于有分区的ODPS表,您可以选择预计算方式只抽取一部分,从而节约抽取空间,提高分析效率。
抽取时间
支持手动触发和定时加速两种方式。
选择手动触发,手动触发后,才会进行数据的抽取加速。
选择定时加速,并配置时间后,则每月、每周、每日或每小时会定时进行数据的抽取加速。
定时配置
支持按照月、周、天或者小时级别,定时配置抽取加速的时间。
说明仅当选择抽取时间为定时加速,才能配置该选项。
按日期加速
如果当前表为分区表且日期字段为分区列,则您可以选择该日期字段,并进行增量抽取。您也可以配置仅抽取最近几天的数据,来节约抽取空间。
失败报警
当任务执行失败时,您可以配置报警的接收方式和收件人。
接收方式支持钉钉、邮箱和钉钉群3种方式。
收件人:一次可选择多个收件人,且收件人只能是同组织下的阿里云账户。
若收件人名称显示灰色,说明该账户没有设置邮箱,请确保收件人已设置好邮箱。配置邮箱的操作请参见收件人邮箱配置。
说明仅当接收方式选择钉钉和邮箱时,需要配置收件人。
机器人webhook和密钥:择接收方式为钉钉群时,需要配置该选项。
获取机器人Webhook地址请参见如何获取自定义机器人Webhook地址?。
密钥为获取自定义机器人Webhook地址中加签的值。
抽取计算字段
勾选后支持抽取计算字段。
单击保存后,Quick引擎加速配置完成。
您可以修改配置或对数据集进行立即加速或重置加速。
当任务运行中或待运行时,支持终止任务。
组织管理员、空间管理员管理加速任务。具体请参见管理抽取加速任务说明。
数据分析人员创建报表并进行分析数据。
配置完成后,您可以创建报表并进行数据分析,比如创建即席分析。
请参见新建即席分析。
管理抽取加速任务说明
组织级抽取加速管理界面
组织管理员开启加速引擎后,可以查看所有开启Quick引擎的数据集,以及任务的运行状态,并对这些任务进行统一管理。
总览
展示所有开启Quick引擎的数据集所在的空间及已使用容量和数据集加速使用容量,支持查看详情。
单击查看详情查看对应空间开启Quick引擎的数据集,并支持查看日志、立即加速、重置加速、修改配置和关闭抽取加速。
查看日志
单击查看日志,查看对应数据集运行的日志,包括时间、状态和耗时。
立即加速
单击立即加速,对应数据集将会运行加速,此时您也可以终止任务。
重置加速
单击重置加速,对应数据集将会重新加速,此时您也可以终止任务。
修改配置
单击修改配置,将跳转到对应数据集的编辑页面。此时,您可以修改该数据集Quick引擎的配置。
关闭抽取加速
关闭抽取加速后,将会清除当前数据集历史抽取的数据。
切换工作空间
在工作空间详情界面,单击空间右边的切换按钮,可切换工作空间查看。
运行列表
加速引擎的资源是组织共享的,组织内所有的运行任务都会占用引擎资源。该页面展示组织内所有运行中和待运行的任务,方便组织管理员管理所有运行中和待运行的任务,支持终止任务和修改配置。
失败列表
该页面展示组织内所有运行失败的任务,方便组织管理员管理所有运行失败的任务,支持重跑任务、查看日志和修改配置。
空间级抽取加速管理界面
空间管理员可以按照图示方式进入空间级抽取加速页面,支持查看日志、立即加速、重置加速、修改配置和关闭抽取加速。
在空间级抽取加速页面,空间管理员可以管控空间内已开启Quick引擎的数据集,管理和调整任务的运行情况。
查询缓存
数据集缓存机制可以加速报表访问,降低数据库的压力。例如,某个数据集开启缓存后,只要报表被访问过,则在预设的缓存时间内,其他人再访问报表时,系统无需查询即可直接显示报表数据。
结果缓存是一种应用范围很广且非常有效的数据查询加速方式,对一定时间内存在重复查询的数据集都可以配置查询缓存,特别是重复查询较多的场景,例如仪表板展示类,可以大幅提升查询性能。
开启查询结果缓存,可配置不同缓存时间,如果数据是非小时粒度实效性,建议选择12小时。
仅高级版和专业版支持数据集缓存功能,目前覆盖所有支持与Quick BI建立连接的数据源。
登录Quick BI控制台。
在Quick BI首页,按照下图指引,进入数据集管理页面。
在数据集列表中,选择目标数据集并配置缓存时间。
您可以选择跟随全局缓存策略或自定义设置缓存时间。
新建数据集时缓存配置默认为跟随全局缓存策略,全局缓存策略的配置方式请参见全局缓存配置。
您也可以自定义设置每个数据集的缓存策略。
配置不同缓存时间,表示缓存生效的有效期。各版本支持设置的缓存时间如下:
版本
缓存时间
高级版
5分钟、30分钟、1小时、2小时、4小时、12小时。
专业版
5分钟、30分钟、1小时、2小时、4小时、12小时、24小时。
超过预设的缓存时间后,缓存失效,此时在报表页面触发查询才会有新的缓存,相同SQL查询语句从缓存中取数。
缓存以数据集为粒度,清理缓存时会清理该数据集关联的所有图表缓存数据。超过预设的缓存时间后,此数据集的所有图表缓存都会被清除。
单击保存,查询缓存生效。
维值加速
某些维度字段被频繁用于查询控件和即席分析时,您可以为高频字段配置维值加速。例如,您需要查看基于客户名称和产品名称查询成交情况,则需要在订单明细表中为客户名称和产品名称配置维值加速。
假设这俩字段分别存在于数据库表customer_info和product中,对应的字段名称为user_name
和product_name
。
配置加速后,进行数据查询时,仅需分别在customer_info中查询user_name
的值,以及在product中查询product_name
的值,无需通过订单明细表做聚合查询,从而提升查询速度。
仅高级版和专业版支持维值加速功能,目前覆盖所有支持与Quick BI建立连接的数据源。
登录Quick BI控制台。
在Quick BI首页,按照下图指引,进入数据集管理页面。
在数据集列表中,按照下图指引,选择目标数据集并配置维值加速。
开启维值加速后,假设目标数据集为订单明细表,您需要在仪表板查询基于客户名称和产品名称查询成交情况,因此需要为这两个字段配置维值加速。
假设客户名称和产品名称字段分别存在于数据库表customer_info和product中,对应的字段名称为
user_name
和product_name
。此时:数据集维度:分别为客户名称和产品名称。
配置表:分别为customer_info和product。
配置表字段:分别为
customer
和product_name
全局缓存配置
高级版和专业版的组织管理员支持配置全局缓存策略。新组织默认关闭全局缓存。
您可以按照图示方式进入全局缓存配置。
当选择开启全局缓存(①)后,您可以设置相同查询直接返回缓存结果的间隔时间(②)和自动清除时间(③)。
说明相同查询直接返回缓存结果的间隔时间支持选择5分钟、30分钟、1小时、2小时、4小时、8小时、12小时和24小时。
自动清除时间为每隔半小时。
单击更新配置,保存配置结果。