AI资源与AI Function简介

HologresV3.2版本开始,提供AI资源(GPU)并支持AI Function能力。本文为您介绍AI Function的优势以及典型应用场景。

简介

为了适应AI的快速发展,Hologres推出了AI资源、AI模型、AI AI Function等功能,基本概念如下:

  • AI资源(GPU):在CPU资源的基础上,Hologres全新升级支持售卖GPU资源,简称AI资源。当调用HologresAI Function时,系统会自动将使用GPU资源,企业无需在外部购买GPU资源,就能直接使用,快速搭建AI服务。AI资源单独计费,按需购买对应的规格。详情请参见AI资源定价与购买

  • AI模型:Hologres内置多种主流模型,涵盖embed、推理等多个场景,可以根据业务场景部署相关模型,同时也可以给每个模型分配对应的AI资源,实现模型与模型之间的资源隔离。详情请参见AI模型与部署

  • AI Function:即面向AI场景的一系列内置Function,包括Embed、Chunk、Rank等多种Function,像普通函数一样开箱即可使用,支持纯SQL调用,无需搭建外部AI服务,从而简化开发。详情请参见AI Function

HologresAI场景的演进历程:

  • Hologres V3.2版本开始:支持售卖AI资源(GPU),且内置多种主流模型以及AI function,包括Embedding、ChunkGen等算子,通过SQL调用AI Function的方式能直接调用模型,快速搭建AI应用。

  • Hologres V4.0版本开始:全新升级,支持通过Object Table读取PDF、PPT、图片等非结构化数据,并增强AI Function对非结构化数据的支持,结合向量检索与全文检索能力,实现端到端的推理、检索能力。

至此Hologres全新升级为AI时代的一站式多模融合的大数据平台,通过AI资源、模型、Function、Dynamic Table等多个能力,使用标准SQL就能实现实现AI场景下数据解析、数据加工、模型调用、在线检索/推理/分析的全流程。数据不出库,像大数据开发一样开发AI,助力企业通过一个平台、一份标准SQL完成多模数据检索与分析,探索数据核心价值。

image

AI Function优势

通过AI Function,可以利用纯SQL的能力直接调用大模型,从而使数据更有效地被AI所利用,打通自然语言与数据之间的通道。通过Hologres能够一站式实现智能检索、推理等AI服务的快速构建,降低系统架构的复杂性,同时显著减少运维和开发成本,从而使数据能够发挥更大的价值。

AI能力SQL

提供Embeding、RankLLM推理等多种AI Function,无需调用外部AI服务,通过标准SQL就能实现AI服务的全流程开发,有效降低开发门槛。

简化AI开发

提供AI资源(GPU),无需单独部署GPU机器,内置多种大模型,支持一键部署并分配GPU资源。使用AI Function可以直接调用模型,自动使用GPU资源,简化AI服务开发的一系列前置工作,业务只需要关心AI服务本身,同时也能显著降低运维成本。同时数据不需要导出,直接可以被大模型调用,简化开发成本,也提升数据安全能力。

多模数据混合检索

AI的支持下,Hologres可以实现对非结构化数据、半结构化数据、结构化数据的统一多模融合检索服务,一个平台就能实现KV点查、OLAP分析、检索、AI推理以及数据不出库统一服务出口,大幅简化系统架构。

典型应用场景

依托于Hologres AI资源、AI Function等能力,可以快速助力业务搭建AI相关的应用场景。

多模检索分析

Hologres支持通过Object Table读取非结构化数据,结合Dynamic TableAI Function(如Embed、Chunk)实现数据加工与索引构建,利用向量检索、全文检索和双路召回Top K技术,通过标准SQL即可构建一站式多模态检索分析系统。详情请参见最佳实践:金融多模态AI数据分析与检索系统

image

以图或以文搜图

图片作为 AI 的重要输入数据之一,已在多个领域催生出颠覆性的应用场景。例如,在自动驾驶中,用于自动检测车辆和行人;在视频监控中,用于异常行为的追踪;以及在电商与 SaaS 场景中,通过商品图片实现同款搜索等。Hologres 支持通过 Object Table 读取图片的元数据,并结合 Dynamic Table 对图片数据进行Embed并构建向量索引。在查询时,通过向量召回技术实现“以文搜图”和“以图搜图”等智能搜索功能。详情请参见最佳实践:自动驾驶图像高性能分析系统

在线推理

Hologres提供ai_genai_classifyai_extractAI Function,结合Hologres的高性能查询能力,无需外置模型,就能快速实现实时标签分类、情感分类以及在线推理等AI能力,大幅降低开发成本。