模型及算法

DNNClassifier

算法介绍

DNNClassifier是TensorFlow 提供的一个高级API，用于构建深度神经网络（DNN）模型，主要用于二分类或多分类的预测。该API通过多层全连接网络来捕捉数据中的非线性关系，并通过训练优化权重和偏置，从而最小化模型输出与实际类别之间的损失。

DNNClassifier具有以下特点：

• 易用性：提供高级API，简化了深度学习模型的构建流程。

• 模块化：能够灵活配置网络结构，例如隐藏层的数量和规模。

• 并行训练：可以利用多核CPU或GPU加速训练过程。

• 支持多种输入特征：支持数值型和类别型特征的混合。

参数说明

使用示例

###训练
SELECT * FROM iris.train TO TRAIN DNNClassifier WITH
  model.n_classes = 3,
  train.epoch = 10
COLUMN sepal_length, sepal_width, petal_length, petal_width
LABEL class
INTO sqlflow_models.my_dnn_model;

##预测
SELECT * FROM iris.test
TO PREDICT iris.predict.class
USING sqlflow_models.my_dnn_model;

XGBoost gbtree

算法介绍

XGBoost（Extreme Gradient Boosting）是一种高效的梯度提升树（Gradient Boosting Tree）算法，广泛应用于分类和回归问题。其gbtree模型专注于使用决策树作为基学习器。

该算法具有以下特点：

• 高性能：在许多分类任务中，与传统方法相比，BoostedTreesClassifier通常能够实现更高的准确性。

• 适应性强：能够自动评估特征的重要性，适应不同的数据分布。

• 可解释性：通过特征重要性分析，可以了解模型如何做出决策。

• 防止过拟合：通过正则化手段，Boosted Trees能够有效对抗过拟合问题，尤其是在遍历深层树时。

• 处理缺失值的能力：能够较好地处理样本中的缺失值，确保不会因缺失值而导致预处理问题。

• 支持并行化及分布式训练：在大规模数据集上能够更高效地训练模型。

使用示例

## 用于二分类
SELECT * FROM train_table
TO TRAIN xgboost.gbtree
WITH objective="binary:logistic", validation.select="SELECT * FROM val_table"
LABEL class
INTO my_xgb_classification_model;

## 用于多分类
SELECT * FROM train_table	
TO TRAIN xgboost.gbtree
WITH objective="multi:softmax", num_class=3, validation.select="SELECT * FROM val_table"
LABEL class
INTO my_xgb_classification_model;

## 用于回归任务
SELECT * FROM train_table
TO TRAIN xgboost.gbtree
WITH objective="reg:squarederror", validation.select="SELECT * FROM val_table"
LABEL target
INTO my_xgb_regression_model;

GCN

算法介绍

GCN（Graph Convolutional Network）是一种专门用于图数据的深度学习模型。它通过图卷积的方式处理图结构数据，能够有效捕捉节点之间的关系和特征传播，适用于分析具有复杂结构和关系的数据，例如社交网络、推荐系统和生物网络等。GCN处理的输入是图（Graph），该图由节点（Nodes）和边（Edges）组成。在许多业务场景中，数据可以自然地表示为图结构，例如社交网络和知识图谱等。GCN借用卷积神经网络中的卷积思想，通过邻接节点的信息更新每个节点的表示，使得节点的表示能够考虑到其邻域的特征。

适用场景

• 社交网络分析：GCN可以用于社交网络中的用户推荐、关系预测、社区检测等任务。

• 节点分类：例如在知识图谱中，可以对节点（实体）进行分类，预测某个实体所属的类别，例如品牌、产品等。

• 图像分割：在像素构成的图像中应用GCN，可以增强图像分割和物体识别的效果。

DNNRegressor

算法介绍

DNNRegressor是TensorFlow提供的一个高级API，用于深度学习回归任务。它属于TensorFlow Estimator模块，用于处理结构化数据（例如表格或CSV格式的数据），并能够学习复杂的非线性关系，从而预测价格或概率等连续值输出。

参数说明

使用示例

##训练
SELECT f9, target FROM housing.train
TO TRAIN DNNRegressor WITH model.hidden_units = [10, 20]
COLUMN EMBEDDING(CATEGORY_ID(f9, 1000), 2, "sum")
LABEL target
INTO housing.dnn_model;

##预测
SELECT f9, target FROM housing.test
TO PREDICT housing.predict.class USING housing.dnn_model;

RNNBasedTimeSeriesModel

算法介绍

RNNBasedTimeSeriesModel（简称RNN）是基于LSTM时间序列的预测模型，通过输入多个时间点的特征信息，预测未来多个时间点的表现。RNN是一种能够处理序列数据的神经网络，在每一个时间步，RNN不仅接收当前的输入数据，还考虑前一个时间步的状态信息。这使得RNN特别适合处理时间序列数据，例如股票价格、气象数据、自然语言处理等。

RNN具有以下特点：

• 记忆能力：RNN能够存储先前输入的信息，使其能够捕捉时间序列中的长期依赖性。

• 动态输入长度：RNN可以处理任意长度的输入序列，这对于时间序列数据尤为重要。

• 非线性映射：RNN能够建立输入和输出之间的非线性关系，使其适用于复杂的时间序列预测任务。

• 序列生成：RNN不仅可以用于预测，还可以用于生成新的时间序列，例如生成音乐或文本。

参数说明

使用示例

##训练
SELECT sepal_length, sepal_width, petal_length, concat(petal_width,',',class) as class 
FROM iris.train 
TO TRAIN sqlflow_models.RNNBasedTimeSeriesModel WITH
    model.n_in=3,
    model.stack_units = [10, 10],
    model.n_out=2,
    model.model_type="lstm",
    validation.metrics= "MeanAbsoluteError,MeanSquaredError"
LABEL class
INTO sqlflow_models.my_dnn_regts_model_2;

##预测
SELECT sepal_length, sepal_width, petal_length, concat(petal_width,',',class) as class 
FROM iris.test 
TO PREDICT iris.predict_ts_2.class 
USING sqlflow_models.my_dnn_regts_model_2;

DeepEmbeddingClusterModel

算法介绍

DeepEmbeddingClusterModel（深度嵌入聚类模型）是一种结合了深度学习与聚类方法的模型。它主要用于自动学习数据的低维嵌入表示，并在这个嵌入空间中进行聚类。

DeepEmbeddingClusterModel主要特点如下：

• 深度学习：利用深度神经网络进行数据的特征提取，能够自动学习数据的有用表示，捕捉复杂的非线性关系。

• 嵌入表示：将高维数据投影到较低维度的嵌入空间中，从而简化聚类任务，提高聚类效果。

• 聚类能力：在嵌入空间中直接进行聚类，使得同类数据点距离更近，从而提高聚类的精度和可解释性。

• 泛化能力：由于深度学习的特性，模型通常具有较强的泛化能力，可以处理数据的噪声和复杂性。

• 可扩展性：适合处理大规模数据集，能够通过深度学习方法进行有效的迭代和更新。

参数说明

使用示例

##训练
SELECT (sepal_length - 4.4) / 3.5 as sepal_length, (sepal_width - 2.0) / 2.2 as sepal_width, (petal_length - 1) / 5.9 as petal_length, (petal_width - 0.1) / 2.4 as petal_width
FROM iris.train
TO TRAIN sqlflow_models.DeepEmbeddingClusterModel
WITH
  model.pretrain_dims = [10,10,3],
  model.n_clusters = 3,
  model.pretrain_epochs=5,
  train.batch_size=10,
  train.verbose=1
INTO sqlflow_models.my_clustering_model;

##预测
SELECT (sepal_length - 4.4) / 3.5 as sepal_length, (sepal_width - 2.0) / 2.2 as sepal_width, (petal_length - 1) / 5.9 as petal_length, (petal_width - 0.1) / 2.4 as petal_width
FROM iris.test
TO PREDICT iris.predict.class
USING sqlflow_models.my_clustering_model;