文档

线性支持向量机

更新时间:

支持向量机SVM(Support Vector Machine)是基于统计学习理论的一种机器学习方法,通过寻求结构风险最小化,提高学习机泛化能力,从而实现经验风险和置信范围最小化。本文介绍线性支持向量机算法组件的配置方法及使用示例。

背景信息

本文中的线性支持向量机算法不通过核函数方式实现,具体实现理论请参见算法原理中的Trust Region Method for L2-SVM部分。

使用限制

线性支持向量机算法组件仅支持二分类场景。

组件配置

您可以使用以下任意一种方式,配置线性支持向量机组件参数。

方式一:可视化方式

  • 输入框

    线性支持向量机算法组件仅一个输入桩,需要接入读数据表组件,为必选项。

  • 在工作流页面配置组件参数。

    页签

    参数

    是否必选

    描述

    字段设置

    特征列

    输入列,根据输入数据表的特征选择特征列,支持BIGINT和DOUBLE类型的数据。

    标签列

    根据输入数据表的特征选择标签列,支持BIGINT、DOUBLE及STRING类型。

    参数设置

    正样本的标签值

    目标基准值。如果未指定,则系统随机选定。如果正负例样本差异大,建议手动指定。

    正例惩罚因子

    正例权重值。默认值为1.0,取值范围为(0, +∞)

    负例惩罚因子

    负例权重值。默认值为1.0,取值范围为(0, +∞)

    收敛系数

    收敛误差。默认值为0.001,取值范围为(0, 1)

    执行调优

    计算的核心数

    如果未配置,则系统自动分配。

    每个核心的内存

    如果未配置,则系统自动分配。单位为MB。

  • 输出桩

    输出OfflineModel格式的二分类模型,下游可以接“预测”组件。

方式二:PAI命令方式

使用PAI命令方式,配置该组件参数。您可以使用SQL脚本组件进行PAI命令调用,详情请参见SQL脚本

PAI -name LinearSVM -project algo_public
    -DinputTableName="bank_data"
    -DmodelName="xlab_m_LinearSVM_6143"
    -DfeatureColNames="pdays,emp_var_rate,cons_conf_idx"
    -DlabelColName="y"
    -DpositiveLabel="0"
    -DpositiveCost="1.0"
    -DnegativeCost="1.0"
    -Depsilon="0.001";

PAI命令中的参数详情如下表所示。

参数名称

是否必选

描述

默认值

inputTableName

输入表的名称。

inputTableParitions

输入表中,参与训练的分区。系统支持以下格式:

  • Partition_name=value

  • name1=value1/name2=value2:多级分区

说明

指定多个分区时,分区之间使用英文逗号(,)分隔。

输入表的所有分区

modelName

输出的模型名称。

featureColNames

输入表中,用于训练的特征列名。

labelColName

输入表中,标签列的名称。

positiveLabel

正例的值。

label取值中,随机选择一个。

positiveCost

正例权重值,即正例惩罚因子。取值范围为(0, +∞)

1.0

negativeCost

负例权重值,即负例惩罚因子。取值范围为(0, +∞)

1.0

epsilon

收敛系数,取值范围为(0,1)

0.001

enableSparse

输入数据是否为稀疏格式,取值为truefalse

false

itemDelimiter

当输入表数据为稀疏格式时,KV对之间的分隔符。

英文逗号(,)

kvDelimiter

当输入表数据为稀疏格式时,keyvalue之间的分隔符。

英文冒号(:)

coreNum

计算的核心数,取值范围为正整数。

系统自动分配

memSizePerCore

每个核心的内存,取值范围为1 MB~65536 MB。

系统自动分配

示例

  1. 导入如下训练数据。

    id

    y

    f0

    f1

    f2

    f3

    f4

    f5

    f6

    f7

    1

    -1

    -0.294118

    0.487437

    0.180328

    -0.292929

    -1

    0.00149028

    -0.53117

    -0.0333333

    2

    +1

    -0.882353

    -0.145729

    0.0819672

    -0.414141

    -1

    -0.207153

    -0.766866

    -0.666667

    3

    -1

    -0.0588235

    0.839196

    0.0491803

    -1

    -1

    -0.305514

    -0.492741

    -0.633333

    4

    +1

    -0.882353

    -0.105528

    0.0819672

    -0.535354

    -0.777778

    -0.162444

    -0.923997

    -1

    5

    -1

    -1

    0.376884

    -0.344262

    -0.292929

    -0.602837

    0.28465

    0.887276

    -0.6

    6

    +1

    -0.411765

    0.165829

    0.213115

    -1

    -1

    -0.23696

    -0.894962

    -0.7

    7

    -1

    -0.647059

    -0.21608

    -0.180328

    -0.353535

    -0.791962

    -0.0760059

    -0.854825

    -0.833333

    8

    +1

    0.176471

    0.155779

    -1

    -1

    -1

    0.052161

    -0.952178

    -0.733333

    9

    -1

    -0.764706

    0.979899

    0.147541

    -0.0909091

    0.283688

    -0.0909091

    -0.931682

    0.0666667

    10

    -1

    -0.0588235

    0.256281

    0.57377

    -1

    -1

    -1

    -0.868488

    0.1

  2. 导入如下测试数据。

    id

    y

    f0

    f1

    f2

    f3

    f4

    f5

    f6

    f7

    1

    +1

    -0.882353

    0.0854271

    0.442623

    -0.616162

    -1

    -0.19225

    -0.725021

    -0.9

    2

    +1

    -0.294118

    -0.0351759

    -1

    -1

    -1

    -0.293592

    -0.904355

    -0.766667

    3

    +1

    -0.882353

    0.246231

    0.213115

    -0.272727

    -1

    -0.171386

    -0.981213

    -0.7

    4

    -1

    -0.176471

    0.507538

    0.278689

    -0.414141

    -0.702128

    0.0491804

    -0.475662

    0.1

    5

    -1

    -0.529412

    0.839196

    -1

    -1

    -1

    -0.153502

    -0.885568

    -0.5

    6

    +1

    -0.882353

    0.246231

    -0.0163934

    -0.353535

    -1

    0.0670641

    -0.627669

    -1

    7

    -1

    -0.882353

    0.819095

    0.278689

    -0.151515

    -0.307329

    0.19225

    0.00768574

    -0.966667

    8

    +1

    -0.882353

    -0.0753769

    0.0163934

    -0.494949

    -0.903073

    -0.418778

    -0.654996

    -0.866667

    9

    +1

    -1

    0.527638

    0.344262

    -0.212121

    -0.356974

    0.23696

    -0.836038

    -0.8

    10

    +1

    -0.882353

    0.115578

    0.0163934

    -0.737374

    -0.56974

    -0.28465

    -0.948762

    -0.933333

  3. 创建如下实验,详情请参见算法建模

    image.png

  4. 配置线性支持向量机组件的参数(配置如下表格中的参数,其余参数使用默认值)。

    页签

    参数

    描述

    字段设置

    特征列

    选择f0f1f2f3f4f5f6f7列。

    标签列

    选择y列。

  5. 运行实验,查看预测结果。预测结果