什么是DeepFM算法,如何使用-云原生数据库 PolarDB(PolarDB)-阿里云帮助中心

本文介绍了DeepFM算法相关内容。

简介

DeepFM将深度学习模型（DNN）和因子分解机（FM）模型结合，同时支持学习低阶显式特征组合和高阶隐式特征组合，不需要人工做特征工程，常用于推荐系统或广告系统。

输入通常有以下两类特征：
- 类别特征（Categorical Feature）：字符串类型。如性别（男/女）或物品类型（服饰、玩具、电子等）。
- 数值特征（Numrical Feature）：整型或浮点型。如用户活跃度或商品价格等。
输出通常是0~1之间的浮点数，表示取值为1的概率。可以用于排序，也可以用于二分类。

使用场景

DeepFM通常用于分类或排序场景。在人工构建的特征但不能直接反映结果的场景上效果更好。在各种各样的推荐场景中，低阶特征组合或者高阶的特征组合都会对用户最终的行为产生影响。但人为可能无法明确特征组合，DeepFM可以自动学习这些组合。

例如：在个性化商品推荐场景中，通常需要做点击预估模型。使用用户过往的行为（点击、曝光未点击、购买等）作为创建模型数据，来预测用户点击或购买的概率。如果用户过往行为较多，且不能直接反映出在未来某时刻的点击或购买情况。DeepFM会对用户行为进行组合，同时将一些稀疏特征转化为高维的稠密特征。

参数说明

下表中的参数为创建模型CREATE MODEL语法中model_parameter参数的取值，您可以根据当前需求选择对应的参数。

参数	说明
`metrics`	评估模型的指标参数。取值如下： accuracy（默认）：精确度，用于评估分类模型。 binary_crossentropy：交叉熵，用于评估二分类问题。 mse：均方误差，用于评估回归模型。
`loss`	学习任务及对应的学习目标。取值如下： binary_crossentropy（默认）：交叉熵，用于二分类问题。 mean_squared_error：均方误差，用于回归模型。
`optimizer`	优化器。取值如下： adam（默认）：吸收了AdaGrad（自适应学习率的梯度下降算法）和动量梯度下降算法的优点，既能适应稀疏梯度（即自然语言和计算机视觉问题），又能缓解梯度震荡的问题。 sgd：随机梯度下降。 rmsprop：对AdaGrad算法进行改进，引入了权重参数，其对应的步长分量累计修改为加权和。
`validation_split`	交叉验证数据比例。默认值为0.2。
`epochs`	迭代次数。默认6次。
`batch_size`	每批训练样本数。默认值为64。batch 越短越容易过拟合，但过大的 `batch_size` 会增加单次迭代的内存开销。大数据量场景建议增大该值（如 128、256）以提升训练效率；小数据集或内存受限时可适当减小。
`learning_rate`	学习率，控制模型参数每次更新的幅度。该参数需与 `epochs` 配合调整：当增加 `epochs` 时通常需要减小 `learning_rate` 以防止模型发散或无法收敛；反之减少 `epochs` 时可适当增大学习率。
`dnn_hidden_units`	DNN 隐藏层的网络结构。取值示例：`[64,32]` 表示两层隐藏层，节点数分别为 64 和 32。若默认网络结构过于复杂而数据集不足以支撑，会导致训练缓慢且易失败。建议根据输入特征的数量和数据集规模简化网络结构，特征较少时使用较小的隐藏层。
`task`	任务类型。取值如下： binary（默认）：分类模型。 regression：回归模型。

说明

参数配置最佳实践：

建议显式指定 loss、metrics、batch_size 等关键参数，避免因依赖默认值导致训练行为不符合预期。
batch_size 与 epochs 需配合调整：增大 batch_size 时可适当减少 epochs，减小 batch_size 时需增加 epochs 以保证充分训练。
learning_rate 与 epochs 需配合调整：epochs 增加时应适当减小 learning_rate 防止发散。
dnn_hidden_units 应根据特征数量设置，特征较少时避免使用过深的网络结构。

示例

创建模型与离线模型学习

/*polar4ai*/CREATE MODEL airline_deepfm WITH
(model_class = 'deepfm',
x_cols = 'Airline,Flight,AirportFrom,AirportTo,DayOfWeek,Time,Length',
y_cols='Delay',model_parameter=(epochs=6))
AS (SELECT * FROM db4ai.airlines);

模型评估

/*polar4ai*/SELECT Airline FROM EVALUATE(MODEL airline_deepfm, 
SELECT * FROM db4ai.airlines LIMIT 20) WITH 
(x_cols = 'Airline,Flight,AirportFrom,AirportTo,DayOfWeek,Time,Length',y_cols='Delay',metrics='acc');

模型预测

/*polar4ai*/SELECT Airline FROM PREDICT(MODEL airline_deepfm,
SELECT * FROM db4ai.airlines limit 20) WITH
(x_cols = 'Airline,Flight,AirportFrom,AirportTo,DayOfWeek,Time,Length');

常见问题

Q：DeepFM 模型训练耗时过长或最终失败如何排查？

A：DeepFM 模型训练耗时数天仍未完成或最终失败属于异常现象，请从以下方向排查：

可能原因	排查与解决方法
`batch_size` 默认值较小：默认值为 64，大数据量场景下处理较慢。	增大`batch_size` 至 128 或 256，提升单批次处理效率。
`learning_rate` 与 `epochs` 不匹配：学习率过大导致模型发散，或过小导致无法收敛。	调整 `learning_rate`：增加 `epochs` 时适当减小学习率，减少 `epochs` 时适当增大学习率。
`dnn_hidden_units` 定义的模型结构过复杂：数据集不足以支撑复杂网络时训练缓慢且易失败。	简化网络结构，如将 `[128,64,32]` 改为 `[64,32]`，并根据输入特征数量调整隐藏层大小。
关键参数未显式指定：依赖默认值可能导致训练行为不符合预期。	显式配置 `batch_size`、`loss`、`metrics` 等关键参数，确保训练配置符合预期。
数据质量问题：训练数据中存在大量缺失值、异常值或特征分布不均匀。	检查训练数据质量，对缺失值进行填充或剔除异常样本后再重新训练。