文档

PyODPS节点实现结巴中文分词

更新时间:

本文为您介绍如何使用DataWorks的PyODPS类型节点,结合开源结巴中文分词库,对数据表中的中文字段进行分词处理并写入新的数据表,以及如何通过闭包函数使用自定义词典进行分词。

前提条件

已创建DataWorks工作空间并绑定了MaxCompute计算引擎创建工作空间

背景信息

DataWorks为您提供PyODPS节点,您可以在DataWorks的PyODPS节点上直接编辑Python代码,并使用MaxCompute的Python SDK。DataWorks的PyODPS节点包括PyODPS 2节点和PyODPS 3节点,建议您使用PyODPS 3节点,详情请参见开发PyODPS 3任务

重要

本文的操作仅作为代码示例,不建议用于实际的生产环境。

准备工作:下载开源结巴中文分词包

请在GitHub下载开源结巴分词中文包clone

实践1:使用开源词包进行分词

  1. 创建业务流程。

    操作详情请参见创建业务流程

  2. 创建MaxCompute资源并上传jieba-master.zip包。

    1. 右键创建的业务流程,选择新建资源 > MaxCompute > Archive

    2. 新建资源对话框中,配置各项参数,完成后单击新建

      新建资源核心参数配置说明如下。

      参数

      描述

      上传文件

      单击点击上传,根据界面提示选择已下载的jieba-master.zip文件。

      名称

      资源的名称,无需和上传的文件名保持一致,但需要符合命名规范,您可根据界面命名规范提示自定义资源名称,本实践名称可配置为jieba-master.zip

    3. 单击工具栏中的提交图标,根据界面提示提交新建的资源。

  3. 创建测试数据表jieba_test和测试结果表jieba_result

    您可以右键新建的业务流程,选择新建表 > MaxCompute > ,根据界面提示创建表,并使用DDL模式配置表的字段信息。本实践需要创建的两个表的配置要点如下。

    表名

    DDL语句

    作用

    jieba_test

    CREATE TABLE jieba_test (
        `chinese` string,
        `content` string
    );

    用于存储测试的数据。

    jieba_result

    CREATE TABLE jieba_result (
        `chinese` string
    ) ;

    用于存储分词测试结果数据。

    创建完成后,提交表到开发环境。

  4. 下载测试数据并导入测试数据表jieba_test

    1. 单击分词测试数据下载测试数据jieba_test.csv至本地。

    2. 数据开发页面,单击导入图标。

    3. 数据导入向导对话框中,输入需要导入数据的测试表jieba_test并选中,单击下一步

    4. 单击浏览,上传您下载至本地的jieba_test.csv文件,单击下一步

    5. 选中按名称匹配,单击导入数据

  5. 创建PyODPS 3节点。

    1. 右键创建的业务流程,选择新建节点 > MaxCompute > PyODPS 3

    2. 新建节点对话框中,输入名称(示例为word_split),单击确认

  6. 使用开源词包测试运行分词代码。

    在PyODPS 3节点中运行下方示例代码,对上传至jieba_test表中的测试数据进行分词,并回显分词结果表的前十行数据。

    def test(input_var):
        import jieba
        result = jieba.cut(input_var, cut_all=False)
        return "/ ".join(result)
    
    # odps.stage.mapper.split.size 可用于提高执行并行度
    hints = {
        'odps.isolation.session.enable': True,
        'odps.stage.mapper.split.size': 64,
    }
    libraries =['jieba-master.zip']  # 引用您的 jieba-master.zip 压缩包
    src_df = o.get_table('jieba_test').to_df()  # 引用您的 jieba_test 表中的数据
    result_df = src_df.chinese.map(test).persist('jieba_result', hints=hints, libraries=libraries)
    print(result_df.head(10))  # 查看分词结果前10行,更多数据需要在表 jieba_result 中查看
    说明

    odps.stage.mapper.split.size 可用于提高执行并行度,详情请参见Flag参数列表

  7. 查看运行结果。

    • 运行完成后,您可以在页面下方的运行日志区域查看结巴分词程序的运行结果。运行

    • 您也可以在页面左侧单击临时查询按钮,创建一个临时查询节点,查看测试结果表jieba_result中的结果数据。

      select * from jieba_result;

实践2:使用自定义词库进行分词

如果开源结巴分词的词库无法满足您的需求,需要使用自定义的词典对分词结果进行进一步修正,以下为您示例如何使用自定义词库进行分词。

  1. 创建MaxCompute资源。

    PyODPS自定义函数可以读取上传至MaxCompute的资源(表资源或文件资源)。此时,自定义函数需要写为闭包函数或Callable类。如果您需要引用复杂的自定义函数,则可以使用DataWorks的注册MaxCompute函数功能,详情请参见创建并使用自定义函数

    本实践以使用闭包函数的方式,引用上传至MaxCompute的资源文件(即自定义词典)key_words.txt

    1. 创建File类型的MaxCompute函数。

      右键创建的业务流程,选择新建资源 > MaxCompute > File,输入资源名称key_words.txt后单击新建

    2. 输入自定义词库内容并保存、提交。

      以下为自定义词库的示例,您可以根据自己的测试需求输入合适的自定义词库。

      增量备份
      安全合规
  2. 使用自定义词库测试运行分词代码。

    在PyODPS 3节点中运行下方示例代码,对上传至jieba_test表中的测试数据进行分词,并回显分词结果表的前十行数据。

    重要

    执行下述代码前,您需要提前创建一个结果表jieba_result2,用于存储自定义词库进行分词的测试结果数据。具体操作请参见创建测试结果表jieba_result

    def test(resources):
        import jieba
        fileobj = resources[0]
        jieba.load_userdict(fileobj)
    
        def h(input_var):  # 在嵌套函数h()中,执行词典加载和分词
            result = jieba.cut(input_var, cut_all=False)
            return "/ ".join(result)
    
        return h
    
    # odps.stage.mapper.split.size 可用于提高执行并行度
    hints = {
        'odps.isolation.session.enable': True,
        'odps.stage.mapper.split.size': 64,
    }
    libraries =['jieba-master.zip']  # 引用您的 jieba-master.zip 压缩包
    src_df = o.get_table('jieba_test').to_df()  # 引用您的 jieba_test 表中的数据
    
    file_object = o.get_resource('key_words.txt') # get_resource() 引用 MaxCompute 资源
    mapped_df = src_df.chinese.map(test, resources=[file_object])  # map调用函数,并传递 resources 参数
    result_df = mapped_df.persist('jieba_result2', hints=hints, libraries=libraries)
    print(result_df.head(10))  # 查看分词结果前10行,更多数据需要在表 jieba_result2 中查看
    说明

    odps.stage.mapper.split.size 可用于提高执行并行度,详情请参见Flag参数列表

  3. 查看运行结果。

    • 运行完成后,您可以在页面下方的运行日志区域查看结巴分词程序的运行结果。分词结果udf

    • 您也可以在页面左侧单击临时查询按钮,创建一个临时查询节点,查看测试结果表jieba_result2中的结果数据。

      select * from jieba_result2;
  4. 对比自定义词库与开源词包的运行结果。

    结果对比

相关文档

更多关于DataWorks中PyODPS 3节点的使用请参见通过DataWorks使用PyODPS

  • 本页导读 (1)