动态调度

逐个提交请求来批量调用百炼的工作流应用,需要处理循环调用、并发控制和异常处理等调度问题,开发流程繁琐且效率低下。为了解决这一问题,百炼推出了动态调度功能,只需通过单次数据上传,即可异步处理批量工作流任务。动态调度支持即时推理和闲时调度两种模式,能够满足不同任务对响应速度和成本的差异化需求。

说明

目前动态调度功能仅支持即时推理模式,闲时调度模式将在后续版本中推出,敬请期待。

调度模式

对比维度

即时推理

闲时调度(敬请期待)

适用场景

对响应时间有较高要求、需要优先处理的批量任务

成本敏感、对时效性要求不高的离线批量处理任务

执行方式

任务提交后立即进入在线推理队列

任务将在系统资源空闲时段进行排队调度

计费模式

即时推理按照推理消耗的实际 Token 数量的在线价格收费

闲时调度按照闲时价格收费

准备工作:创建并发布工作流

  1. 创建工作流

    快速导入(推荐)

    1. 登录阿里云百炼控制台应用管理。在页面右上角单击创建应用,选择工作流应用,填写应用名称城市介绍-测试,单击“立即创建”。

    2. 单击右上角image,选择导入百炼DSL,导入workflow-template.zip

      截屏2025-09-23 16

    3. 工作流参数配置如下:

      • 预置变量 query:默认变量,用户的输入。

      • 自定义变量 city:自定义变量,需要在执行工作流前设置。

    手动创建

    手动创建工作流请参考工作流应用

  2. 发布工作流

    单击工作流页面右上角的发布,单击确定完成发布。

创建调度任务

  1. 登录阿里云百炼控制台动态调度。单击右上角创建调度任务。

  2. 填写调度任务名称,例如城市介绍-测试。单击选择应用,选择刚才创建的工作流。模式选择即时推理

  3. 导入appatchTasks.jsonl,数据需满足以下要求:

    1. 文件格式为JSONL,大小 20 MB 以内。每一行为一个JSON格式的请求,每一个请求的大小不超过 1 MB。一个文件的请求数量不超过 1000 条。

      示例如下:

      {"input":[{"type":"message","role":"user","content":[{"type":"text","text":"介绍一下城市"}]}],"biz_params":{"city":"杭州"}}
      {"input":[{"type":"message","role":"user","content":[{"type":"text","text":"介绍一下城市"}]}],"biz_params":{"city":"北京"}}
    2. 每一行JSON请求中的变量需要和工作流设置的变量对应。

      • input[0].content[0].text字段对应了工作流预置变量 query

      • biz_params.city字段对应了工作流的自定义变量city

      在实际的调度任务中,请根据工作流的参数配置相应地调整数据。

  4. 单击创建,等待调度任务完成。

    image

    任务状态变为完成后,代表调度任务完成。

    image

查看结果

  1. 登录阿里云百炼控制台动态调度

  2. 将光标移至下载,单击下载json文件,获取动态调度的结果。

    image

  3. 示例结果如下:

    示例结果

    {
      "batchTaskInfo" : {
        "gmtCreate" : 1758619768000,
        "gmtCompleted" : 1758619860000,
        "taskId" : "7b99ac0b-6b33-4c24-9f25-a34a4fbb298d",
        "taskDesc" : "",
        "mode" : "async",
        "taskStatus" : "completed",
        "taskName" : "城市介绍-测试",
        "statics" : {
          "taskSuccessCount" : 2,
          "taskFailedCount" : 0,
          "usage" : {
            "qwen-max-2025-01-25" : {
              "inputTokens" : 50,
              "outputTokens" : 1572
            }
          }
        },
        "taskCount" : 2
      },
      "subTasks" : {
        "ac5e3a15-ce23-4d51-9b67-a87013376ccd" : {
          "gmtCreate" : 1758619768000,
          "batchTaskId" : "7b99ac0b-6b33-4c24-9f25-a34a4fbb298d",
          "taskId" : "ac5e3a15-ce23-4d51-9b67-a87013376ccd",
          "taskType" : "async",
          "taskStatus" : "success",
          "taskDuration" : 59514,
          "taskStartTime" : 1758619800000,
          "taskCompleteTime" : 1758619860000,
          "appId" : "00618662e9c941deab880ed6e1efefd0",
          "appType" : "workflow",
          "taskInput" : "{\"input\":[{\"type\":\"message\",\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"介绍一下城市\"}]}],\"biz_params\":{\"city\":\"杭州\"}}",
          "taskOutput" : "{\"completed_at\":1758619859499,\"created_at\":1758619800434,\"id\":\"ac5e3a15-ce23-4d51-9b67-a87013376ccd\",\"in_progress_at\":1758619800489,\"object\":\"response\",\"output\":[{\"content\":[{\"delta\":false,\"index\":0,\"msg_id\":\"msg_44997565-819d-49d7-a198-a7f3bee3ed5c\",\"object\":\"content\",\"status\":\"completed\",\"text\":\"杭州,这座被誉为“人间天堂”的城市,位于中国东南沿海、浙江省北部,是长江三角洲南翼的重要中心城市。它不仅是中国七大古都之一,也是一座兼具历史底蕴与现代活力的国际化都市。以下从多个方面介绍杭州:\\n\\n---\\n\\n### 一、历史文化\\n杭州有着2200多年的历史,曾是五代十国时期吴越国和南宋王朝的首都。这座城市见证了中国古代文明的辉煌,留下了丰富的文化遗产。\\n\\n1. **西湖文化**  \\n   西湖是杭州的灵魂,也是中国山水文化的代表。自唐代以来,无数文人墨客在这里留下诗篇与画作,如白居易、苏轼等。西湖十景(如断桥残雪、雷峰夕照)更是闻名遐迩。\\n   \\n2. **南宋遗风**  \\n   南宋定都临安(今杭州),使得这里成为当时世界上最繁华的城市之一。如今,凤凰山脚下的南宋皇城遗址和御街仍能让人感受到那段历史。\\n\\n3. **非物质文化遗产**  \\n   杭州拥有众多非物质文化遗产,例如龙井茶制作技艺、杭绣、丝绸织造工艺等,展现了江南地区的传统手工艺水平。\\n\\n---\\n\\n### 二、自然风光\\n杭州以秀丽的自然景观著称,其中最著名的当属西湖,此外还有钱塘江、京杭大运河以及周边的群山。\\n\\n1. **西湖**  \\n   西湖三面环山,一面邻城,湖区面积约为6.39平方公里。一年四季景色各异:春看柳浪闻莺,夏赏曲院风荷,秋观平湖秋月,冬寻断桥残雪。\\n\\n2. **千岛湖**  \\n   位于杭州市淳安县境内的千岛湖,因湖中有1078座岛屿而得名。这里是国家5A级旅游景区,以其清澈的湖水和优美的生态环境吸引着国内外游客。\\n\\n3. **天目山**  \\n   天目山是国家级自然保护区,以其原始森林、瀑布群和珍稀动植物资源而闻名,是徒步旅行和生态旅游的理想之地。\\n\\n4. **钱塘江潮**  \\n   每年农历八月十八前后,钱塘江大潮汹涌澎湃,被称为“天下第一潮”,吸引了大量游客前来观赏。\\n\\n---\\n\\n### 三、美食特色\\n杭州菜属于中国八大菜系中的浙菜,以其清淡鲜美、注重原味而著称。以下是几道经典的杭州美食:\\n\\n1. **东坡肉**  \\n   相传由北宋文学家苏东坡创制,选用五花肉慢火炖煮而成,色泽红亮,肥而不腻。\\n\\n2. **西湖醋鱼**  \\n   这是一道用草鱼烹制的传统名菜,淋上酸甜适口的酱汁,口感滑嫩。\\n\\n3. **龙井虾仁**  \\n   利用杭州特产龙井茶叶与新鲜河虾仁搭配炒制而成,清香扑鼻。\\n\\n4. **片儿川**  \\n   片儿川是杭州本地的一种特色面条,以雪菜、笋片和瘦肉为配料,汤头浓郁。\\n\\n5. **定胜糕**  \\n   定胜糕是一种传统的糯米糕点,外形呈梅花状,寓意吉祥如意。\\n\\n---\\n\\n### 四、现代化发展\\n作为中国经济最发达地区之一,杭州在科技、金融、电子商务等领域取得了令人瞩目的成就。\\n\\n1. **阿里巴巴总部**  \\n   阿里巴巴集团总部位于杭州滨江高新区,带动了当地互联网经济的发展,使杭州成为中国乃至全球电商行业的中心。\\n\\n2. **未来科技城**  \\n   杭州未来科技城聚集了一大批高新技术企业,包括人工智能、大数据、云计算等领域的企业,成为创新创业的热土。\\n\\n3. **智慧城市建设**  \\n   杭州积极推动智慧城市建设,例如“城市大脑”项目通过大数据优化交通管理,提升了城市运行效率。\\n\\n---\\n\\n### 五、旅游攻略\\n如果你计划前往杭州旅行,可以参考以下建议:\\n\\n1. **最佳旅游时间**  \\n   春季(3-5月)和秋季(9-11月)是游览杭州的最佳时节,此时气候宜人,风景优美。\\n\\n2. **必游景点推荐**  \\n   - 西湖及周边(雷峰塔、花港观鱼、苏堤)\\n   - 灵隐寺(中国佛教禅宗重要寺庙)\\n   - 六和塔(俯瞰钱塘江的好地方)\\n   - 千岛湖(适合周末短途游)\\n\\n3. **交通指南**  \\n   - 高铁:杭州东站是华东地区重要的铁路枢纽,连接上海、南京、苏州等地。\\n   - 地铁:杭州地铁线路覆盖市区主要区域,出行便利。\\n   - 自驾:市内道路完善,但节假日西湖周边可能会限行。\\n\\n4. **住宿选择**  \\n   杭州有各种档次的酒店可供选择,从豪华五星酒店到经济型民宿应有尽有。如果想体验别样风情,可以选择住在西湖边的精品民宿。\\n\\n---\\n\\n### 六、总结\\n杭州是一座融合了古典韵味与现代气息的城市,无论是徜徉于西湖的湖光山色之间,还是漫步在充满活力的都市街头,你都能感受到这座城市的独特魅力。无论是短暂的旅行还是长期居住,杭州都会给你留下深刻的印象。希望这篇介绍能够帮助你更好地了解这座美丽的城市!\",\"type\":\"text\"}],\"id\":\"msg_44997565-819d-49d7-a198-a7f3bee3ed5c\",\"metadata\":{\"nodeName\":\"结束\",\"nodeType\":\"End\",\"nodeId\":\"End_eW74\"},\"object\":\"message\",\"role\":\"assistant\",\"sequence_number\":2,\"status\":\"completed\",\"type\":\"message\"}],\"sequence_number\":3,\"status\":\"completed\",\"usage\":{\"qwen-max-2025-01-25\":{\"inputTokens\":25,\"outputTokens\":1154}}}"
        },
        "5d613b23-0bf3-4afd-a829-c3702920fe69" : {
          "gmtCreate" : 1758619768000,
          "batchTaskId" : "7b99ac0b-6b33-4c24-9f25-a34a4fbb298d",
          "taskId" : "5d613b23-0bf3-4afd-a829-c3702920fe69",
          "taskType" : "async",
          "taskStatus" : "success",
          "taskDuration" : 23029,
          "taskStartTime" : 1758619800000,
          "taskCompleteTime" : 1758619823000,
          "appId" : "00618662e9c941deab880ed6e1efefd0",
          "appType" : "workflow",
          "taskInput" : "{\"input\":[{\"type\":\"message\",\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"介绍一下城市\"}]}],\"biz_params\":{\"city\":\"北京\"}}",
          "taskOutput" : "{\"completed_at\":1758619823016,\"created_at\":1758619800437,\"id\":\"5d613b23-0bf3-4afd-a829-c3702920fe69\",\"in_progress_at\":1758619800497,\"object\":\"response\",\"output\":[{\"content\":[{\"delta\":false,\"index\":0,\"msg_id\":\"msg_32fb3df8-6c17-4d83-ba55-dc4da0be1843\",\"object\":\"content\",\"status\":\"completed\",\"text\":\"北京,这座古老而又现代的城市,是中国的首都,也是世界上拥有世界文化遗产最多的城市之一。它位于华北平原的北部边缘,背靠燕山,面向渤海,地理位置十分重要。北京不仅是政治、文化中心,还是国际交往的重要窗口。\\n\\n### 历史文化\\n\\n北京有着3000多年的建城史和850多年的建都史,曾是辽、金、元、明、清五个朝代的都城。悠久的历史给北京留下了丰富的文化遗产,如故宫、天坛、颐和园等都是世界著名的旅游景点。其中,故宫是中国明清两代的皇家宫殿,也是世界上现存规模最大、保存最完整的木质结构古建筑群。\\n\\n### 名胜古迹\\n\\n- **长城**:被誉为“万里长城”,是中国古代伟大的防御工程,也是中华民族的象征。\\n- **颐和园**:以昆明湖、万寿山为基础,以杭州西湖为蓝本,汲取江南园林的设计手法而建成的一座大型山水园林。\\n- **圆明园**:虽历经沧桑,但遗址公园依然让人感受到昔日皇家园林的辉煌。\\n- **天安门广场**:世界上最大的城市广场,周围有人民英雄纪念碑、毛主席纪念堂等重要建筑。\\n\\n### 现代风貌\\n\\n北京不仅有深厚的历史文化底蕴,还是一座充满活力的现代化大都市。国贸CBD、中关村科技园区等地标展现了北京作为国际大都市的一面。此外,北京还是中国最重要的教育和科研基地之一,拥有清华大学、北京大学等多所知名高等学府。\\n\\n### 美食文化\\n\\n北京的美食同样令人向往,烤鸭是必尝之选,全聚德和便宜坊是最有名的两家烤鸭店。除此之外,炸酱面、豆汁儿、卤煮火烧等地道小吃也深受游客喜爱。\\n\\n总之,北京是一个集传统与现代于一体的城市,无论你是对历史文化感兴趣,还是想体验繁华都市生活,这里都能满足你的需求。希望你有机会亲自来感受这座城市的魅力!\",\"type\":\"text\"}],\"id\":\"msg_32fb3df8-6c17-4d83-ba55-dc4da0be1843\",\"metadata\":{\"nodeName\":\"结束\",\"nodeType\":\"End\",\"nodeId\":\"End_eW74\"},\"object\":\"message\",\"role\":\"assistant\",\"sequence_number\":2,\"status\":\"completed\",\"type\":\"message\"}],\"sequence_number\":3,\"status\":\"completed\",\"usage\":{\"qwen-max-2025-01-25\":{\"inputTokens\":25,\"outputTokens\":418}}}"
        }
      }
    }

计费说明

动态调度功能本身免费,您仅需支付其调用的工作流应用所产生的资源消耗费用(如模型Token费用)。计费时,将根据选择的调度模式(即时推理或闲时调度)按对应的价格标准收费。

工作流资源消耗费用详细构成如下:

  1. 基础费用:主要费用来自工作流中大模型的调用。具体费用取决于所用模型的类型、每条请求的输入和输出Token数量,并根据所选的即时推理(在线价格)或闲时调度(闲时价格)模式进行计费。各模型对应的计费规则请参见模型列表与价格

  2. 知识库成本:若工作流中配置了知识库,检索知识库内容会增加模型输入的Token数量,从而可能导致模型推理费用相应增加。

  3. MCP 成本

    若工作流中配置了 MCP,接入后可能会产生费用。

    1. 部分官方 MCP(如文生图、文生视频等)会按模型调用计费。

    2. 部分MCP服务可能涉及第三方 API 调用,使用后产生的费用由第三方服务商收取,阿里云百炼不收取费用。