在DataWorks上运行PySpark作业的最佳实践

EMR默认支持使用Python,若EMR支持的Python版本无法运行PySpark作业,则您可参考本实践配置可用的Python环境并在DataWorks上运行PySpark作业。前提条件 执行本实践所使用的DataWorks及E-MapReduce(简称EMR)需部署在相同地域。产品各自需...

节点运行ECS机器的脚本

注意事项 通过DataWorks节点运行ECS机器的脚本,当DataWorks侧对应节点终止运行时,已经在机器执行的文件仍然会继续执行。通过DataWorks节点运行ECS机器脚本的方案仅建议在数据迁移场景下使用,不建议在日常生产中使用。功能概述 ...

在ACK的eRDMA节点运行GDR应用

本文介绍如何在ACK中的eRDMA节点上运行GDR应用。前提条件 以hostNetwork模式安装Arena。详细信息,请参见 配置Arena客户端。已通过kubectl工具连接集群。详细信息,请参见 获取集群KubeConfig并通过kubectl工具连接集群。已在集群中部署...

通过虚拟节点将Pod调度到ECI上运行

kubectl-n vk run nginx-image nginx 执行以下命令,查看通过虚拟节点调度到ECI上运行的Pod。kubectl-n vk get pod-o wide|grep virtual-kubelet 预期输出:nginx-6f489b847d-vgj4d 1/1 Running 0 1m 192.XX.XX.108 virtual-kubelet-...

但是在flink那边的页面是可以看到运行的

问题描述 Dataphin在运维中看不到实时任务的运行实例,但是在flink那边的页面是可以看到运行的实例。问题原因 客户是在bayes进行运维操作而没有在dataphin操作。解决方案 可以在dataphin实时任务列表页,操作【启动】,触发dataphin侧...

在ACK的eRDMA节点运行gRPC+Verbs应用

在eRDMA环境下,您可以使用基于RDMA的通信(可能是gRPC+Verbs协议)来替代传统的只使用gRPC的通信方式。这样做可以有效地进行网络传输,减少参数服务器和工作节点之间通信的延迟,从而加速整个分布式训练过程。前提条件 以hostNetwork模式...

停止应用

若您想停止在远程服务器上运行的应用,通过 PelicanDT 只需要一行 Java 代码即可轻松完成。前提条件 您已安装 PelicanDT SDK,请参见 安装 PelicanDT SDK。您已在 Linux 远程服务器上运行应用。操作步骤 在您的工程中添加以下代码,填入...

通过虚拟节点将Pod调度到ECI上运行

借助ACK虚拟节点(Virtual Node)可以将Pod快速地调度到弹性容器实例ECI上运行,且无需购买和管理ECS节点。本文主要介绍如何在注册集群中将Pod调度到ECI上运行。工作原理 阿里云弹性容器实例ECI(Elastic Container Instance)是面向容器...

合约间调用

本文先对合约运行的上下文环境进行介绍,然后通过示例来讲解合约间普通调用的方法。合约运行的上下文环境 合约上下文指的是合约运行环境。例如,谁调用了这个合约(sender),本合约的ID是什么(self),当前合约能使用的 gas 是多少,当前...

采集Job任务的日志

由于ECI不支持DaemonSet,在ECI上运行的Job任务运行结束后,Pod会立即退出,因此可能会出现日志尚未完全采集的情况。建议您为Job挂载NAS文件系统来保存日志文件。本文介绍在ACK集群中使用ECI来运行Job任务时,如何采集Job任务的日志。前提...

SQL 诊断概述

其中对比节点可以选择多个,如果多选,系统会取这些节点上运行的 SQL 交集的平均数据与基准节点上的相同 SQL 进行对比分析。选择或自定义一个分析时段后,单击 对比分析 可查看相同 SQL 在不同节点上运行的 明细数据对比 和 响应时间趋势...

服务器重新启动后网站无法正常访问的排查思路

详细信息 服务器运行中可能因应对特定状态关闭,例如应对网络攻击,重新启动时可能发现服务器上运行的网站无法正常访问。此时应按如下问题相对应的步骤对服务器进行检查。在服务器上执行 telnet 127.0.0.1 80 命令,可以判断本机Web服务...

资源运维

背景信息 您可以根据具体业务需求对资源组上运行的实例任务定制监控指标和自动运维规则,资源运维页面会以可视化方式为您展示资源组使用情况及实例任务执行情况,实现资源组及实例任务的智能监控和自动化运维,减少繁杂的人工操作,提高运...

Group Identity功能说明

在排队运行任务的场景中,如果当前运行的是普通或低优先级的任务,当高优先级任务的vruntime小于当前任务时,高优先级任务可以无视原有调度策略(任务在CPU上运行的时间小于最小运行时间时不可以进行资源抢占),进行资源抢占。ID_NORMAL ...

公共节点

Flink DataStream Flink DataStream节点是适用于在Hadoop+yarn集群上运行的Flink节点,具体操作,请参见 新建Flink DataStream类型的公共节点。Flink Vvp Stream Flink Vvp Stream节点适用于阿里云Flink团队提供的Flink集群模式(也称为...

智能诊断

功能 描述 调度资源信息 为您展示前任务所使用的调度资源组名称、正在该资源组上运行的任务数、该资源组上正在等待运行的任务数。说明 公共调度资源组:每天0点~9点是DataWorks的任务高峰期,公共调度资源紧张,可能出现任务等待资源的情况...

查看并管理实时实例

物理代码:编译后生成的可在Flink引擎上运行的代码。查看实例参数 查看实例运行时的参数。实时实例DAG图 单击实时实例操作列表实例对象名称,页面右侧为您展示以当前节点为中心节点的DAG图,默认展开上下各一层的父子节点的DAG图。同时,您...

Databricks Runtime

Databricks Runtimes是在Databricks集群上运行的一组核心组件。Databricks提供了几种类型的Runtime。Databricks Runtime Databricks Runtime包括Apache Spark,但还添加了许多组件和更新,这些组件和更新极大地提高了大数据分析的可用性,...

查看并管理脚本实例

物理代码:编译后生成的可在Flink引擎上运行的代码。周期任务 单击可查看当前实例所属的周期任务。编辑开发节点 单击可快捷的跳转到该实例的开发页面,您可对该实例进行修改。说明 仅Dev-Prod模式项目空间的脚本实例支持编辑开发节点。查看...

基于镜像的日常发布

对于在线上运行的机器我们需要分批的去更换系统盘。总结下来,我们需要做的操作如下:更新镜像后,可以启动一台新的机器,或者在一台机器上执行命令后打成一个镜像。用新镜像分批更新系统盘。对于以上操作,我们一步一步的操作实在是太繁琐...

查看并管理脚本实例

物理代码:编译后生成的可在Flink引擎上运行的代码。周期任务 单击可查看当前实例所属的周期任务。编辑开发节点 单击可快捷的跳转到该实例的开发页面,您可对该实例进行修改。说明 仅Dev-Prod模式项目空间的脚本实例支持编辑开发节点。查看...

边缘脚本监控

边缘脚本EdgeScript是一种在CDN边缘节点上运行的JavaScript代码,用于实现自定义的请求处理逻辑。通过监控边缘脚本的执行情况,您可以确保自定义逻辑的正确性和性能。说明 边缘脚本的背景介绍,请参见 EdgeScript概述。功能介绍 边缘脚本的...

自动运维

仅支持对独享资源组上运行的实例任务配置自动运维规则。目前仅支持查看30天内的自动运维规则执行记录。目前仅支持当调度资源组使用率水位过高时终止运行指定任务的自动运维操作。一条自动运维规则仅支持关联一条监控规则,但多条自动运维...

查看运维大屏

资源组使用率与资源组上运行的实例数量的统计维度为资源组级别。例如,若您使用的独享调度资源组为多个工作空间共享,则此处统计的为多个工作空间下,该资源组总的资源使用率和实例数量变化趋势。周期实例运行排行及出错排行 昨日周期实例...

基本概念

工作负载(Workload)工作负载是在Kubernetes上运行的应用程序。工作负载包括以下几种类型:工作负载类型 描述 无状态工作负载(Deployment)无状态工作负载表示对Kubernetes集群的一次更新操作。适用于运行完全独立、功能相同应用的场景。...

查看执行结果及修复常见问题

UnsupportedContainerRuntime 不支持容器ID中包含的容器运行时 仅支持由Kubernetes通过CRI规范管理的且在 docker、containerd、cri-o 容器运行时上运行的容器。InvalidContainerId 容器ID不合法。仅支持64位16进制字符串,允许存在 docker:...

升级节点池

届时即使节点上运行的Pod无法调度到新的节点上,节点依然会启动升级。关于干扰预算机制,请参见 干扰预算机制。功能说明 节点池升级功能支持升级以下三个组件,可以按需组合选择。组件名称 升级说明 升级操作 注意事项 kubelet 如果kubelet...

节点诊断

为避免业务受到影响,请设置合理的Pod request和limit,避免一个节点上运行的Pod过多。节点内网IP是否存在 检查节点内网IP是否存在。节点内网IP不存在,请尝试移除节点后重新导入,移除时需保留ECS。有关移除节点的操作,请参见 移除节点。...

ALTER SESSION

其中一些参数仅为了与 Oracle 语法兼容而提供,对 PolarDB PostgreSQL版(兼容Oracle)运行时行为没有任何影响。另一些参数将变更对应的 PolarDB PostgreSQL版(兼容Oracle)数据库服务器运行时配置参数。参数 参数 说明 name 可设置...

新建HOLOGRES_SQL任务

单击页面运行运行代码。单击页面侧边栏 属性,配置任务 属性。属性包括任务的 基本信息、参数配置、运行配置。基本信息 用于定义调度任务的名称、对应责任人、描述等基本信息。更多信息,请参见:配置任务基本信息。参数配置 若您的...

新建HOLOGRES_SQL任务

单击页面运行运行代码。单击页面侧边栏 属性,配置任务 属性。属性包括任务的 基本信息、参数配置、运行配置。基本信息 用于定义调度任务的名称、对应责任人、描述等基本信息。更多信息,请参见:配置任务基本信息。参数配置 若您的...

新建INCEPTOR_SQL任务

单击页面运行运行代码。单击页面侧边栏 属性,配置任务 属性。属性包括任务的 基本信息、参数配置、调度属性(周期任务)、调度依赖(周期任务),运行配置、资源配置。基本信息 用于定义调度任务的名称、对应责任人、描述等基本...

运行DPDK类型的应用

本文介绍如何在阿里云容器服务ACK上运行DPDK类型的应用。前提条 件 DPDK(Data Plane Development Kit)应用依赖于Terway独占ENI模式来运行,该模式需要在 配额中心 申请 容器网络支持Terway ENI独占模式 白名单使用。创建Terway独占ENI...

新建ADB_PG_SQL任务

单击页面运行运行代码。单击页面侧边栏 属性,配置任务 属性。属性包括任务的 基本信息、参数配置、调度属性(周期任务)、调度依赖(周期任务),运行配置、资源配置。基本信息 用于定义调度任务的名称、对应责任人、描述等基本...

新建MAX_COMPUTE_SQL任务

单击页面运行运行代码。单击页面侧边栏 属性,配置任务 属性。属性包括任务的 基本信息、参数配置、调度属性(周期任务)、调度依赖(周期任务),运行配置。基本信息 用于定义调度任务的名称、对应责任人、描述等基本信息。配置...

新建MAX_COMPUTE_SQL任务

单击页面运行运行代码。单击页面侧边栏 属性,配置任务 属性。属性包括任务的 基本信息、参数配置、调度属性(周期任务)、调度依赖(周期任务),运行配置、资源配置。基本信息 用于定义调度任务的名称、对应责任人、描述等基本...

计费概述

ssd 250G \ 0.293 software sentieon \ 4.017 单个计算作业计费逻辑如下:收取费用=(vCpu*单价+Mem*单价+HDD*单价+SSD*单价+软件*单价)*运行时长 分析应用包含的所有步骤对应的计算作业费用累加,即为该样本在基因分析平台运行任务所...

pg_settings

pg_settings 视图提供了对服务器上运行时参数的访问。简介 pg_settings 视图提供了对服务器上运行时参数的访问。它本质上是SHOW和SET命令的可替换接口。它还提供了 SHOW 不能提供的关于每一个参数的一些显示,例如,最大值和最小值。列名称...

通过ASM管理ACK虚拟节点的ECI Pod应用

本文介绍如何在 服务网格 ASM中管理运行在ACK虚拟节点的ECI Pod应用。前提条件 已创建ASM实例,且版本为v1.7.5.41及以上。具体操作,请参见 创建ASM实例。已在ACK集群中部署ack-virtual-node组件,并确保运行正常。具体操作,请参见 步骤...

下文

什么是下文 当 函数计算 运行您的函数时,会将下文对象传递到执行方法中。该对象包含有关调用、服务、函数、链路追踪和执行环境等信息。事件请求处理程序(Event Handler)和HTTP请求处理程序(HTTP Handler)都支持下文对象作为传入...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
商标服务 云服务器 ECS 云数据库 RDS 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用