CUPTI兼容状态（v2.0）
CUPTI兼容支持持续推进中，本文列出的API以cuda 12.3为基准，cuda 12.4及以后新增的CUPTI API暂不支持。
CUPTI API支持情况
CUPTI模块 | 是否支持 | 备注 |
Activity API | 支持 | 部分函数不支持，部分activity kind不支持 |
Callback API | 支持 | 部分callback domain不支持 |
Checkpoint API | 支持 | |
Event API | 不支持 | |
Metric API | 不支持 | |
PC Sampling API | 不支持 | |
PC Sampling Utility API | 不支持 | |
PM Sampling API | 不支持 | |
Profiler Host API | 不支持 | |
Profiling API | 不支持 | |
SASS Metrics API | 不支持 |
CUTPI activity支持情况
activity API支持情况
API名称 | 是否支持 | 备注 |
cuptiActivityConfigurePCSampling | 不支持 | |
cuptiActivityConfigureUnifiedMemoryCounter | 不支持 | |
cuptiActivityDisable | 支持 | |
cuptiActivityDisableContext | 不支持 | |
cuptiActivityEnable | 支持 | 部分activity不支持 |
cuptiActivityEnableAllocationSource | 不支持 | |
cuptiActivityEnableAndDump | 不支持 | |
cuptiActivityEnableContext | 不支持 | |
cuptiActivityEnableDeviceGraph | 不支持 | |
cuptiActivityEnableDriverApi | 支持 | |
cuptiActivityEnableLatencyTimestamps | 不支持 | |
cuptiActivityEnableLaunchAttributes | 不支持 | |
cuptiActivityEnableRuntimeApi | 支持 | |
cuptiActivityFlush | 支持 | 已废弃 |
cuptiActivityFlushAll | 支持 | |
cuptiActivityFlushPeriod | 支持 | |
cuptiActivityGetAttribute | 支持 | |
cuptiActivityGetNextRecord | 支持 | |
cuptiActivityGetNumDroppedRecords | 支持 | |
cuptiActivityPopExternalCorrelationId | 支持 | |
cuptiActivityPushExternalCorrelationId | 支持 | |
cuptiActivityRegisterCallbacks | 支持 | |
cuptiActivityRegisterTimestampCallback | 支持 | |
cuptiActivitySetAttribute | 支持 | |
cuptiComputeCapabilitySupported | 支持 | |
cuptiDeviceSupported | 支持 | |
cuptiDeviceVirtualizationMode | 支持 | |
cuptiFinalize | 支持 | |
cuptiGetAutoBoostState | 不支持 | |
cuptiGetContextId | 支持 | |
cuptiGetDeviceId | 支持 | |
cuptiGetGraphExecId | 支持 | |
cuptiGetGraphId | 支持 | |
cuptiGetGraphNodeId | 支持 | |
cuptiGetLastError | 支持 | |
cuptiGetStreamId | 支持 | |
cuptiGetStreamIdEx | 支持 | |
cuptiGetThreadIdType | 支持 | |
cuptiGetTimestamp | 支持 | |
cuptiSetThreadIdType | 支持 |
activity kind支持情况
activity跟踪类型 | 是否支持 | 备注 |
CUPTI_ACTIVITY_KIND_MEMCPY | 支持 | |
CUPTI_ACTIVITY_KIND_MEMSET | 支持 | |
CUPTI_ACTIVITY_KIND_KERNEL | 不支持 | 实际按CONCURRENT_KERNEL实现，kernel不保证串行 |
CUPTI_ACTIVITY_KIND_DRIVER | 支持 | |
CUPTI_ACTIVITY_KIND_RUNTIME | 支持 | |
CUPTI_ACTIVITY_KIND_EVENT | 不支持 | |
CUPTI_ACTIVITY_KIND_METRIC | 不支持 | |
CUPTI_ACTIVITY_KIND_DEVICE | 支持 | |
CUPTI_ACTIVITY_KIND_CONTEXT | 支持 | |
CUPTI_ACTIVITY_KIND_CONCURRENT_KERNEL | 支持 | |
CUPTI_ACTIVITY_KIND_NAME | 支持 | NVTX |
CUPTI_ACTIVITY_KIND_MARKER | 支持 | NVTX |
CUPTI_ACTIVITY_KIND_MARKER_DATA | 不支持 | |
CUPTI_ACTIVITY_KIND_SOURCE_LOCATOR | 不支持 | |
CUPTI_ACTIVITY_KIND_GLOBAL_ACCESS | 不支持 | |
CUPTI_ACTIVITY_KIND_BRANCH | 不支持 | |
CUPTI_ACTIVITY_KIND_OVERHEAD | 支持 | |
CUPTI_ACTIVITY_KIND_CDP_KERNEL | 不支持 | |
CUPTI_ACTIVITY_KIND_PREEMPTION | 不支持 | |
CUPTI_ACTIVITY_KIND_ENVIRONMENT | 不支持 | |
CUPTI_ACTIVITY_KIND_EVENT_INSTANCE | 不支持 | |
CUPTI_ACTIVITY_KIND_MEMCPY2 | 支持 | |
CUPTI_ACTIVITY_KIND_METRIC_INSTANCE | 不支持 | |
CUPTI_ACTIVITY_KIND_INSTRUCTION_EXECUTION | 不支持 | |
CUPTI_ACTIVITY_KIND_UNIFIED_MEMORY_COUNTER | 不支持 | |
CUPTI_ACTIVITY_KIND_FUNCTION | 不支持 | |
CUPTI_ACTIVITY_KIND_MODULE | 不支持 | |
CUPTI_ACTIVITY_KIND_DEVICE_ATTRIBUTE | 不支持 | |
CUPTI_ACTIVITY_KIND_SHARED_ACCESS | 不支持 | |
CUPTI_ACTIVITY_KIND_PC_SAMPLING | 不支持 | |
CUPTI_ACTIVITY_KIND_PC_SAMPLING_RECORD_INFO | 不支持 | |
CUPTI_ACTIVITY_KIND_INSTRUCTION_CORRELATION | 不支持 | |
CUPTI_ACTIVITY_KIND_OPENACC_DATA | 不支持 | |
CUPTI_ACTIVITY_KIND_OPENACC_LAUNCH | 不支持 | |
CUPTI_ACTIVITY_KIND_OPENACC_OTHER | 不支持 | |
CUPTI_ACTIVITY_KIND_CUDA_EVENT | 支持 | |
CUPTI_ACTIVITY_KIND_STREAM | 支持 | |
CUPTI_ACTIVITY_KIND_SYNCHRONIZATION | 支持 | |
CUPTI_ACTIVITY_KIND_EXTERNAL_CORRELATION | 支持 | |
CUPTI_ACTIVITY_KIND_NVLINK | 不支持 | |
CUPTI_ACTIVITY_KIND_INSTANTANEOUS_EVENT | 不支持 | |
CUPTI_ACTIVITY_KIND_INSTANTANEOUS_EVENT_INSTANCE | 不支持 | |
CUPTI_ACTIVITY_KIND_INSTANTANEOUS_METRIC | 不支持 | |
CUPTI_ACTIVITY_KIND_INSTANTANEOUS_METRIC_INSTANCE | 不支持 | |
CUPTI_ACTIVITY_KIND_MEMORY | 不支持 | |
CUPTI_ACTIVITY_KIND_PCIE | 不支持 | |
CUPTI_ACTIVITY_KIND_OPENMP | 不支持 | |
CUPTI_ACTIVITY_KIND_INTERNAL_LAUNCH_API | 不支持 | |
CUPTI_ACTIVITY_KIND_MEMORY2 | 不支持 | |
CUPTI_ACTIVITY_KIND_MEMORY_POOL | 不支持 | |
CUPTI_ACTIVITY_KIND_GRAPH_TRACE | 不支持 | |
CUPTI_ACTIVITY_KIND_JIT | 不支持 |
CUTPI callback支持情况
callback domain支持情况
callback domain | 是否支持 |
CUPTI_CB_DOMAIN_DRIVER_API | 支持 |
CUPTI_CB_DOMAIN_RUNTIME_API | 支持 |
CUPTI_CB_DOMAIN_RESOURCE | 部分支持 |
CUPTI_CB_DOMAIN_SYNCHRONIZE | 支持 |
CUPTI_CB_DOMAIN_NVTX | 支持 |
CUPTI_CB_DOMAIN_STATE | 不支持 |
resource domain callback支持情况
resource callback类型 | 是否支持 | 备注 |
CUPTI_CBID_RESOURCE_CONTEXT_CREATED | 支持 | |
CUPTI_CBID_RESOURCE_CONTEXT_DESTROY_STARTING | 支持 | |
CUPTI_CBID_RESOURCE_STREAM_CREATED | 支持 | |
CUPTI_CBID_RESOURCE_STREAM_DESTROY_STARTING | 支持 | |
CUPTI_CBID_RESOURCE_CU_INIT_FINISHED | 支持 | |
CUPTI_CBID_RESOURCE_MODULE_LOADED | 支持 | |
CUPTI_CBID_RESOURCE_MODULE_UNLOAD_STARTING | 支持 | |
CUPTI_CBID_RESOURCE_MODULE_PROFILED | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPH_CREATED | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPH_DESTROY_STARTING | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPH_CLONED | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHNODE_CREATE_STARTING | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHNODE_CREATED | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHNODE_DESTROY_STARTING | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHNODE_DEPENDENCY_CREATED | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHNODE_DEPENDENCY_DESTROY_STARTING | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHEXEC_CREATE_STARTING | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHEXEC_CREATED | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHEXEC_DESTROY_STARTING | 不支持 | |
CUPTI_CBID_RESOURCE_GRAPHNODE_CLONED | 不支持 | |
CUPTI_CBID_RESOURCE_STREAM_ATTRIBUTE_CHANGED | 不支持 |
callback API支持情况
API名称 | 是否支持 | 备注 |
cuptiEnableAllDomains | 支持 | |
cuptiEnableCallback | 支持 | |
cuptiEnableDomain | 支持 | |
cuptiGetCallbackName | 支持 | |
cuptiGetCallbackState | 支持 | |
cuptiSubscribe | 支持 | |
cuptiSupportedDomains | 支持 | |
cuptiUnsubscribe | 支持 |
NVTX支持情况
模块 | API名称 | 是否支持 | 备注 |
marker and range | nvtxDomainMarkEx | 支持 | |
nvtxMarkEx | 支持 | ||
nvtxMarkA | 支持 | ||
nvtxMarkW | 不支持 | ||
nvtxDomainRangeStartEx | 支持 | 部分event属性不支持 | |
nvtxRangeStartEx | 支持 | ||
nvtxRangeStartA | 支持 | ||
nvtxRangeStartW | 不支持 | ||
nvtxDomainRangeEnd | 支持 | ||
nvtxRangeEnd | 支持 | ||
nvtxDomainRangePushEx | 支持 | ||
nvtxRangePushEx | 支持 | ||
nvtxRangePushA | 支持 | ||
nvtxRangePushW | 不支持 | ||
nvtxDomainRangePop | 支持 | ||
nvtxRangePop | 支持 | ||
resource naming | nvtxDomainResourceCreate | 不支持 | |
nvtxNameCuDeviceA | 不支持 | ||
nvtxNameCuDeviceW | 不支持 | ||
nvtxNameCudaDeviceA | 不支持 | ||
nvtxNameCudaDeviceW | 不支持 | ||
nvtxNameClDeviceA | 不支持 | ||
nvtxNameClDeviceW | 不支持 | ||
nvtxDomainResourceDestroy | 不支持 | ||
nvtxDomainNameCategoryA | 不支持 | ||
nvtxDomainNameCategoryW | 不支持 | ||
nvtxNameCategoryA | 不支持 | ||
nvtxNameCategoryW | 不支持 | ||
nvtxNameOsThreadA | 不支持 | ||
nvtxNameOsThreadW | 不支持 | ||
nvtxNameCuContextA | 不支持 | ||
nvtxNameCuContextW | 不支持 | ||
nvtxNameCuStreamA | 不支持 | ||
nvtxNameCuStreamW | 不支持 | ||
nvtxNameCuEventA | 不支持 | ||
nvtxNameCuEventW | 不支持 | ||
nvtxNameCudaStreamA | 不支持 | ||
nvtxNameCudaStreamW | 不支持 | ||
nvtxNameCudaEventA | 不支持 | ||
nvtxNameCudaEventW | 不支持 | ||
nvtxNameClContextA | 不支持 | ||
nvtxNameClContextW | 不支持 | ||
nvtxNameClCommandQueueA | 不支持 | ||
nvtxNameClCommandQueueW | 不支持 | ||
nvtxNameClMemObjectA | 不支持 | ||
nvtxNameClMemObjectW | 不支持 | ||
nvtxNameClSamplerA | 不支持 | ||
nvtxNameClSamplerW | 不支持 | ||
nvtxNameClProgramA | 不支持 | ||
nvtxNameClProgramW | 不支持 | ||
nvtxNameClEventA | 不支持 | ||
nvtxNameClEventW | 不支持 | ||
string registration | nvtxDomainRegisterStringA | 支持 | |
nvtxDomainRegisterStringW | 支持 | ||
domains | nvtxDomainCreateA | 支持 | |
nvtxDomainCreateW | 支持 | ||
nvtxDomainDestroy | 支持 | ||
synchronization | nvtxDomainSyncUserCreate | 不支持 | |
nvtxDomainSyncUserDestroy | 不支持 | ||
nvtxDomainSyncUserAcquireStart | 不支持 | ||
nvtxDomainSyncUserAcquireFailed | 不支持 | ||
nvtxDomainSyncUserAcquireSuccess | 不支持 | ||
nvtxDomainSyncUserReleasing | 不支持 |
SAIL SDK v1.5版本，asight支持的Python nvtx库 版本到 0.2.11，可以通过pip show nvtx 查看。
如果版本过高，可以通过pip install nvtx==0.2.11 下载指定版本来使用，更高版本的Python nvtx库会在下个SDK版本支持。
SAIL SDK v1.6版本，asight已经支持最新的nvtx 库 0.2.13版本。