A/B测试-编程实验

0.功能概述

编程实验是通过代码编程进行的A/B实验。可广泛应用于前端优化、策略优化和后端算法优化多种实验场景。本文为您介绍编程实验的创建和管理方法。

1.功能路径

您可以在首页点击“A/B测试”按钮进入本产品,或者在应用列表中点击“A/B测试”进入产品。

image

image

2.实验创建

实验管理>实验列表中,您可以点击“新建实验”按钮,创建一个新的实验。

image

本产品当前支持创建编程实验,您可以在“新建编程实验”页面,进行实验创建,创建实验需完成“输入基本信息-设计生效策略-实验组配置”三个步骤。

image

(1)输入基本信息

  • 实验名称:必填,长度不超过100字符,同一应用下实验名称必须唯一

  • 实验描述:非必填,长度不超过1000字符

  • 实验类型:必填,支持选择客户端或服务端

  • 实验时长:必填,默认为30天,可修改,最长不超过365天

  • 实验负责人:必填,默认为当前用户

image

(2)设计生效策略

输入基本信息之后,点击“下一步”,可继续设计实验的生效策略:

  • 是否互斥默认为否。流量不互斥,即为正交实验;流量互斥,即为互斥实验。

  • 分流主体:支持选择实体ID、用户ID和设备ID。

  • 流量层:正交实验时,无需选择流量层;互斥实验时,需要选择流量层,同一流量层中的各实验组的流量互斥,流量层按照分流主体进行选择。

  • 实验流量:默认为100%;正交实验时,可以在 1%到 100%中调整;互斥实验时,上限为当前流量层的剩余流量。

  • 全局筛选:支持设置用户受众规则。若设置规则,仅规则生效的用户会命中实验,即:若设置流量为50%且设置受众规则,则实际命中的用户为50%用户分流后再判断符合受众规则用户可设置的范围同当前应用分析全局筛选和用户分群。

  • 体验一致性:默认开启。开启后,实验期间用户生效版本不随流量、受众条件调整而发生变化,可保障在实验期间同一用户只进入一个实验组,即用户只要进入当前实验组就不再出实验(除非暂停、关闭实验)。不开启时,每次都会实时判断用户命中的实验组。

image

设置完成后,点击“下一步”,开始配置实验组。

(3)配置实验组

在此步骤中,您可以配置实验组参数:

image

  • 测试用户命中条件:默认关闭,关闭时测试用户不考虑受众条件默认进组,开启时需满足受众条件才能进组。

  • 实验参数配置:

    • 编程实验至少需要一个实验参数

    • 参数支持四种类型:number、string、boolean、json

    • 同一个实验内,参数key需唯一

    • 同一个实验内,添加实验参数key后,每个实验组默认添加对应的参数key

    • 对于编程实验,sdk通过接口可获取当前命中实验的参数对应的值

  • 对照组/实验组设置:

    • 类型:分为对照组和实验组。一个实验有且仅有一个对照组,可以设置多个实验组;默认为1个对照组和1个实验组,可以点击添加实验组添加新的实验组

    • 实验组名称:默认名称为实验组+自增序号

    • 测试用户:默认进组的用户。手工输入对应ID,输入的ID类型和分流主体一致;支持扫码进组,使用测试设备扫码,自动获取当前设备的分类主体ID并录入

    • 描述:可对实验组进行描述

    • 参数配置:同一个实验内的每个实验组默认添加对应的参数key,可设置不同的参数值

    • 操作:可以收起或展开实验组信息,支持查看样例代码、删除实验组、添加实验组image

      • 查看样例代码:根据当前配置的实验参数,生成样例代码

      • 删除实验组:删除当前实验组

      • 添加实验组:新增一个实验组

  • 流量分配:默认为平均分配,各组平均分配流量,关闭后,可以手工调整每个组的流量分配(总计为100%)。image

3.实验管理

3.1实验列表

实验列表下包含“全部实验”、“我的收藏”、“草稿箱”三个Tab。

  • "全部实验":当前应用下的除了状态为"草稿"的所有实验列表。

    • 显示实验名称、状态(调试中/运行中/已暂停/已结束)、设定流量、进组用户数、运行时间、负责人、操作栏(启动/停止、删除、显示详情)。

    • 已完成配置的实验,若点击“完成”,则创建的实验默认状态为调试中。

      image

  • "我的收藏":当前应用下当前用户主动收藏的实验列表。

    • 显示实验名称、状态(调试中/运行中/已暂停/已结束)、设定流量、进组用户数、运行时间、负责人、操作栏(启动/停止、删除、显示详情)。

  • "草稿箱":当前应用下当前用户创建的状态为"草稿"的实验列表。

    • 显示名称、进度、负责人、操作栏(删除、编辑)。image

3.2启动实验

在操作栏或在详情页点击“启动”,可启动实验;上线方式可选择立即上线或指定时间上线;启动后,实验变为运行中状态。image

image

image

3.3查看实验详情

在实验列表中,点击对应实验的操作栏中的“显示详情”,即可进入实验详情页,查看当前实验的具体配置信息。同时,在实验详情页的右上角,可对当前实验进行收藏/取消收藏、停止、启动、暂停、编辑:

image

  • 收藏icon:收藏/取消收藏当前实验

  • 停止:关闭当前实验,关闭后立即生效,不再有正常用户命中实验,仅对测试用户生效

  • 启动:启动当前实验,上线方式可选择立即上线或指定时间上线;启动后,实验变为运行中状态

  • 暂停:暂停当前实验,暂停后立即生效,不再有正常用户命中实验,仅对测试用户生效;暂停期间该实验无数据,会影响整体分数据分析(建议分段数据)。

  • 编辑:支持对当前实验的基础配置和生效策略等进行编辑修改

4.流量层管理

您可以在A/B测试>流量总览中,进行流量层管理。每个分流主体默认有一个正交实验层,非互斥实验默认归属此流量层。

image

4.1新建流量层

点击“新建流量层”按钮,进入流量层配置页面。

image

  • 名称:必填,流量层名称,不超过100字符。

  • 描述:选填,对该流量层的描述,不超过1000字符。

  • 实验类型:必填,单选,支持选择客户端或服务端。

  • 分流主体:必填,单选,支持选择实体ID、用户ID和设备ID。

image

4.2流量层列表

显示流量层名称、实验类型、实验数量、分流主体、可用流量、描述、操作。支持以下操作:

  • 详情:查看该流量层详情

    image

  • 修改:编辑该流量层具体信息

    image

  • 删除:删除该流量层