Codex A/B 测试规划技能:核对样本量与实验停测条件
EnglishCodex 安装步骤
- 从固定 GitHub 提交复制 `skills/codexkit-a-b-test-planner/` 完整目录到项目 `.agents/skills/codexkit-a-b-test-planner/`。
- 在 Codex 明确主要指标、样本量假设和护栏,要求只输出实验计划。
中文摘要
在实验前定义假设、基线、最小可检测差异、随机化和决策条件。
SKILL.md 中文导读
可复现示例
虚构的帮助页搜索完成率为 32%,希望检测增加 3 个百分点,每天 500 个合格用户。请 Codex 估算按用户 50/50 分流所需天数,并比较 14 天限制。工作步骤
- 明确差异采用百分点还是相对比例,写清楚随机分组单位。
- 用独立样本量计算核对测试窗口,并预先确定因护栏触发而中止的规则。
验收方法
计划列出显著性与功效假设、每组样本数及分流,说明 14 天能否满足目标检测能力。
GitHub 原文 · 更新日期
适用环境
准备本地可用的汇总指标或合成数据,给出基线率、流量和最大实验周期。
常见问题
14 天样本不够可以提前宣布结果吗?
在计划中注明当前窗口的检测能力,评估延长实验、调整假设或改进流量方案。