孩子这一课究竟在学什么
红队测试主动寻找系统被误用、误导或伤害人的方式；版本证据记录修改前后真实变化。
项目测试要覆盖正常任务、模糊输入、恶意提示、隐私诱导、不同使用者和外部工具失败。先定义成功与禁止条件，固定测试集，记录原始输出和版本，再根据错误类型修改。回归测试确认旧能力没有被新改动破坏。
可以联系这三个具体例子测试模型是否泄露输入中的私人信息用矛盾材料观察是否编造结论分别让不同年龄的同伴试用并记录理解差异
进阶 · 五—六年级 · 第 23 课
去孩子的课程页 →红队测试与版本证据
设计正常、边界、对抗和受影响者测试，记录指标、失败、修改与回归结果。
不是记住名词，而是能做到这些
- 能完成：设计正常、边界、对抗和受影响者测试，记录指标、失败、修改与回归结果。
- 能说清：可信改进要有固定测试、原始记录、版本差异和仍未解决的风险。
- 不会误以为：平均分提高可能掩盖严重失败。
- 不会误以为：红队不是破坏项目，而是提前发现真实风险。
课前准备
准备纸和笔，打开课程页面。活动卡片直接使用，不需要家长另外制作。
不需要准备 AI 环境
AI 环境准备
提前准备：准备纸和笔，打开课程页面；页面中的卡片直接使用，不需要另做卡片，也不需要孩子注册或登录外部 AI 产品。
现场展示：本课先把概念和判断方法练清楚，不必为了“看起来像 AI 课”而额外打开工具。完成后如想延伸，可以由家长用虚构、安全的例子做一次简短演示。
安全边界：如果做可选演示，仍由家长操作账号，并避免输入任何能识别孩子或他人的信息。
可以直接照着说
用本课问题开场
“今天我们要一起想一个问题：怎样证明作品真的改进了，而不是我们更会挑好结果了？ 先说说你现在怎么想，不用马上答对。然后我们通过「毕业项目信任实验室」找证据。”
一步一步陪着做
孩子做什么，家长为什么这样引导
每一步都对应本课目标，不再使用所有课程都一样的通用话术。
- 1孩子的任务
定义通过和禁止条件
为什么做这一步这一步把“红队测试主动寻找系统被误用、误导或伤害人的方式；版本证据记录修改前后真实变化。”变成孩子可以实际操作的任务。
家长可以这样问先请孩子自己完成“定义通过和禁止条件”，再问：“你为什么从这里开始？你准备用什么线索判断？”
孩子卡住时如果孩子卡住，只给一个本课例子作为提示：“测试模型是否泄露输入中的私人信息”，不要替孩子完成选择。
- 2孩子的任务
完成四类测试
为什么做这一步这一步让孩子把刚才的选择与本课目标连接起来：设计正常、边界、对抗和受影响者测试，记录指标、失败、修改与回归结果。
家长可以这样问请孩子完成“完成四类测试”，然后追问：“你的决定依据是什么？如果换成‘用矛盾材料观察是否编造结论’，结果会不会不同？”
孩子卡住时不要直接纠正；可以问：“这会不会落入这个常见误解——红队不是破坏项目，而是提前发现真实风险。”
- 3孩子的任务
按严重度分组失败
为什么做这一步这一步让孩子把刚才的选择与本课目标连接起来：设计正常、边界、对抗和受影响者测试，记录指标、失败、修改与回归结果。
家长可以这样问请孩子完成“按严重度分组失败”，然后追问：“你的决定依据是什么？如果换成‘分别让不同年龄的同伴试用并记录理解差异’，结果会不会不同？”
孩子卡住时不要直接纠正；可以问：“这会不会落入这个常见误解——平均分提高可能掩盖严重失败。”
- 4孩子的任务
修改后做回归测试并保留证据
为什么做这一步最后一步用来确认孩子是否真正理解，而不只是照着做完。
家长可以这样问完成“修改后做回归测试并保留证据”后，请孩子用自己的话解释今天的结论：“可信改进要有固定测试、原始记录、版本差异和仍未解决的风险。”为什么成立？
孩子卡住时如果解释跑偏，可以提醒孩子避开这个误解：“红队不是破坏项目，而是提前发现真实风险。”
孩子卡住时
提示要回到这一课，不给通用答案
- 1回到孩子版解释
把这句话再读一次：“红队测试主动寻找系统被误用、误导或伤害人的方式；版本证据记录修改前后真实变化。”
- 2给一个本课例子
只提示“测试模型是否泄露输入中的私人信息”，让孩子自己说它和任务有什么关系。
- 3用常见误解反问
问孩子：“平均分提高可能掩盖严重失败。”让孩子找证据判断。
- 定义通过和禁止条件
- 完成四类测试
- 按严重度分组失败
- 修改后做回归测试并保留证据
- 包含边界与对抗测试
- 结论能回到原始记录
- 不要替孩子抽卡、选择或说出“标准答案”。
- 不要因为表达不完整就立刻纠正；先问孩子的理由。
- 平均分提高可能掩盖严重失败。
- 红队不是破坏项目，而是提前发现真实风险。