红队测试与版本证据
本课任务：设计正常、边界、对抗和受影响者测试，记录指标、失败、修改与回归结果。
怎样证明作品真的改进了，而不是我们更会挑好结果了？
- 01本课任务
- 02核心概念
- 03生活例子
- 04动手做
- 05迁移挑战
- 06闯关题
- 07今日收获
核心概念
先理解这个概念
红队测试主动寻找系统被误用、误导或伤害人的方式；版本证据记录修改前后真实变化。
把概念连起来
项目测试要覆盖正常任务、模糊输入、恶意提示、隐私诱导、不同使用者和外部工具失败。先定义成功与禁止条件，固定测试集，记录原始输出和版本，再根据错误类型修改。回归测试确认旧能力没有被新改动破坏。
生活里的例子
1
测试模型是否泄露输入中的私人信息
2
用矛盾材料观察是否编造结论
3
分别让不同年龄的同伴试用并记录理解差异
动手做
毕业项目信任实验室
本课配套图区
红队测试矩阵
不要只测试顺利输入。每类测试都要保留原始结果、严重度和修复后的回归记录。
第 2 步：照着做
0 / 4完成一项，就点一下打勾
迁移挑战
提交测试证据包
整理测试矩阵、原始结果、错误分类、版本差异和剩余风险。
完成后逐项自查
闯关题