上下文窗口里的取舍
本课任务:选择、组织和压缩材料,让模型在有限上下文中抓住任务需要的证据。
把一百页材料全部塞给模型,为什么不一定比精选十页更好?
- 01本课任务
- 02核心概念
- 03生活例子
- 04动手做
- 05迁移挑战
- 06闯关题
- 07今日收获
核心概念
先理解这个概念
上下文窗口是模型本次可处理的信息范围;有效上下文需要相关、清楚、可定位。
把概念连起来
上下文容量越来越大,但注意力并不会自动落在最重要证据上。重复、冲突和无关材料会增加噪声。可以先建立目录,标记来源和日期,切分材料,摘要后保留原文定位,并明确哪些内容优先。压缩材料时要避免把关键例外和反对证据删掉。
生活里的例子
1
给访谈编号并引用段落
2
把旧规则与新规则按日期区分
3
先列问题,再只选能回答问题的材料
动手做
上下文行李限重赛
本课配套图区
上下文行李限重赛练习情境
先看下面的情境,再按照任务步骤判断、选择或完成挑战。
第 2 步:照着做
0 / 3完成一项,就点一下打勾
迁移挑战
制作证据材料包
为一个问题准备不超过五项材料,并给每项写用途和来源。
完成后逐项自查
闯关题

