01
生成式 AI
能根据人的输入生成新文字、图片、声音、视频或代码的 AI。
- 准确含义
- 学习数据规律并对条件输入生成新内容的模型与系统。
- 生活里的例子
- 根据三个关键词写故事。
- 别误会
- 不是事实仓库，也不保证每次输出正确。
从点子到作品
生成式 AI 协作八步法
不管生成文字、图片、声音、视频还是代码，都用这八步保留人的目标、证据和决定。
- 1想清问题和观众
- 2判断是否需要 AI
- 3选择模型或工具
- 4准备安全的材料
- 5写清任务和约束
- 6生成、比较与修改
- 7核验事实、权利和风险
- 8由人决定并说明贡献
15 个核心概念
认识生成式 AI 的关键概念
把模型、生成、上下文、智能体和安全边界连成一张能带走的知识地图。
02
模型
把输入变成预测或生成结果的一套计算规律。
- 准确含义
- 通过训练得到参数，用于完成特定或通用任务的数学系统。
- 生活里的例子
- 把故事开头继续生成下去。
- 别误会
- 不是完整 App，也不是机器里的小人。
03
大语言模型
从大量语言材料中学习文字规律、能够理解和生成语言的模型。
- 准确含义
- 以大规模参数和语料训练、通过 Token 序列建模处理语言任务的基础模型。
- 生活里的例子
- 解释知识、写作和生成代码。
- 别误会
- 语言流畅不代表拥有人的理解与经历。
04
多模态模型
能处理文字、图片、声音或视频中两种以上信息的模型。
- 准确含义
- 在共享或协调的表示空间中处理多种数据模态的模型。
- 生活里的例子
- 看实验图片并用文字解释。
- 别误会
- 能看图不代表知道画面之外的事实。
05
提示
这一次交给 AI 的任务、材料和要求。
- 准确含义
- 引导模型生成的指令、上下文、样例、约束与输出规格。
- 生活里的例子
- 为低年级同学写三条节水提示。
- 别误会
- 不是越长越灵的魔法口诀。
06
上下文
帮助 AI 完成眼前任务的相关前后信息。
- 准确含义
- 模型本次推理可参考的提示、历史消息、材料、工具结果与状态。
- 生活里的例子
- 提供故事前文再要求续写。
- 别误会
- 不是把所有资料和隐私都塞进去。
07
约束
结果必须遵守、而且能够检查的边界。
- 准确含义
- 对内容、格式、长度、来源、风格或禁止事项的显式要求。
- 生活里的例子
- 输出三条，每条不超过二十字。
- 别误会
- “一定完美”不是可检查约束。
08
生成
根据学到的规律和当前输入一步步构造新内容。
- 准确含义
- 从条件概率分布中采样或解码产生文字、图像、音频、视频等输出。
- 生活里的例子
- 根据分镜生成动画草稿。
- 别误会
- 生成不是从现实中取出一份保证真实的答案。
09
幻觉
AI 编出了看起来合理、其实没有可靠依据的内容。
- 准确含义
- 生成结果与事实、来源或给定材料不一致，却保持表面连贯。
- 生活里的例子
- 编出不存在的书名和链接。
- 别误会
- 不一定是故意欺骗，但结果仍需核验。
10
来源核验
把重要说法带回发布者、日期和原始证据检查。
- 准确含义
- 验证主张与可信来源之间支持关系的过程。
- 生活里的例子
- 到图书馆目录核对书名。
- 别误会
- 让 AI 自己保证正确不算外部核验。
11
智能体
为了目标反复计划、使用工具、观察结果并继续行动的 AI 系统。
- 准确含义
- 结合模型、状态、工具、策略与控制循环执行多步任务的系统。
- 生活里的例子
- 修改代码后运行测试并根据错误继续修复。
- 别误会
- 能连续行动不代表拥有自己的目标和责任。
12
工具调用
让模型请求搜索、计算、读文件或执行其他外部能力。
- 准确含义
- 模型生成结构化调用，由系统执行函数或服务并返回结果。
- 生活里的例子
- 先查天气再生成出行建议。
- 别误会
- 模型说调用成功不等于现实结果已经验证。
13
开源与闭源
描述代码、权重和训练信息开放到什么程度。
- 准确含义
- 模型资产、许可、透明度和访问方式的连续谱。
- 生活里的例子
- 开放权重模型可在符合许可时本地部署。
- 别误会
- 开放不自动等于安全，闭源也不自动等于更强。
14
合成媒体
由 AI 生成或修改的图片、声音和视频。
- 准确含义
- 通过生成模型构造或变换的视听内容。
- 生活里的例子
- 虚构角色的动画与配音。
- 别误会
- 逼真不代表真实发生，也不能冒充他人。
15
人工监督
人从目标、授权到检查、纠错和发布持续负责。
- 准确含义
- 在人机系统中保留决策权、复核、停止、申诉和责任机制。
- 生活里的例子
- 智能体发布内容前必须由老师确认。
- 别误会
- 不是最后随便看一眼。
真实产品观察站
看产品，更要看能力和边界
使用不同产品时，都检查它的输入、能力、输出和使用边界，不要只记按钮位置。
ChatGPT / Claude
对话、解释、写作、分析图片和整理材料
未满产品规定年龄时由家长操作；重要事实必须另找来源核验
豆包 / 千问 / Kimi
中文问答、学习辅助、创意写作和多模态内容生成
不提交真实姓名、学校、住址、私人照片和账号信息
图片生成工具
根据文字描述生成或修改插画、海报和视觉草图
不冒充真人，不擅自模仿他人脸、声音和作品风格
声音、音乐与视频生成工具
生成旁白、音效、配乐、动画片段和视频草稿
发布前取得同意、标明 AI 参与并检查是否误导他人
Claude Code / Codex
读取项目、编写和修改代码、运行命令并检查结果
面向成人或有指导的学习；工具权限、执行结果和最终发布都要由人确认