名词很多,意思可以很简单。
38 个常用概念,按学习顺序排列。先读一句解释,再带着问题进入对应课程。
AI / 人工智能
让机器执行通常需要智能的任务的一大类方法与系统。生成式 AI 只是其中一部分。
在课程中理解LLM / 大语言模型
通过训练学习语言及相关模式,能根据上下文处理和生成文本的模型。
在课程中理解生成式 AI
能生成文字、图片、声音等内容的 AI 系统;生成内容不自动具有事实依据。
在课程中理解训练 / Training
通过数据和计算调整模型参数的过程,与一次普通聊天中的生成不同。
在课程中理解推理 / Inference
运行已训练模型以处理输入、产生输出;这个术语不保证每次结果都经过严密逻辑证明。
在课程中理解多模态 / Multimodal
处理文本、图像、声音等多种信息形式的能力。支持的输入与输出取决于具体系统。
在课程中理解Token
模型处理信息的计量片段;不是固定的字数,不同模型、语言与模态的计量方式会不同。
在课程中理解上下文 / Context
一次模型请求中可使用的规则、消息、材料与工具结果等信息。
在课程中理解上下文窗口
一次处理可容纳的上下文范围;容量大不等于每个细节都能准确使用。
在课程中理解幻觉 / Hallucination
生成内容缺少事实支持、编造信息或与给定材料不符的现象。
在课程中理解提示词 / Prompt
交给模型的任务与相关输入。有效提示词通常说明目标、资料、约束和完成标准。
在课程中理解少样本提示 / Few-shot
提供少量代表性输入与输出样例,让模型理解期望的任务模式。
在课程中理解结构化输出
按照预设字段或格式生成结果,便于核对与后续处理;格式正确不保证事实正确。
在课程中理解上下文组织
选择、排序和更新真正相关的信息,让当前任务得到充分且清楚的背景。
在课程中理解API
软件之间约定好的通信接口。应用可借此向模型或其他服务发送请求并获得结果。
在课程中理解API Key
用于识别调用方的凭据之一。应妥善保管,不能作为公开网页或提示词中的普通文本。
在课程中理解消息角色
说明一条消息来自规则、用户、助手还是工具等来源,帮助系统区分要求与结果。
在课程中理解温度 / Temperature
部分模型中用于影响采样随机性的参数,不能当作准确率旋钮。
在课程中理解流式输出 / Streaming
结果生成过程中逐步传回并显示,改善等待体验,不等于任务已经完成。
在课程中理解工具调用 / Function Calling
模型提出结构化工具请求,应用或平台执行后返回结果,再由模型继续处理。
在课程中理解Embedding / 嵌入
把内容转换成可比较的数值表示,常用于语义检索;相似度不是事实正确率。
在课程中理解向量检索
比较数值表示的相似性以寻找候选内容,常与关键词、条件过滤和重排组合使用。
在课程中理解Chunk / 资料片段
将文档按适当边界切出的检索单位,应保留标题、语义和关键限定条件。
在课程中理解Rerank / 重排
对初步检索候选再次排序,挑出更能支持回答的内容。
在课程中理解RAG / 检索增强生成
先检索相关资料,再把资料交给模型组织回答。不是重新训练,也不能消灭所有幻觉。
在课程中理解长期记忆 / Memory
应用保存并在需要时取回的偏好、事实或任务记录;应当可查看、修正和删除。
在课程中理解微调 / Fine-tuning
用额外训练调整模型参数行为。常用于适配任务模式,不是维护最新事实的万能工具。
在课程中理解工作流 / Workflow
由人预先定义步骤与分支的执行过程,其中既能使用模型,也能使用确定性规则。
在课程中理解触发器 / Trigger
启动流程的条件或事件,例如手动操作、定时或收到表单记录。
在课程中理解幂等 / Idempotency
同一请求重复处理时,不产生重复的业务结果。真实工具是否支持需要检查。
在课程中理解MCP
规范 AI 应用与外部系统连接的开放协议,与模型工具调用相互配合。
在课程中理解Skill
把某类任务的方法、说明、模板与可选脚本打包,让助手按需使用。
在课程中理解Agent / 智能体
在本课程中,指围绕目标,结合工具反馈选择后续行动并循环推进的系统。
在课程中理解Agent Loop / 执行循环
选择动作、验证执行、获取反馈、更新状态并继续,直到满足完成或停止条件。
在课程中理解多 Agent
由多个助手分工协作的方式;需要明确职责与汇总规则,并不自动提高准确率。
在课程中理解人工确认 / Human-in-the-loop
在有明确后果的节点,让人看到具体待执行动作并作出判断或确认。
在课程中理解提示注入 / Prompt Injection
输入或外部内容试图让系统偏离原任务或越过边界;资料中的命令不能自动获得权限。
在课程中理解评估 / Evals
用代表性任务与明确标准检查质量、边界、耗时和成本,判断改动是否有效。
在课程中理解