准大学生AI入学指南 · 专项直达

AI基本概念 · 10个最常见词

大模型、Token、上下文、幻觉、RAG、Agent…一次搞懂，再也不怕AI术语

10
核心概念
1
篇讲透
0
理解门槛
🧠

AI基本概念 · 10个最常见词一次搞懂

大模型、Token、上下文窗口、幻觉、RAG、Agent…每次看到这些词就懵？这篇帮你逐个拆解，看完再也不怕AI术语。

🧭 10 个 AI 概念关系图 · 点任意节点直达对应详解
文本单位 记忆上限 指令输入 温度参数 会编造 定制改造 基于+检索 自主执行 RAG 解决幻觉 向量底层 大模型 / LLM AI 的大脑 Token 上下文窗口 Prompt Temperature 幻觉 微调 RAG Agent Embedding
🤖
大模型 / LLM 基础
Large Language Model，就是ChatGPT、Claude这类AI的"大脑"
  • 通俗理解：想象一个读了几万亿字的"超级学霸"，你问它任何问题，它都能根据学过的知识来回答——这就是大模型
  • 为什么叫"大"：参数量巨大（GPT-4约1.8万亿参数），训练数据覆盖全网，所以能力强但也消耗算力
  • 常见大模型：GPT-4o / o3（OpenAI）、Claude（Anthropic）、Gemini（Google）、DeepSeek（深度求索）、Qwen（通义千问）
  • 关键能力：理解自然语言、生成文本、翻译、总结、写代码、推理
💡 新手建议：不用纠结哪个模型"最强"，先用免费版上手（ChatGPT免费版、DeepSeek、通义千问），再根据需求升级付费版。不同模型各有擅长，就像不同专业的学霸。
🔤
Token 基础
AI阅读和生成文本的"最小单位"，类似"字/词碎片"
  • 通俗理解：AI不像人一样按"字"理解文本，它把句子切碎成Token。1个Token≈0.75个英文单词≈1.5个中文字
  • 为什么重要：Token数量直接决定①你能输入多少内容②AI能输出多少③你花多少钱（按Token计费）
  • 实际影响：一篇3000字的论文≈4000 Token，如果模型上下文限制8K Token，一次只能处理2篇论文
内容类型大约Token数说明
1个中文字≈1.5 Token中文比英文贵约2倍
1个英文单词≈1 Token英文效率更高
1页论文（500字）≈750 Token参考上下文限制规划
1张图片≈1000-2000 Token视觉模型额外消耗
💡 省Token技巧：①输入用英文比中文省Token②删掉无关内容再发给AI③长文档分段处理④优先用免费额度内的模型
🪟
上下文窗口 基础
AI一次能"看见"和记住的文本长度上限
  • 通俗理解：就像你的"短期记忆容量"——上下文窗口越大，AI一次能读的内容越多、记住的对话越长
  • 为什么重要：超过窗口限制的内容会被"遗忘"，导致AI回答丢失上下文、前后不一致
  • 关键数据：
模型上下文窗口约等于
ChatGPT (GPT-4o)128K Token约9万字 / 一本小书
Claude 3.5 Sonnet200K Token约15万字 / 一篇长论文
Gemini 1.5 Pro1M Token约75万字 / 大量文档
DeepSeek V3128K Token约9万字
💡 实用建议：①长对话时及时总结关键信息②超长文档用支持大窗口的模型（Gemini/Claude）③对话太长时开新对话避免"遗忘"④重要信息放在prompt开头或结尾（AI对这两处记忆最深）
🌀
幻觉 / Hallucination 问题
AI自信地"编造"不存在的事实，就像人类做梦
  • 通俗理解：AI会一本正经地胡说八道——编造不存在的研究、虚构引用、捏造数据，而且语气非常自信
  • 为什么会幻觉：大模型本质是"概率预测下一个词"，不是"检索真实数据库"。当它不确定时，会按概率生成看起来合理但不真实的内容
  • 常见幻觉场景：
  • 虚构学术论文和引用（最危险！）
  • 编造历史事件或人物
  • 错误解读数据或统计
  • 给出不存在的法律条文
⚠️ 防幻觉必做：①所有重要事实都要人工核实②让AI标注"我不确定"的地方③用RAG（见下方）让AI基于真实资料回答④论文引用必须逐条验证⑤交叉验证：同一个问题问两个不同模型
🔎
RAG / 检索增强生成 方案
让AI先"查资料"再回答，大幅减少幻觉
  • 通俗理解：普通AI像"闭卷考试"——只能靠记忆答题；RAG让AI像"开卷考试"——先去资料库查找，再根据真实资料回答
  • 为什么重要：这是目前解决AI幻觉最有效的方案，尤其适合需要准确信息的场景（论文、法律、医疗等）
  • 工作流程：
1
你提问

输入问题，如"2024年中国AI教育政策有哪些？"

2
检索资料

系统从知识库/文档中找到最相关的内容片段

3
组合生成

AI把检索到的真实资料 + 你的问题一起处理，生成有依据的回答

4
输出回答

回答附带资料来源，可追溯验证

💡 新手使用：①上传自己的文档让AI基于资料回答（多数聊天AI支持）②用Perplexity等搜索引擎型AI③学术场景用Consensus等RAG型工具④企业级用Dify/FastGPT搭建知识库
🦸
Agent / AI代理 进阶
能自主规划、使用工具、多步执行的"AI员工"
  • 通俗理解：普通AI像"顾问"——你问它答；Agent像"员工"——你给任务，它自己拆解步骤、调用工具、执行完成
  • 与普通AI对话的区别：
对比维度普通AI对话AI Agent
交互方式你问→它答你给任务→它执行
工具使用不能主动调用可调用搜索、代码、API等
步骤规划单轮回复自主拆解多步骤
错误修正需你指出可自我检测和修正
  • 典型Agent：Manus（通用任务Agent）、AutoGPT（开源实验）、Dify Agent模式、Coze自定义Agent
  • 适合场景：数据分析、市场调研、自动化办公流程、代码开发辅助
💡 新手路径：先用好AI对话（col1工具箱），再尝试简单Agent（Coze/Dify），最后进阶到复杂自动化。Agent是AI的未来方向，但现阶段不要过度依赖——还需人工监督。
✍️
Prompt / 提示词 技能
你给AI的"指令"，写得好答案质量翻倍
  • 通俗理解：Prompt就是你和AI说话的方式。同样的问题，不同的表达方式，AI给出的答案质量差距巨大
  • Prompt工程核心原则：
  • 具体：别问"帮我写论文"，要问"帮我写一篇关于XX的3000字论文，要求包含XX观点"
  • 有结构：用角色设定+任务描述+输出格式+约束条件
  • 给示例：告诉AI你想要什么样的输出格式
  • 分步骤：复杂任务拆成多轮对话
角色：你是一位资深学术论文编辑
任务：帮我优化以下论文摘要
要求：1.保留核心观点 2.语言更学术化 3.控制在200字内
格式：直接输出修改后的摘要，不需解释
输入：[粘贴你的摘要]
💡 进阶技巧：①用"请一步步思考"触发Chain-of-Thought②用"请先分析再回答"提升推理质量③给AI设定专家角色④重要任务用多个Prompt分步完成⑤详见col3学习攻略的Prompt专区
🎯
微调 / Fine-tuning 进阶
在基础大模型上做"专科培训"，让它更擅长某个领域
  • 通俗理解：基础大模型像"全科医生"，微调后变成"专科医生"——用特定领域的数据再训练一遍，让它在某方面更专业
  • 与Prompt的区别：Prompt是每次对话时临时"指导"AI；微调是把指导"写进"模型里，永久生效
  • 什么时候需要微调：
  • 特定领域术语理解（医学、法律、金融）
  • 固定风格的输出需求（品牌文案、客服话术）
  • Prompt无法稳定解决的问题
  • 需要大规模部署且要统一风格
⚠️ 新手注意：99%的场景用Prompt就够了，不需要微调！微调需要：①大量领域数据②算力成本③技术能力④持续维护。新手先把Prompt练好（见概念7），进阶后再考虑微调。
🧬
Embedding / 向量嵌入 技术
把文本变成"数字坐标"，让AI能理解和比较含义
  • 通俗理解：AI不直接理解文字，它先把文字翻译成一串数字（向量），就像给每个概念一个"GPS坐标"——含义相近的概念，坐标也相近
  • 为什么重要：Embedding是RAG、搜索、推荐等AI系统的底层技术。你用到的"AI搜索相关内容""智能推荐"都依赖它
  • 实际应用：
  • 语义搜索：搜"就业政策"也能找到"招聘补贴"相关内容
  • 文档分类：自动把论文按主题归类
  • 相似度匹配：找"和你问题最相关的资料片段"
  • RAG检索：第5个概念RAG的"检索资料"步骤就靠Embedding
💡 新手了解即可：Embedding是幕后技术，你不需要直接操作。但理解它能帮你明白为什么AI搜索比关键词搜索更智能——它是按"含义相似"而非"字面匹配"来找内容的。
🌡️
Temperature / 温度 技能
控制AI回答的"创意程度"：低温严谨，高温天马行空
  • 通俗理解：温度是AI的"创意旋钮"——温度低=保守精确，温度高=大胆创意
  • 不同温度的效果：
温度值风格适合场景
0 - 0.3严谨精确，几乎不变化代码、数学、事实查询、翻译
0.4 - 0.7平衡：准确但有变化论文写作、总结、日常对话
0.8 - 1.0创意奔放，多变创意写作、头脑风暴、诗歌
1.0+非常随机，可能偏离实验性创作（谨慎使用）
💡 实用建议：①需要精确答案时（代码/数学/事实）→ 温度0②需要创意时（写作/构思）→ 温度0.7-0.9③不确定时用默认值④多数聊天界面不直接暴露温度设置，但在API调用中可以控制⑤同一问题用不同温度试两次，可能得到更好结果

🎯 10个概念速查表

#概念一句话记忆你需要掌握的程度
1大模型读了几万亿字的"超级学霸"⭐⭐⭐ 必须理解
2TokenAI读写的"字碎片"，决定用量和费用⭐⭐⭐ 必须理解
3上下文窗口AI一次能记住的文本长度⭐⭐⭐ 必须理解
4幻觉AI自信地编造不存在的事实⭐⭐⭐⭐ 必须警惕
5RAG让AI先查资料再回答，减少幻觉⭐⭐ 建议了解
6Agent能自主执行多步骤任务的"AI员工"⭐⭐ 建议了解
7Prompt你和AI说话的方式，决定答案质量⭐⭐⭐⭐⭐ 核心技能
8微调给基础模型做"专科培训"⭐ 进阶了解
9Embedding把文字变数字坐标，按含义搜索⭐ 了解即可
10Temperature控制AI创意程度的"旋钮"⭐⭐ 建议了解