AI核心概念全景笔记

AI通识 · 工程视角从底到上 10个核心概念

AI核心概念
全景梳理

把 LLM、Token、Context、Tool、MCP、Agent 一次讲清

AI圈里每天都在冒新名词：LLM、Token、Context、Prompt、Tool、MCP、Agent、Agent Skill……

这些词都听过，但你真的能准确说出每个概念的确切含义吗？

本文从最底层的工程视角出发，把这些概念拆开揉碎，一层一层往上搭。

10 个概念速览

LLM 大模型 Token 分片 Context 上下文 Context Window 窗口 RAG 检增强 Prompt 提示词 Tool 工具 MCP 协议 Agent 智能体 Agent Skill 技能

建议从下往上阅读，环环相扣，理解整个 AI 应用栈。

底层 · 模型与文本

LLM 大语言模型

第1层

Large Language Model

大语言模型，所有 AI 技术的核心引擎。几乎所有大模型的底层架构都是 Transformer。

2017年 Google 团队提出论文 Attention is All You Need，发明了火种
2022年底 GPT-3.5 橫空出世，首个真正达到可用级别的大模型
2023年3月 GPT-4 发布，把能力天花板拉到了新高度
如今 GPT 系列、Claude、Gemini 等在各自主打领域同台竞技

本质 = 文字接龙游戏

模型根据上文，预测下一个最可能的字词，并循环往复，直到输出结束符。

Token 分片单元

第2层

Tokenizer 分词器

大模型只认数字，不认识文字。Token 是模型处理文本的最基本单元。

Tokenizer 负责编码（文字→数字）和解码（数字→文字）
流程：切分 → 映射 → 模型运算 → 解码
Token 与「词」不是严格一一对应

「程序员」拆成 2 个 Token

程序员

「helpful」拆成 2 个 Token

help ful

平均 1 Token ≈ 0.75 个英文单词 ≈ 1.5~2 个汉字。
40万 Token ≈ 60~80万汉字或 30万英文单词。

Context 上下文

第3层

上下文 / 临时记忆体

大模型没有真的记忆。每次处理任务时，会接收到的信息总和称为 Context。

包含：用户问题 + 对话历史 + 正在输出的 Token + 工具列表 + System Prompt
相当于大模型的「临时记忆体」
为什么模型能记住前面说的话？因为每次请求都自动带上了整段对话历史

核心点

大模型 ≠ 有记忆的人，它只是「每次看到」了完整的对话历史。

Context Window 上下文窗口

第4层

上下文窗口 = 容量天花板

Context 能容纳的最大 Token 数量。

1万 Token 算很小的窗口
当前主流大模型：百万级 Context Window
100万 Token ≈ 150万汉字，整部《哈利波特》全集都能塞进去

窗口再大也有成本问题，于是有了 RAG 技术。

RAG 检索增强生成

补充技术

Retrieval-Augmented Generation

上千页产品手册全塞给模型？成本太高。RAG 只抽取与用户问题最匹配的几个片段发给模型。

从长文本中抽取最相关片段
不受 Context Window 大小限制
大幅控制成本

中间层 · 指令与工具

Prompt 提示词

第6层

User Prompt / System Prompt

Prompt 就是给大模型的具体问题或指令。它不长、不神秘，但直接决定输出质量。

User Prompt：用户输入的问题
System Prompt：开发者在后台配置的人设与规则
好的 Prompt 要清晰、具体、明确
Prompt Engineering 门槛低、价值已下降

数学辅导机器人

System Prompt：你是耐心的老师，引导学生思考，不要直接说答案。
User Prompt：3+5等于几？
模型回答：「可以想想3个苹果又拿了5个，现在一共几个？」

Tool 工具

第7层

函数 / 外部能力

大模型无法感知外部环境，Tool 就是让模型调用外部能力的函数。

用户 → 平台 → 大模型

大模型 → 平台 → 工具函数

工具函数 → 平台 → 大模型 → 用户

大模型职责：选择工具 + 归纳总结
平台职责：串联流程、真正执行工具调用
注意：调用工具的是平台，模型只是输出「想调用哪个工具」的文本

MCP 模型上下文协议

第8层

Model Context Protocol

每个平台接入工具的规范各不相同，同一工具要写三遍代码。MCP 就是统一的标准。

工具开发者按 MCP 开发一次，所有支持平台都能使用
类似 USB Type-C 统一了手机充电接口
解决「接入规范不统一」的工程痛点

上层 · 智能体与技能

Agent 智能体

第9层

自主规划 + 自主调工具

Agent = 能自主规划、自主调用工具，持续运作直至完成用户任务的系统。

出门场景

步骤1：调用定位工具获取经纬度
步骤2：调用天气工具查询天气
步骤3：根据「下雨则带伞」的规则，调用店铺工具查雨伞店
步骤4：整理给出最终建议

代表产品：Claude Code、Codex 等
构建模式：ReAct、Plan 等

Agent Skill 智能体技能

第10层

给 Agent 的说明文档

Agent Skill 本质是一份 Markdown 文档，用来规定 Agent 的做事步骤和规则。

元数据层 → name + description

指令层 → 目标 + 步骤 + 规则 + 格式 + 示例

存储位置：~/.claude/skills/ 对应文件夹
文件名必须为 skill.md，文件夹名与技能名相同
渐进式披露：只在需要时才读取指令层，省 Token
工具要求：可预先做成 MCP 工具，供 Skill 调用

全景回顾

LLM核心引擎，文字接龙游戏

Token文本处理最基本单元

Context本次任务接收的信息总和 = 临时记忆体

Context WindowContext 能装的最大 token 量

RAG只抽关键片段，降低成本

Prompt给模型的具体指令，分 User / System

Tool外部能力函数，让模型感知世界

MCP统一工具接入标准，一次开发处处用

Agent自主规划 + 自动调工具

Agent SkillAgent 的说明书，规定步骤与规则

行动建议

先用「Token 思维」估算成本：40万 Token ≈ 60 万汉字

写 Prompt 前先分清 System Prompt 与 User Prompt

长文本场景优先用 RAG，而不是硬塞进 Context

工具接入统一走 MCP，省去重复对接

复杂任务交给 Agent + Skill，让模型按规则自主拆解

由 CuteNote.app 颜值笔记生成

AI核心概念全景梳理