LLM 实用入门指南

LLM 实用入门

ChatGPT 与 AI 工具的完整认知指南

从本质原理到实际场景，从模型选择到多模态应用——一篇讲透

导读

大语言模型正从「新奇玩具」变成生产力工具。真正的第一步是理解：它是压缩的 zip 文件，本质是 token 续写；你的月费决定模型大小，你的提问决定输出质量。本文带你看清全局。

⚙️ 先理解模型本质

ChatGPT：由 OpenAI 开发，2022 年上线，是首个让大众通过对话界面使用 LLM 的产品。
运行机制：所有对话底层都是「用户写 token → 模型续写 token → 交还用户」的一维循环。
ZIP 比喻：模型是从预训练获得世界知识的「有损压缩包」，后训练赋予它「助手人格」。
token：模型实际处理的最小文本单位。GPT-4o 约 20 万个 token 词表。
context window：上下文窗口，是模型的「工作记忆」，容量有限。
knowledge cutoff：预训练结束的时间点，之后的信息模型并不知道。

「你是在和一个 zip 文件对话：把 token 流输给它，它就回给你 token 流。」

关键备忘

模型默认是「完全自足的实体」：没有计算器、没有 Python、不能上网。
未登录可用 GPT-4o mini；免费版仅此，付费解锁更多。
预训练成本极高（数千万美元 + 约 3 个月），因此无法频繁预训练。

📍 付费层级与思考模型

Plus · $20/月 GPT-4o，约每 3 小时 80 条消息。

Pro · $200/月 更高级别与 O1 Pro 推理模型访问权，接近无限制。

思考模型（Reasoning Models）

名称以"o"开头（O1、O3、O1 Pro），通过强化学习训练。
在回答前大量「内心预演」，可花费数分钟「思考」。
数学、编码等复杂难题上准确率更高；约 $200/月即可使用。
日常话题（如旅行建议）并不需要思考模型，快而便宜的普通模型更合适。

先试普通的、响应快的模型；如果质量不佳，换到思考模型，给它更长时间。

🌐 每次注意模型是否联网

GPT-4o 和 Grok 能自动检测是否需要搜索并执行。
Claude 没有集成联网搜索，知识截止于大约 2024 年 4 月。
Gemini 2.0 Pro（experimental） 无法实时获取信息，而 2.0 Flash 可以。
UI 界面上点「搜索」按钮通常可以强制启用联网。
接口中有时叫 search the web，有时需要手动开启「think」或浏览器选择。

不同模型生态差异明显：线上搜索用 Perplexity，快速聊天或搜索场景可用 ChatGPT，深度研究则优先 Deep Research。

🔍 AI 研究工具实践

Deep Research（ChatGPT Pro）

ChatGPT Pro（$200/月）独有，结合搜索 + 长时间思考，生成带引用的研究报告。
输出约 10 分钟；Perplexity / Grok 也有各自版本但输出更简略。
适合需要大量来源横向对比的研究型任务。
仍需警惕幻觉——所有结论应回到原始来源核实。

「AI 会做大量搜索，但可能产生幻觉并自信地编造——务必核对引用来源。」

文件上传与伴随阅读

上传 PDF 到 Claude / ChatGPT 可阅读论文、营养成分标签、报告等。
LLM 会试图把文件内容转为文字（约 30MB PDF 可以处理）。
长文档使用「跟随式阅读」：先在各章节复制关键文本进入上下文，再逐段提问。
古旧文本（如 1776 年的《国富论》）也可以借助概述 + 原文对照来消化。

实用 Workflow

使用 Perplexity 查询「时刻在变化」的具体事实，例如“Vercel 是否有 Postgres 数据库”。
输入 PDF → “请给出摘要” → 随后逐段提问细节。
阅读古书时把章节复制到 Claude / ChatGPT，让它先总结再切回原文验证。
对话中先让模型提取所有数据并转为结构化表格，核对无误后再做分析。

🛠️ 当 LLM 遇到编程

模型的计算能力

LLM 做「简单乘法」靠记忆，不是真正计算。
复杂数学应该调用 Python 解释器等外置工具。
缺少工具的模型会凭「心算」硬算并自信地给出错误答案。

实测案例：乘法错误

一个模型尝试计算 667×17，却把结果写成 3,060 —— 正确答案是 11,120。
另一个模型切换到 JavaScript 计算并得到正确结果。所以：注意模型是否会自动调用工具，否则让它用 Python。

工具调用流程

LLM 产出程序 → 经特殊 token 触发运行单元 → 程序执行并返回 → 模型再把结果整理为人类回答。
在 OpenAI 界面中，此能力被封装为「高级数据分析」。

AI 是「初级但极快的分析员」：它画图漂亮，却可能做隐性假设、编数字。所以，审查代码是你不可跳过的一步——让它打印关键变量来对质。

🎤 多模态交互：语音与图像

音频的实现路径

假音频：先用语音转文字模型将你的话转为文本，模型处理文本后再转回语音输出。
真音频（Advanced Voice Mode）：音频被转换为频谱图，再分窗、量化成 token —— 约 10 万种音频块词汇。
Transformer 内部并不在乎 token 来自文字、音频还是图像，它只建模 token 序列规律。

演示者实测建议

约 50% 查询用语音输入（在手机上比例更高，因为口述比打字快）。
系统级语音输入可使用 Super Whisper 绑定全局快捷键（例如 F5）。
NotebookLM 上传 PDF 可一键生成本地口音播客，支持问询打断。
API 高级语音模式较为保守，会拒绝一系列请求，而 Grok 提供更自由、有趣的模式。

「别只在文本框里输入文字。你可以把一半输入变为语音，让 AI 陪你聊天、甚至为你生成一集播客。」

图像如何 token 化

切开成小块（patch）→ 量化为词汇表（约 10 万种块）→ 与文本 token 合成一维序列 → 模型处理完成后由解码器还原为图片。

识图实践

上传标签或文档图片时，先请求「把图内数据转成文本」来确认读取正确。
试过让 ChatGPT 看 CO₂ 监测仪：713 PPM 在正常室内范围（低于 800 即无需过度通风）。
主模型中图像生成由独立模型（如 DALL·E 3）间接完成，先由主语言模型写提示词再生成图。

💡 个性化定制：记忆、指令与自定义 GPT

Memory 记忆

跨对话保存你的偏好与事实，可随时查看和手动编辑。
保存的信息会被当作前缀注入每一次对话。

Few-shot prompting

用示例说话：在提示词中以标签（如 XML）给出多个「输入→输出」示例，模型输出会明显更准确。
同理，「自定义 GPT」本质就是用一套固定示例与指令包装成你的专属助手。

韩语翻译 GPT 案例

设定为：「先整句翻译成英文，再逐步拆解每部分的语法对应关系」。
截图传入 GPT，实现 OCR → 翻译 → 拆解，效果远超其他翻译器。
随时可向模型追问澄清——灵活交互是真正优势。

「像一个教学极好的老师。」——这是演讲者对这类自定义工具的评价。

✅ 使用决策清单

弄清楚月费决定了模型层级：$20/月 → GPT-4o；$200/月 → O1 Pro 一个「更大的 zip」。如果换问题不满意，先确认用的是哪个模型。
优先用普通模型；遇到数学/代码/推理难题才切换思考模型（如 O1）。
数据会过时：涉及新信息（如市场动态）时让模型搜索或手动去源头验证。知识截止约一年前。
换话题必开新会话：旧 token 会抢占上下文窗口，降低速度与质量。
每次对话问自己「需要哪种工具」：要不要搜索？要不要跑 Python？要不要用 Artifacts 绘图？这决定了模型必须拥有合适的工具才不会幻觉。
个人数据与文件越详细越好；先让模型转成文本列表来确保准确读取。

最终心法：LLM 应用生态像「疯狂生长的动物园」。ChatGPT 是功能最全的默认项，但搜索去 Perplexity、原型做图选项 Claude Artifacts、闲聊转向 Grok——没有通吃的模型，看清差异就能做出好选择。

本笔记基于某开发者公开讲座整理，聚焦实用工作流

不构成医学 / 金融建议

CuteNote.app 颜值笔记生成