大模型的能力究竟从何而来?训练、推理、Reasoning、Tools、Agent:一篇文章理清大模型全链路

2026-11-21 0 3

0. 前言最近的大模型,越来越像一场“军备竞赛”OpenAI 的 GPT 系列、Anthropic 的 Claude、Google 的 Gemini,国内的 DeepSeek、Qwen,以及 xAI 的 Grok,都在不断推出新模型。

竞争重点也从最早的语言和知识能力,快速扩展到 Reasoning、代码、长上下文、工具调用和 Agent我也很感兴趣:这些能力到底是怎么来的?一个模型又是怎么被训练出来、运行起来,最后变成真正可用的 AI 系统?。

完整链路其实可以概括为:数据 + 模型架构 + 训练目标 + 算力 → Training → Model → Inference → LLM Application → Agent前半段解决的是模型怎么得到

大规模预训练让模型获得语言、知识、代码等基础能力,后训练进一步强化指令遵循、偏好、推理和工具使用训练完成后,才得到一个真正可以保存、部署和调用的 Model后半段解决的是模型怎么被使用用户输入 Prompt,模型运行并生成结果,这是 。

Inference;复杂任务中的多步骤分析属于 Reasoning;需要外部知识时接入 RAG;需要搜索、数据库、代码执行等能力时接入 Tools;如果系统还能持续规划、调用工具、读取结果并继续行动,就进入

Agent所以,真正看懂一个新模型,不能只看参数和榜单我觉得更重要的是了解:它的能力是怎么训练出来的,Inference 阶段发生了什么,Reasoning、RAG、Tools 又分别解决什么问题,以及一个 Model 最后如何变成 Agent。

。接下来,就沿着这条链路,把 Training、Inference、Reasoning、RAG、Agent 一次讲清楚。1. 大模型全链路核心概念

大模型的能力究竟从何而来?训练、推理、Reasoning、Tools、Agent:一篇文章理清大模型全链路

Training 是制造模型的过程模型最开始有一套结构和初始参数,通过大量数据、计算和优化,不断修改参数,最终得到一个训练完成的模型Model 是训练之后真正留下来的“成品”从最核心的数学意义上,可以粗略理解成:。

Model = Architecture + Learned Parameters也就是:模型结构 + 训练得到的参数Inference 是使用模型的过程模型已经训练好了,用户给它一个 Prompt,系统加载模型参数,执行计算,生成输出,这整个过程叫 Inference。

再往外看,Inference 之后还会叠加一系列能力和系统组件比如:Prompt + Context → 模型运行RAG → 给当前任务补充外部知识Tools → 给模型增加外部操作能力Reasoning → 模型在复杂任务中表现出来的分析、规划、推导能力。

Agent → 把模型、上下文、工具、状态和执行循环组织成一个完整系统所以,如果一定要把整个大模型技术体系分层,我觉得可以这么理解:第一层:模型本体包括:Architecture + Parameters,它决定“这个神经网络是什么”。

第二层:模型运行包括:Inference Runtime + Prompt + Context它决定“怎么把这个模型跑起来”第三层:LLM 应用包括:RAG + Tools + Database + Application Logic。

它决定“怎么把一个模型变成真正有用的应用”第四层:Agent 系统包括:Planning + Actions + Environment + State + Feedback Loop它决定“怎么让 AI 不只是回答一次,而是围绕目标持续完成任务”。

后面所有概念,基本都可以放回这四层里理解2. Training:一个大模型,到底是怎么被“训练出来”的?很多人第一次接触大模型,会把 Training 理解成“给模型看很多资料”这个说法不算错,但太浅Training 真正做的事情是:

通过训练数据不断计算误差,再利用误差反向修改模型参数可以把最基础的训练循环写成:Training Data → Model Forward → Prediction → Loss → Backward → Gradient → Update Parameters → Repeat。

模型最开始不是“什么都没有”它通常先有一个确定的网络架构,以及一组初始化参数假设初始参数是:θ₀然后通过一次又一次训练:θ₀ → θ₁ → θ₂ → θ₃ → … → θ*最终得到一组训练后的参数所以从这个角度看:

Training 的核心,本质上就是 Learning Parameters也就是说:把数据中的模式,通过计算,逐步编码进参数这也是为什么训练完成之后,模型即使断网、关闭、躺在硬盘上,它依然已经是一个完整的训练模型。

因为真正被训练出来的东西,已经存在于它的参数中(1) Pre-training:先获得基础能力现代大模型训练最重要的两层是:Pre-training → Post-trainingPre-training,也就是预训练,主要解决一个问题:。

先让模型从大规模数据里学会语言、知识、结构、模式和大量潜在能力以典型 GPT 类自回归语言模型为例,常见的训练目标是:根据前面的 Token,预测下一个 Token比如:The capital of France is → Paris。

模型会不断调整参数,让正确 Token 获得更高概率数学上可以粗略理解成:P(xₜ | x₁, x₂, …, xₜ₋₁)也就是:在已有上下文条件下,预测接下来最可能出现什么自回归 Next-token Prediction,是现代生成式 LLM 极其重要的一类预训练和生成范式。

(2) Post-training:从“会生成”到“会按要求做事”预训练完成后,模型已经有了大量能力但它可能仍然存在一个很实际的问题比如用户问一个问题,它未必知道:应该如何遵循指令什么答案更符合用户意图。

什么回答风格更合适哪些内容应该拒绝什么场景应该调用工具如何更好地完成数学、代码、分析等任务所以还需要 Post-training常见的方法包括:SFT、Preference Learning、RLHF、RLAIF、DPO,以及其他后训练方法。

SFT,也就是 Supervised Fine-Tuning,可以简单理解为:Prompt + 高质量理想回答 → 继续训练模型比如:问题:解释牛顿第二定律配上一份高质量参考回答,让模型学习“这种问题应该怎样回答得更好”。

再往后,可以加入偏好数据例如同一个问题有两个答案:Answer AAnswer B人类或者其他系统判断:A > B那么模型就可以继续学习:什么样的回答更符合偏好经典 RLHF 会进一步引入 Reward Model 和。

强化学习而 DPO 等方法,则可以直接利用偏好数据进行优化,不一定需要完整走传统 RLHF 的流程因此,Post-training 是一大类继续塑造模型行为、指令遵循、偏好、推理、工具使用等能力的方法集合。

3. Model 与 Inference:模型训练完之后,用户到底在使用什么?Training 结束后,真正得到的是 Model从最核心的角度理解:Model = Architecture + Learned Parameters。

这里有两个词需要分开(1) Architecture:决定模型“怎么算”Architecture 是神经网络的结构设计Transformer 是现代大模型最重要的架构基础之一,,也是是今天主流 LLM 最重要的架构基础之一。

一个典型的 Transformer 类语言模型,可以非常粗略地理解成:Token → Embedding → Transformer Layers × N → Output ProbabilityTransformer Layer 内部,又包含 Attention、Feed Forward Network、Normalization 等模块。

Architecture 决定的是:信息进入网络以后,以什么计算结构被处理(2) Parameters:训练真正学出来的东西你经常看到:7B、32B、70B、175B其中 B 是 Billion比如:7B = 约 70 亿参数

70B = 约 700 亿参数这些参数,就是训练过程中不断被更新的权重可以把训练理解成在寻找:θ* = arg min L(θ)也就是寻找一组尽可能降低训练目标损失的参数所以:Architecture + θ* → Trained Model。

(3) Inference:用户真正调用模型时发生了什么?模型训练结束之后,用户开始用它这个阶段就是 Inference可以把一次最基础的调用写成:Trained Model + Prompt → Inference → Output。

比如:用户输入:1 + 1 = ? → 模型运行 → 输出:2这整个“模型加载已有参数,并基于输入计算结果”的过程,就是 Inference而 Training 与 Inference 最本质的区别:Training → 修改参数

Inference → 使用参数4. Inference 不等于 Reasoning:为什么“推理模型”越来越重要?(1) Inference 是“运行模型”Inference 强调的是:模型正在根据输入执行计算,并生成结果。

无论你问什么,只要模型在处理输入、生成输出,就发生了 Inference比如:法国的首都是哪里?模型回答:巴黎这是 Inference(2) Reasoning 是“解决复杂问题的能力”Reasoning 强调的是:模型是否能够进行多步骤分析、逻辑推导、数学求解、规划、判断等。

比如:A > B,B > C,C > D,谁最大?模型仍然是在做 Inference但这个任务需要 Reasoning所以 Reasoning 是模型在 Inference 阶段可能表现出来的一类能力换句话说:

所有正常模型响应都涉及 Inference,但不是所有任务都需要复杂 Reasoning一个简单事实问答,也要 Inference但复杂数学题、代码调试、战略规划、多约束决策,才更依赖 Reasoning。

这一区别,也决定了为什么今天“推理模型”会变得越来越重要5. RAG 与 Tools:模型连接外部世界(1) RAG:给模型接入外部知识模型有一个天然限制:参数里的知识不可能永远保持最新RAG,全称:Retrieval-Augmented Generation

核心流程是:Question → Retrieval → External Knowledge → Context → LLM → Answer例如,公司有大量内部文档与其每次文档更新都重新训练模型,不如:。

用户提问 → 检索最新资料 → 放进 Context → 模型基于资料回答RAG 没有把新知识重新写进模型参数知识只是临时进入当前 Context所以 RAG 本质上是:模型外部的知识增强机制而且 RAG 不只是“。

企业知识库 + 向量数据库”它可以连接:网页、数据库、论文、企业文档、实时数据、用户私有数据等本质都是:让模型在推理时获得当前任务真正需要的信息(2) Tools:给模型接入外部能力模型可以决定什么时候调用外部工具,例如搜索引擎、。

Python、数据库、浏览器、邮件系统、日历、CRM、企业 API等模型负责的是:什么时候调用、调用什么、参数是什么、拿到结果后下一步做什么流程是:User Request → LLM → Tool Call → Tool Result → LLM → Final Answer。

这是当前主流 LLM Agent / Function Calling 的核心循环,也就是“推理—行动—观察”循环不过,不是所有大模型都能调用工具大模型本身只是文本生成模型,它不会真正执行搜索引擎、数据库或 Python。

要支持工具调用,通常需要:模型经过 function calling / tool use 相关训练或对齐;部署平台或框架支持工具调用接口;模型能稳定输出结构化参数,例如 JSON6. 从 LLM 到 Agent。

普通模型很多时候是:Input → Model → Output一次请求,一次回答Agent则形成了一个持续运行的控制循环,更像一个系统:LLM + Context + Tools + State + Control Loop + Environment。

其中:LLM:负责理解、分析、生成、决策Context:负责保存当前任务所需的信息Tools:负责真正与外部系统交互State / Memory:记录任务目前执行到了哪里Planning:决定下一步应该做什么。

Action:真正执行搜索、写文件、发请求、调用 API 等操作Environment:Agent 正在操作的外部世界Feedback Loop:执行完以后,读取结果,再继续决定下一步所以一个典型 Agent 系统可能是:。

Goal → LLM → Reasoning → Planning → Tool Call → Environment → Observation → Update Plan → Next Action

7. 总结我经常思考、串联不同领域的知识关联逻辑从大模型到智能体、技术路径和框架层出不穷,各个方向都经历过一定的技术革新和发展今天我刚看到了阿里千问大模型的招聘信息,从招聘岗位就能大致看出如今厂商主要做的哪些工作。

25种类岗位大概如下,其实就是基本对应文中大模型全链路的各个环节,从模型底座预训练、到后训练与强化学习、再到多模态、Agent 与 Coding等等所以,我觉得,先有整体框架思维、再学习局部细节,是比较合理的路径。

以后再遇到任何一个 AI 新概念,都能先判断:它是在“制造模型”?它属于“模型本体”?它是在“运行模型”?还是在“给模型增加外部能力”?或者,它已经属于一个完整 Agent 系统?当这几个层级分清之后,很多看起来复杂的大模型概念就会变得简单。

🍃推荐阅读:一文读懂智能体发展史:从单一范式到自主协作的进化之路从Embedding到Transformer,一文读懂自然语言处理核心技术!Harness 最佳开源项目!从 learnClaudeCode 看懂 Agent 的真正运行机制

Graph Engineering 一文看懂!智能体新范式持续分享,欢迎关注

声明: 本文部分内容及图片来源于网络,由本站编辑整理,仅用于学习交流,版权归原作者所有。如有侵权,请联系我们删除。联系邮箱:3454251265@qq.com

收藏 (0) 打赏

感谢您的支持,我会继续努力的!

打开微信/支付宝扫一扫,即可进行扫码打赏哦,分享从这里开始,精彩与您同在
点赞 (0)

「米云软件」 AIGC 大模型的能力究竟从何而来?训练、推理、Reasoning、Tools、Agent:一篇文章理清大模型全链路 https://www.miyunrj.com/aigc/1208.html

常见问题

相关文章

猜你喜欢
发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务