AI Agent 与 LLM 系统
这条路线回答:LLM 为什么不只能聊天,还能读取环境、调用工具、修改代码,并根据执行结果继续行动。
先读这 3 篇
Section titled “先读这 3 篇”Attention
先建立模型如何从上下文里选择相关信息的基础直觉。
它是理解 Transformer 与后续 LLM 能力的入口。
Chain-of-Thought
理解显式中间步骤为什么能帮助模型处理多步问题。
ReAct 的 Thought 部分建立在这条思路上。
ReAct — Reasoning and Acting
把“想一下 → 调工具 → 看反馈 → 再想”连成可观察的 agent 循环。
这是 ReAct 论文,不是 React 前端项目。
从机制走向工程闭环
Section titled “从机制走向工程闭环”Toolformer
看模型如何学习什么时候调用外部 API。
Reflexion
看 agent 如何把失败轨迹转化为下一次行动的提示。
SWE-bench
理解为什么要用真实 GitHub issue 检验软件工程 agent。
SWE-Agent
观察 agent loop 怎样落到读仓库、改代码和跑测试。
读完你应该能回答
Section titled “读完你应该能回答”- ReAct 的 Thought、Action、Observation 在产品中分别对应什么?
- Toolformer 关注的能力与 ReAct 组织的循环有什么差别?
- SWE-bench 为什么比“代码看起来合理”更适合检验 coding agent?
- 为什么 shell、编辑器和测试反馈是软件工程 agent 的关键环境?
做一个 30 分钟验证
找一个小仓库,让 LLM 只完成“读一个文件、改一处、跑测试、根据错误再改”这件事,并把每一步标成 Thought、Action 或 Observation。