- 正确答案是「数字」,如果概率是 0.72,那么 loss ≈ 0.328
- 如果模型只给正确答案 0.10 的概率,那么 loss ≈ 2.303
从数据到函数
调整 a、b、c,让预测误差变小。
示例数据
| x | y | f(x) |
|---|---|---|
| 0.00 | ||
| 0.00 | ||
| 0.00 | ||
| 0.00 | ||
| 0.00 |
从词向量实验到 Agent 工作流
调整 a、b、c,让预测误差变小。
| x | y | f(x) |
|---|---|---|
| 0.00 | ||
| 0.00 | ||
| 0.00 | ||
| 0.00 | ||
| 0.00 |
那时的目标很单纯:把“词与词的关系”从公式里拉到屏幕上。
从这里开始,关注点从“能不能做”慢慢转向“为什么这样做”。
问答模型训练时,一条对话会被展开成连续的词元序列。系统和用户提供上下文,模型则是在每个位置学习“下一个助手词元应该是什么”。预测越接近标准答案,损失越低。
PPL 可以粗略理解为:模型在每一步平均还像在几个候选词元之间犹豫。PPL 越低,模型越不困惑。它也可以作为 AI 查重 / AI 文本检测的参考指标之一。
这一页只讲一件事:标准问答怎样被展开成逐词元训练信号。
从这一页开始,AI 不再只是算法实验,而变成可以直接感知的视觉体验。
这页重点不是“从噪声直接画图”,而是先讲清楚训练时模型到底在学什么。
AI 第一次真正进入大众视野。
到了 2023,AI 已经不再只是实验对象,而开始真正进入日常工作流。提问、改写、总结、脑暴,本质上都在做同一件事:把模糊意图转成可直接使用的结果。
这一段更像 AI 使用习惯的建立:先让模型真正进入每天的工作流。
ChatGLM-6B 是面向中文场景的开源对话模型,这一页展示的是它在移动端产品中的落地形态。
重点在于把模型能力接进手机界面、对话入口和提示词交互里,让本地或轻量化大模型真正服务真实用户场景。
到了这一段,重点已经不是单个模型效果,而是完整体验是否足够成立。
Function Calling 是 Agent 的起点,因为模型第一次可以稳定地“决定调用什么工具”。
OpenAI 在 2023 年 6 月发布了 function calling;从这里开始,模型不只是回答问题,而是能选择工具、填参数、拿结果继续推理。
Cursor 把 AI 从“网页聊天框”搬进了“开发现场”。
它不只是回答代码问题,而是围绕当前仓库、当前文件和当前改动,直接参与补全、重构和 diff 应用。
这一步的变化很大:AI 从“问答工具”变成“开发协作界面”本身的一部分。
AI 不再只是 IDE 插件,而是一个能在真实项目里跑命令、读文件、改文件、调试的工程助手。
Claude Code 让 AI 从“代码生成器”变成“工程执行者”:Cursor 是 AI 坐在 IDE 旁边,Claude Code 是 AI 坐进你的终端里。
这一段标志着 AI 真正从“会回答”走向“会推进”:它开始能接住一个小闭环,而不是只交付一段建议。
OpenAI 在 2025 年 5 月推出 Codex,定位为 ChatGPT 里的云端软件工程 Agent。
例如你只说“帮我修这个 bug”,它就能去云端拉代码、开沙箱、跑测试、修改代码,最后提交 PR。
重点不是“它会不会写”,而是“它能不能自己把一个明确任务推进到可验收状态”。
AI 进入个人工作流,变成第二大脑。
这一页重点讲本地 Agent:它能进入个人工作流,连接本机文件、NAS、摄像头和自动任务,成为真正可持续运行的第二大脑。
Hermes 阶段最有特色的不是终端本身,而是“聊天入口 + 本机权限 + 专业技能 + 子代理 + 记忆”的组合:我可以在飞书里说一句,它去本地读项目、找素材、改页面、跑构建,再把截图和结果发回来。
这部分真正想讲的是我的 agent 使用方法:把 AI 接进真实项目现场,让它完成“找上下文—调用工具—产出结果—验证—沉淀经验”的闭环。
这一页把 Hermes 的使用方式从“单次对话”拆成几种可选模式:简单任务直接做,复杂任务先计划,长期任务设目标,大任务拆子代理,周期任务交给 cron。
用 SWE-bench Pro V2 Full 任务解决率,对照已有公开成绩的模型和 Agent;下图保留固定能力门槛下的推理价格。
Artificial Analysis Coding Agent Index v1.5 与每任务平均总 Token,用官方默认配置比较编程 Agent 的能力与效率。