跳到正文
AlanVaneAI & Software

Agents, not chatbots

聊天机器人负责回答。Agent 负责把活干完。

聊天机器人

问:“做个网站多少钱?”

答:“视需求而定,欢迎联系。”

—— 对话到此为止

Agent

一封询价说下周就要上线。

  1. 读完往来邮件
  2. 对照范围和我的档期
  3. 判断时间和预算对不上
  4. 起草一封回信说清楚哪些可行
  5. 只有该我拍板的部分转给我

用 TypeScript 和 Go 定制开发。上线前拿你的真实用例测过,部署在你想让它跑的地方——包括完全不离开你内网的方案。

我是 Alan,写软件 20+ 年,一个人做,你和代码之间没有别人。

Agent 之所以是 Agent

值得动用 Agent 的活,通常有三个共同点。它接工具:真的连上你的邮箱、你的数据库、你的 API。它会循环:动手,看结果,再由结果决定下一步。它自己收尾:知道活干完了,而不是把别人提前写死的步骤跑完就停。

最后这一点也正是 Agent 贵的原因。步骤顺序你早就全知道的活,不需要 Agent——需要的是自动化,更便宜,跑起来也更稳。只有当下一步真的取决于上一步查到了什么,Agent 才对得起它的成本。

模型调用工具观察结果完成输入循环回去自认完成时
输入交给模型;模型调用工具;结果回来,进入下一次判断。它在自认活干完的那一刻离开循环。循环就是全部核心——其余的工程,都是围着怎么让这个循环安全地跑。

这类活常见的四种形态

每个形态里真正要紧的不是顺利的那条路,而是必须提前防住的那种失败。

询价与工单分拣

所有东西都掉进同一个收件箱,今晚就要黄的单子排在改密码的下面第三行。代价不是读邮件的时间,而是急事在排队等。

进来判意图和紧急度分进对的队列起草回复拿不准就转人

我会为哪种失败而设计

自信满满地把愤怒的客户判错。所以设计规则是:置信度低,或者消息里提到钱、死线、走人,一律转交,不猜。最坏的情况变成人多读一封——绝不会有一封错误回复以你的名义发出去。

单据提取入账

发票、订单从几十家供应商发来,没有两家版式一样,然后有人一份份敲进账里。这是最常被问“能不能让它别再来烦我”的活。

单据进来抽字段与已知信息核对写进系统有疑问的进队列

我会为哪种失败而设计

一个看起来对的错误数字。所以抽取结果要跟已知信息对账——供应商名录、预期总额、明细加不加得起来。对不上的进复核队列,不进你的账。

内部知识问答

答案就在某个地方——一份制度、一个合同、一封旧邮件。找它要二十分钟,打扰同事只要两分钟,于是所有人都去打扰同事。

提问搜文档集读候选内容带引文作答

我会为哪种失败而设计

听起来对、其实错的答案。所以每个答案都带上出处段落;宁可说“没找到”,也不拿碎片拼一个像样的。

定期调研与监控

有个外面的东西要盯——竞品报价、招标公告、监管页面。每周都用得上,就是每周都没人盯。

定时运行查各来源与上次对比只报变化

我会为哪种失败而设计

提醒疲劳。什么都报,就变成又一个没人看的信息流——所以设计的大头是决定:什么才算值得告诉你的变化。

背后的工程

这一节能帮你判断一个人是真交付过 agent,还是只演示过。

模型选型

Agent 的多数步骤都很小——分个类、抽个字段、判断“完没完”。小而快的模型干这些绰绰有余,延迟的差距就是“秒回”和“干等”的差距。大模型只留给真正需要判断的少数几步。数据完全不能离开本地的场景,就把相应步骤挪到本地模型上。

上下文工程

表现不好的 agent,多数不是提示词写坏了,是喂的料不对:做判断时缺了它无从知道的事实,或者淹在二十页材料里,而要紧的只有两段。在对的一步,把对的信息摆到它面前——这才是这活的大头。

工具设计

工具是 agent 通向你业务的唯一界面,而工具的描述是给它的指令,不是说明书。一个 hand_over 工具,描述里写清“什么时候该用它”,远比只写“它是干什么的”来得可靠。

// Tool definitions for a triage agent (illustrative)
const tools = [
  {
    name: "read_enquiry",
    description: "Fetch an enquiry by id, with its full message history.",
  },
  {
    name: "hand_over",
    description:
      "Pass this enquiry to a human. Use this whenever the budget or " +
      "deadline is unclear, or the customer sounds upset — not only " +
      "when you are unsure what to say.",
  },
];
注意 hand_over 的描述里写的是什么时候该用它。这一句话干的活,比任何系统提示词都多。

上线前评测

拿三个人肉试过的例子跑通,不叫能用。上线前,它要跑一套用你真实用例做的固定测试——包括那些别扭的——而且断言的是它做了什么动作,不是它说的话。

// Behaviour, not prose (illustrative)
test("hands over instead of replying when the deadline is impossible", async () => {
  const run = await agentRun(fixture("impossible-deadline.json"));

  expect(run.actions).toContainEqual(
    expect.objectContaining({ tool: "hand_over" }),
  );
  expect(run.actions).not.toContainEqual(
    expect.objectContaining({ tool: "send_reply" }),
  );
});
断言的是行为:它转交了,且没有擅自回复。测模型输出的措辞,模型一换就得全改。

护栏与人来把关

每个 agent 都要对“出错了会怎样”有明确答案:置信度阈值后面跟着复核队列;工具不经签字能做的事有硬限制;不可逆的动作永远要人点头。安安静静做错事的 agent,远比停下来问一句的糟糕。

可观测性

每次运行都留下完整决策轨迹——调了哪些工具、什么顺序、返回了什么——外加用量统计,运行成本是你看得见的,不用等账单来猜。等它第四个月干了件怪事,这条轨迹决定了是修一修还是整个重写。

跑起来多少钱

Agent 按用量计费,运行成本随业务量走,不是一笔躺在账面上的固定授权费。对常见的业务量来说,这个数和它顶替掉的人工相比通常很小——但我不发那种假装你和别人用量一样的数字。我给的是:动工前按你的真实用量算出你的数;上线后用量轨迹摆在那里,看得见,不用猜。真要压成本,杠杆几乎总在模型选型,不在用量。

项目怎么跑

单个 agent 从首次沟通到跑起来,一般两到四周。更大的活分阶段做,每个阶段结束都有能跑的东西。

01几天

摸清需求

摸清它到底要干什么、需要接哪些东西,以及——它到底该不该是个 agent。要是更简单的自动化就够,你得到的答案就是这个。

02约一周

原型

跑在你真实数据上的 agent,窄,但端到端。刻意放早:现在发现想法要改,远比全做完再改便宜。

031–2 周

评测与加固

用你那些别扭用例做测试集,断言行为的测试,置信度阈值,转交流程,以及你日后会想要的日志。

04按需持续

上线与交接

部署在你想让它跑的地方,代码进你的仓库,有文档,有走查讲解,你的团队不需要我也能维护。

用什么做

TypeScriptReactNext.jsGoNode.jsPostgreSQLCloudflare WorkersDockerOpenCodeClaudeOpenAILocal LLMs

常见问题

它要是做错了怎么办?

会有一个人看到。置信度阈值、复核队列、对不可逆动作的硬限制,都是标配;每个设计里的失败模式都是“人多看一件”,绝不是“自动动作错着发出去”。

用哪家的模型?

每个步骤用它该用的。机械步骤用小而快的模型,判断步骤用前沿模型,数据不能出门的用本地模型。模型是按步骤选的,以后想换,不用推倒重来。

能完全跑在我们自己的基础设施上吗?

能。跑在你的 Cloudflare 账号、你的服务器、本地硬件上都行,代码是同一份。自托管也意味着身后不会堆起一份平台账单。

跑起来多少钱?

按用量计费,随你的业务量走。动工前我按你的真实数字估算,上线后用量轨迹随时看得见。

交接之后怎么维护?

代码是你的,在你的仓库里,带文档。测试集随代码一起交付,以后有什么变动,部署前可以先验证。支持可以有,但从不是条件。

手里有想做的活?

告诉我是什么,我告诉你 agent 是不是对的工具。要不是,我会说我会用什么。

开始你的项目 →