跳到主要內容
AlanVaneAI & Software

Agents, not chatbots

聊天機器人負責回答。Agent 負責把活幹完。

聊天機器人

問:「做個網站多少錢?」

答:「視需求而定,歡迎聯繫。」

—— 對話到此為止

Agent

一封詢價說下週就要上線。

  1. 讀完往來郵件
  2. 對照範圍和我的檔期
  3. 判斷時間和預算對不上
  4. 起草一封回信說清楚哪些可行
  5. 只有該我拍板的部分轉給我

用 TypeScript 和 Go 定制開發。上線前拿你的真實用例測過,部署在你想讓它跑的地方——包括完全不離開你內網的方案。

我是 Alan,寫軟體 20+ 年,一個人做,你和程式碼之間沒有別人。

Agent 之所以是 Agent

值得動用 Agent 的活,通常有三個共同點。它接工具:真的連上你的郵箱、你的資料庫、你的 API。它會循環:動手,看結果,再由結果決定下一步。它自己收尾:知道活幹完了,而不是把別人提前寫死的步驟跑完就停。

最後這一點也正是 Agent 貴的原因。步驟順序你早就全知道的活,不需要 Agent——需要的是自動化,更便宜,跑起來也更穩。只有當下一步真的取決於上一步查到了什麼,Agent 才對得起它的成本。

模型呼叫工具觀察結果完成輸入循環回去自認完成時
輸入交給模型;模型呼叫工具;結果回來,進入下一次判斷。它在自認活幹完的那一刻離開循環。循環就是全部核心——其餘的工程,都是圍著怎麼讓這個循環安全地跑。

這類活常見的四種形態

每個形態裡真正要緊的不是順利的那條路,而是必須提前防住的那種失敗。

詢價與工單分揀

所有東西都掉進同一個收件匣,今晚就要黃的單子排在改密碼的下面第三行。代價不是讀郵件的時間,而是急事在排隊等。

進來判意圖和緊急度分進對的佇列起草回覆拿不準就轉人

我會為哪種失敗而設計

自信滿滿地把憤怒的客戶判錯。所以設計規則是:置信度低,或者消息裡提到錢、死線、走人,一律轉交,不猜。最壞的情況變成人多讀一封——絕不會有一封錯誤回覆以你的名義發出去。

單據提取入帳

發票、訂單從幾十家供應商發來,沒有兩家版式一樣,然後有人一份份敲進帳裡。這是最常被問「能不能讓它別再來煩我」的活。

單據進來抽欄位與已知資訊核對寫進系統有疑問的進佇列

我會為哪種失敗而設計

一個看起來對的錯誤數字。所以抽取結果要跟已知資訊對帳——供應商名錄、預期總額、明細加不加得起來。對不上的進複核佇列,不進你的帳。

內部知識問答

答案就在某個地方——一份制度、一個合約、一封舊郵件。找它要二十分鐘,打擾同事只要兩分鐘,於是所有人都去打擾同事。

提問搜文件集讀候選內容帶引文作答

我會為哪種失敗而設計

聽起來對、其實錯的答案。所以每個答案都帶上出處段落;寧可說「沒找到」,也不拿碎片拼一個像樣的。

定期調研與監控

有個外面的東西要盯——競品報價、招標公告、監管頁面。每週都用得上,就是每週都沒人盯。

定時執行查各來源與上次對比只報變化

我會為哪種失敗而設計

提醒疲勞。什麼都報,就變成又一個沒人看的資訊流——所以設計的大頭是決定:什麼才算值得告訴你的變化。

背後的工程

這一節能幫你判斷一個人是真交付過 agent,還是只演示過。

模型選型

Agent 的多數步驟都很小——分個類、抽個欄位、判斷「完沒完」。小而快的模型幹這些綽綽有餘,延遲的差距就是「秒回」和「乾等」的差距。大模型只留給真正需要判斷的少數幾步。資料完全不能離開本地的場景,就把相應步驟挪到本地模型上。

上下文工程

表現不好的 agent,多數不是提示詞寫壞了,是餵的料不對:做判斷時缺了它無從知道的事實,或者淹在二十頁材料裡,而要緊的只有兩段。在對的一步,把對的資訊擺到它面前——這才是這活的大頭。

工具設計

工具是 agent 通向你業務的唯一介面,而工具的描述是給它的指令,不是說明書。一個 hand_over 工具,描述裡寫清「什麼時候該用它」,遠比只寫「它是做什麼的」來得可靠。

// Tool definitions for a triage agent (illustrative)
const tools = [
  {
    name: "read_enquiry",
    description: "Fetch an enquiry by id, with its full message history.",
  },
  {
    name: "hand_over",
    description:
      "Pass this enquiry to a human. Use this whenever the budget or " +
      "deadline is unclear, or the customer sounds upset — not only " +
      "when you are unsure what to say.",
  },
];
注意 hand_over 的描述裡寫的是什麼時候該用它。這一句話幹的活,比任何系統提示詞都多。

上線前評測

拿三個人肉試過的例子跑通,不叫能用。上線前,它要跑一套用你真實用例做的固定測試——包括那些彆扭的——而且斷言的是它做了什麼動作,不是它說的話。

// Behaviour, not prose (illustrative)
test("hands over instead of replying when the deadline is impossible", async () => {
  const run = await agentRun(fixture("impossible-deadline.json"));

  expect(run.actions).toContainEqual(
    expect.objectContaining({ tool: "hand_over" }),
  );
  expect(run.actions).not.toContainEqual(
    expect.objectContaining({ tool: "send_reply" }),
  );
});
斷言的是行為:它轉交了,且沒有擅自回覆。測模型輸出的措辭,模型一換就得全改。

護欄與人來把關

每個 agent 都要對「出錯了會怎樣」有明確答案:置信度閾值後面跟著複核佇列;工具不經簽字能做的事有硬限制;不可逆的動作永遠要人點頭。安安靜靜做錯事的 agent,遠比停下來問一句的糟糕。

可觀測性

每次執行都留下完整決策軌跡——呼叫了哪些工具、什麼順序、返回了什麼——外加用量統計,運行成本是你看得見的,不用等帳單來猜。等它第四個月幹了件怪事,這條軌跡決定了是修一修還是整個重寫。

跑起來多少錢

Agent 按用量計費,運行成本隨業務量走,不是一筆躺在帳面上的固定授權費。對常見的業務量來說,這個數和它頂替掉的人工相比通常很小——但我不發那種假裝你和別人用量一樣的數字。我給的是:動工前按你的真實用量算出你的數;上線後用量軌跡擺在那裡,看得見,不用猜。真要壓成本,槓桿幾乎總在模型選型,不在用量。

專案怎麼跑

單個 agent 從首次溝通到跑起來,一般兩到四週。更大的活分階段做,每個階段結束都有能跑的東西。

01幾天

摸清需求

摸清它到底要幹什麼、需要接哪些東西,以及——它到底該不該是個 agent。要是更簡單的自動化就夠,你得到的答案就是這個。

02約一週

原型

跑在你真實資料上的 agent,窄,但端到端。刻意放早:現在發現想法要改,遠比全做完再改便宜。

031–2 週

評測與加固

用你那些彆扭用例做測試集,斷言行為的測試,置信度閾值,轉交流程,以及你日後會想要的日誌。

04按需持續

上線與交接

部署在你想讓它跑的地方,程式碼進你的儲存庫,有文件,有走查講解,你的團隊不需要我也能維護。

用什麼做

TypeScriptReactNext.jsGoNode.jsPostgreSQLCloudflare WorkersDockerOpenCodeClaudeOpenAILocal LLMs

常見問題

它要是做錯了怎麼辦?

會有一個人看到。置信度閾值、複核佇列、對不可逆動作的硬限制,都是標配;每個設計裡的失敗模式都是「人多看一件」,絕不是「自動動作錯著發出去」。

用哪家的模型?

每個步驟用它該用的。機械步驟用小而快的模型,判斷步驟用前沿模型,資料不能出門的用本地模型。模型是按步驟選的,以後想換,不用推倒重來。

能完全跑在我們自己的基礎設施上嗎?

能。跑在你的 Cloudflare 帳號、你的伺服器、本地硬體上都行,程式碼是同一份。自託管也意味著身後不會堆起一份平台帳單。

跑起來多少錢?

按用量計費,隨你的業務量走。動工前我按你的真實數字估算,上線後用量軌跡隨時看得見。

交接之後怎麼維護?

程式碼是你的,在你的儲存庫裡,帶文件。測試集隨程式碼一起交付,以後有什麼變動,部署前可以先驗證。支援可以有,但從不是條件。

手上有想做的活?

告訴我是什麼,我告訴你 agent 是不是對的工具。要不是,我會說我會用什麼。

開始你的專案 →