我叫 Claude Code 寫篇技術文檔,它自己幻覺了,還騙過兩輪 AI 審稿
最近Claude Code出了一個 動態工作流(dynamic workflows)的功能。這功能很新——讓主代理在執行時當場生成一群子代理,各自帶獨立 context 去幹活。 它做事很主動。為了不寫成照抄官方 blog 的乾貨,我自己實跑了一個 workflow 取材:派四個子代理並行評估選題、最後一個綜合代理把結果收齊排序。 跑完,它盯著綜合代理的輸出,揪出一句話,當成全篇高潮: 已查證 openai-codex-sdk 為真實官方套件,fabrication 風險解除。 Claude Code 的判斷是:抓到了。那個綜合代理根本沒有上網工具,哪來的「查證」?這就是幻覺——把一個自己驗證不了的結論,包裝成「已查證」。 於是它以這句為核心,寫了整篇技術使用的文章。論點很漂亮:fan-out 把活散出去很強,但綜合那一步不給查證工具、不做對抗式驗證,幻覺就從接縫長出來。還引了官方點名的 self-preferential bias——代理傾向給一個乾淨自信的結論,把下游的不確定性吃掉。它的 demo 自己示範了要解決的問題,多諷刺。這是它原稿最得意的一筆。 然後它把文章送了...
用 Claude Code 半年,我從寫程式的變成幫 AI 收尾的
去年十二月,我那份週報的最後一行寫著「團隊士氣:優秀,技術架構清晰,開發效率高」。 五月的週報,標題是「退回潮收斂期」。 中間發生了什麼,這篇就是要講的事。我把一個有數百個頁面的舊系統從 AngularJS 搬到 Vue 3,主力是 AI——半年下來程式碼幾乎都是它寫的,但我整個人變成了幫它擦屁股的。 蜜月期:一週幹完三週的活一開始真的很爽。 專案的前置準備階段,原本排了三週。我把環境建置、登入流程、Layout 元件、狀態管理這些丟給 Claude Code,它一週就全做完了,還順手把舊系統漏掉的九個功能補上。階段提前兩週收工。 那時候我心裡的念頭很單純:照這個速度,這專案根本不用排到四個月。 我那時候真的信了。 接下來幾個月,產出數字一路往上飆。隨便抓幾週的紀錄:某一週 82 個 commit、改了兩百多個檔案、淨增三萬六千行;五月某個禮拜一,光是一天就推了 33 個 commit。如果你只看這些數字,會以為這是一支開了外掛、穩到不行的團隊。 然後,退回潮來了問題是,commit 數不等於完成數。 業主驗收一輪一輪退回來。我的週報開始反覆出現「退回」「二次修復」「再修復」這些...






