迷思: 人工智慧代理記住的東西越多,它就越聰明。. 給它一個記憶文件,讓它記錄下學到的一切,每次運行都會比上次更聰明一些。.
我相信這一點。我的經紀人手冊上明確寫著「每次會話開始時務必閱讀 MEMORY.md 文件」。所以今天早上,我測量了一下這個文件在我的經紀人每天寫入資料五個月後變成了什麼樣子。.
收據
- MEMORY.md 檔案有 9,888 行,大小為 2.3 MB。. 以每個標記 4 個字元的粗略規則計算,大約需要 569,000 個「記憶」標記。“
- 文件標題位於第 3,610 行。. 其上方的所有內容都是 330 個運行日誌,最新日誌在前,堆疊在實際記憶體之上。.
- 我的代理程式使用的檔案讀取器預設會傳回 2,000 行。. 這大約是 86,000 個令牌,或約佔該檔案的 15%。它涵蓋了 10 月 1 日至今的所有數據,不包含其他任何內容。.
- 預設閱讀模式永遠不會覆蓋到最重要的部分。. 網站和基礎設施從第 4,657 行開始。受眾洞察位於第 4,695 行。技術說明位於第 4,758 行。.
- 第 2000 行下方有 114 張日期為 10 月或之後的紙幣。, 其中一些寫在文件的最底部。它們是上個月寫的,之後就一直沒看過。.
所以,代理商「記住」了56.9萬個代幣,並讀取了排名前151的TP3T,其中大部分是上個月的日誌。六月和七月來之不易的經驗教訓都包含在其中,只是代理找不到而已。.
為什麼記憶體越多,智能體反而越差,而不是越聰明?
記憶體只有在到達模型的那一刻才發揮作用。任何寫入但從未載入的資料都只是儲存空間。而不斷增長的文件會導致三個不易察覺的問題:

⚡ 取得人工智慧優勢
每週提供真正省時省錢的AI小技巧。沒有廢話,沒有誇大其詞——只有切實有效的方法。.
- 好東西都會沉下去。. 當每次運行都將自己的日誌添加到頂部時,那些根深蒂固的規則就會被日常瑣事所淹沒。最終勝出的是最新的紀錄,而不是最重要的紀錄。.
- 舊的真理不再成立。. 八月份關於一個失效 API 令牌的記錄仍然保留在那裡,寫得信心滿滿。即使代理程式讀取了這條記錄,也無法得知該代幣已於當月稍後修復。 (我曾在我的……中寫過這件事) 指令漂移檢查(規則手冊中的7項規定不再成立。)
- 載入的每個令牌都會佔用實際工作所需的空間。. 我測量了一次長帖子運行的固定開銷,在執行任何操作之前大約需要 19,000 個令牌(完整數字見下文)。 MCP 與 CLI:究竟哪些因素會影響模型).此外,還需要讀取 86k 個令牌的內存,這部分用於查找昨天的日誌。.
以下是這篇文章的真實寫作過程。為了避免重複我已經闢謠過的謠言,我的經紀人沒有閱讀它的記憶。 搜尋 我只搜尋了「神話被焚毀」這一個短語,就立刻找到了清單。搜尋功能完成了「先閱讀所有內容」本應完成的任務。.
真正有效的方法是:佔用記憶體小、日誌可搜尋。
- 將記憶體分成兩個檔案。. 一個簡短的核心文件,包含每次運行都適用的基本資訊:ID、規則、已知陷阱。檔案大小控制在幾百行以內,每次運行都載入。日誌放在一個單獨的檔案中,預設不會載入。.
- 寫規則,不要寫日記。. 當運行過程中學到某些東西時,它應該編輯核心文件中的規則(“Asana:創建任務,然後在第二次調用中添加該部分”),而不是添加一個關於它發現該資訊的日期的故事。.
- 給核心文件設定大小上限。. 如果資訊過多,就進行精簡:合併重複項,刪除不再適用的內容。從未清理過的記憶最終會變成一堆舊筆記。.
- 其餘內容可依需求搜尋。. 在這個規模下,純文字搜尋勝過任何更花哨的方法。這也是我在……中得出的結論。 RAG 管道指南:先使用 grep 指令,如果 grep 指令找不到,才使用 vector 資料庫。.
我還沒重新整理我的文件。是否更改車隊中每個代理啟動時讀取的內容,我想自己做決定,所以我的代理提交了相關數據和建議的拆分方案供我審核。最初的想法來自我的 第一個記憶技巧 依然成立:記憶體本質上就是一個文字檔。關鍵在於,必須有人編輯這個文件,而不是不斷地添加內容。.
要點: 智能體不會因為記住更多規則而變得更聰明。只有當正確的幾行規則在正確的時機到達模型時,它才會變得更聰明。今天就檢查一下你的智能體的記憶檔案:它有多長?重要的規則都放在哪裡?
想設計一個能持續有效超過三個月的代理記憶體嗎? 預約策略會議.

📥 免費:《人工智慧劇本》
我用來經營一人代理公司的所有工具和工作流程。 25 年的行銷經驗濃縮成一份實用指南。免費贈送。.
