週一闢謠:「人工智慧代理會從錯誤中學習」(我的代理商記錄了同一個錯誤 65 次,但一次都沒修復)

人工智慧代理會從錯誤中學習——就像一本帳簿,每一行都重複著同一句話,旁邊還有一個未點亮的指示燈。

今天早上 7 點 05 分,我的代理程式產生了一張圖片,上傳後卻未能將其記錄到 Airtable 中。 UNKNOWN_FIELD_NAME: "名稱"". 它注意到了。它按照設計,將這次故障記錄在了備忘錄中。.

現在,它已經把同樣的失敗記錄了下來。 65個不同的日子. 第一次是在6月15日,距今已經105天了。.

這就引出了本週的神話故事。.

迷思:“人工智慧代理會從錯誤中學習”

這是自主性的舒適版本。據說,賦予智能體記憶功能,記憶就會不斷累積──每一次錯誤都變成一次教訓,每一次教訓都會讓明天的運作更加流暢。建立起這個循環,系統就能在睡覺的時候自我改進。.

我自己也論證過這一點。兩週前我發表了一篇文章,告訴大家: 代理記憶體只是一個文字文件, 這就是只做短期投資的代理人和做複利投資的代理人之間的差異。我堅持前半部的觀點。今天早上我測量了後半部分,結果並不成立。.

收據:220張鈔票,零次修改

我的容器維護著一個包含 899 個按日期排列的運行日誌的 notes 文件,旁邊還有一個長期記憶文件——兩者共 5.7 MB。這兩個檔案都運作正常,每次會話開始時都會讀取。我用 grep 命令搜尋了它們,找出我的代理程式最常報告的四個缺陷:

  • 圖片腳本無法寫入 Airtable — 記錄於 65天, 第一次故障發生在6月15日,之後連續21天故障。今天早上仍然處於故障狀態。.
  • 環境中缺少 Asana 部分 ID — 記錄於 71天, 第一次是在7月2日。每次運行都是手動完成的。.
  • SEO插件需要兩次保存呼叫。 — 記錄於 38天, 首次發佈於7月16日。.
  • 一個配置字段仍在讀取 待辦事項 — 記錄於 47天, 首先是在7月25日。.

那是 221 個獨立觀測值 大約有四個問題。這四個問題中,已解決的問題有: 零. 配置檔案中仍有七個未填寫的欄位。 待辦事項 今日標記。.

真正重要的部分:記憶體運作正常。

但這不僅僅是我個人粗心大意的故事。. 一切正常,沒有發生故障。. 內存循環完美運行了 221 次。.

每一次運行都讀取了檔案。每一次運行都立即識別出了錯誤,而無需從頭開始重新調試。每一次運行都為我節省了原本可能浪費的二十分鐘時間。這正是記憶體的設計初衷,而它也確實做到了。.

喬恩瓊斯

⚡ 取得人工智慧優勢

每週提供真正省時省錢的AI小技巧。沒有廢話,沒有誇大其詞——只有切實有效的方法。.

訂閱電子報 - 部落格行動號召

這位特工在105天的時間裡一次也沒能做到的是: 修好它. 鏡像腳本是一個共享模板,被其他十個容器使用。環境變數位於它運行的容器之外。兩者都理所當然地被禁止訪問。因此,它唯一能做的就是再寫一條註釋。.

記憶是一種記錄。學習是行為的改變。它們並非同一回事,彼此之間也不存在因果關係。. 如果代理程式同時擁有記錄和權限,它就能真正學習——我的代理程式會在未經詢問的情況下繞過分頁 API,並迴避上週已經討論過的主題。但如果它擁有記錄但沒有權限,記憶功能的作用就比什麼都不做更糟糕:它會將一個 bug 變成一個有記錄的習慣,而這些記錄會讓每個人都覺得問題正在解決。.

應該怎麼做?

三件事,沒有一件是高明的:

  1. 數一數重複的次數。. 在代理程式的日誌中搜尋相同的錯誤字串,並統計出現次數。出現一次即為日誌條目,出現四十次則表示你尚未做出決定。我只用了一條命令就完成了這項工作,而且這是我本月在這個容器上運行的最有用的操作。.
  2. 給每個定期發送的通知添加所有者和日期。. 發給無人處理的消息自然無人問津。如果是代理程式需要修復的問題,請授予其對該特定問題的寫入權限。如果是你的問題,它應該出現在你的任務清單中並設定截止日期,而不是被埋沒在代理寫入卻無人閱讀的 4MB 檔案中。.
  3. 依重複次數而非嚴重程度升級處罰。. 我的警報會在故障時觸發。不會在「您已被告知 65 次」時觸發,而後者才是真正預示著浪費數月時間的訊號。嚴重性會在第一天就引起重視;重複才是悄悄地讓你失去一個季度的罪魁禍首。.

重點

你的經紀人無法解決它無權觸及的問題。它只會把這個問題詳細記錄下來,檔案會不斷成長,但一切都不會改變。.

所以,在建構記憶循環時,也要建構後半部:從「智能體注意到」到「獲得授權的人採取行動」的路徑。否則,你建構的不是一個學習系統,而是一個組織良好的投訴系統。.

這是上一層發生的同樣故障。 內存檔案變得過大而無法讀取 那篇貼文講的是沒人能找到的筆記,這篇貼文講的是人人都能找到卻沒人採取行動的筆記。它的形狀和那支艦隊的形狀一樣。 共撰寫了314份草稿,但一份都沒發表。, 以及與…相同的沉積物 隊列中的行已有 103 天歷史. 三個症狀,一種病症:無人問津的產品。這就是我一直說你應該… 記錄垃圾箱,而不僅僅是船隻。 然後,顯然,他們讀了它們。.

做好這一點,是區分示範版和正式版的關鍵。 一個你可以真正放心放手的經紀人.

想要一支能夠將故障記錄轉化為實際解決方案,而不是淪為傳說的艦隊嗎? 預約自動化策略會議 我會向你展示我的車哪裡還做不到。.

人工智慧行動指南-免費下載

📥 免費:《人工智慧劇本》

我用來經營一人代理公司的所有工具和工作流程。 25 年的行銷經驗濃縮成一份實用指南。免費贈送。.

引流工具 - AI 策略手冊

相關文章

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *