本案例涉及人工智慧(Artificial Intelligence, AI)。理解代理如何在即時推理與外部知識保存之間分配記憶。
本案例依原書第 4 章的框架、範例或情境重組,並非原書正式案例研究。
工作記憶又稱短期記憶,保存代理輸出、使用者輸入與近期互動,支援編排器的即時推理迴路。例如前次大型語言模型回應可存入變數,供下一次呼叫使用。但訊息持續附加會占用固定脈絡視窗與符記上限,也可能讓無關歷史稀釋表現。長期記憶位於系統提問之外,可按需擷取,來源包括 Pinecone、FAISS、Chroma、Elastic、Redis Vector、私人知識庫與其他脈絡儲存位置。
| 記憶類型 | 保存位置/內容 | 原書用途與限制 |
|---|---|---|
| 工作記憶 | 系統提問中的近期輸入、輸出與變數 | 串接推理;受脈絡視窗與符記限制 |
| 長期記憶 | 系統提問之外的向量資料庫或知識庫 | 按需擷取歷史與領域知識,避免塞滿脈絡 |
| 共同目的 | 保留並取回相關資訊 | 維持多步驟流程的連續性與關聯性 |
在 Excel 建立記憶分類表,記錄資訊、保存期限、是否每次帶入、擷取條件與來源;AI 可協助找出不必每次放入工作記憶的歷史內容。
原書沒有提供脈絡視窗大小或符記數字,因此不補造結果。
長期記憶不是把所有資料永久塞進提問,而是讓編排器在需要時擷取。管理重點是相關性、擷取條件與來源,而非保存愈多愈好。
請把資料清單分為工作記憶、長期記憶或不應保存,並說明是否需要每次帶入提問;只能依我提供的用途與保存要求判斷。