一、怎么讓 AI 真正“懂你”想象一下和一位老朋友相處——他不會(huì)記住你每一句話的每個(gè)字但會(huì)在心里慢慢形成一個(gè)關(guān)于你的“模型”你的愛(ài)好、習(xí)慣、價(jià)值觀。AI 的用戶記憶系統(tǒng)要做的正是這件事。1. 記憶是怎么“存”進(jìn)去的每次對(duì)話結(jié)束系統(tǒng)會(huì)調(diào)用專門(mén)的 AI 模型分析對(duì)話內(nèi)容從中提取值得長(zhǎng)期記住的信息。這個(gè)過(guò)程有三個(gè)關(guān)鍵特征選擇性不記“搜索返回了 3 個(gè)選項(xiàng)”這樣的臨時(shí)信息只保留對(duì)未來(lái)有幫助的事實(shí)。抽象化不綁定某次具體航班而是提煉為通用偏好比如“用戶偏好靠窗座位”。結(jié)構(gòu)化用統(tǒng)一格式組織信息方便后續(xù)快速檢索。這樣一來(lái)下次你訂機(jī)票時(shí)Agent 就不需要再問(wèn)你的座位偏好——它已經(jīng)記住了。2. 記憶的四種存儲(chǔ)方式同樣一條信息可以用四種不同方式存儲(chǔ)各有優(yōu)劣存儲(chǔ)方式特點(diǎn)優(yōu)缺點(diǎn)Simple Notes簡(jiǎn)單筆記最小事實(shí)碎片如“郵箱johnexample.com”極快極省但信息關(guān)聯(lián)被切斷Enhanced Notes增強(qiáng)筆記完整段落如“用戶是高級(jí)軟件工程師專注 ML 三年”語(yǔ)義完整但存儲(chǔ)冗余、更新麻煩JSON CardsJSON 卡片三層結(jié)構(gòu)類別→子類別→鍵值對(duì)結(jié)構(gòu)清晰、支持部分更新但假設(shè)信息可清晰分類Advanced JSON Cards高級(jí) JSON 卡片不僅記錄事實(shí)還記錄背景、主體身份、關(guān)系精準(zhǔn)但成本高實(shí)際應(yīng)用中大多數(shù)系統(tǒng)采用混合模式關(guān)鍵數(shù)據(jù)用高級(jí)卡片保證精準(zhǔn)大量非關(guān)鍵事實(shí)用簡(jiǎn)單筆記控制成本。3. 什么樣的記憶系統(tǒng)算好評(píng)估一個(gè)記憶系統(tǒng)可以從三個(gè)層次來(lái)看第一層基礎(chǔ)回憶→ 能準(zhǔn)確存儲(chǔ)和檢索用戶直接提供的信息比如會(huì)員號(hào)。第二層多會(huì)話檢索→ 能處理多個(gè)不同時(shí)間、不同對(duì)象的會(huì)話信息比如用戶有兩輛車系統(tǒng)能主動(dòng)詢問(wèn)“為哪輛車預(yù)約保養(yǎng)”第三層主動(dòng)服務(wù)→ 助理級(jí)別綜合跨會(huì)話信息提供預(yù)見(jiàn)性幫助比如預(yù)訂國(guó)際航班時(shí)自動(dòng)關(guān)聯(lián)數(shù)月前存儲(chǔ)的護(hù)照信息并提醒即將過(guò)期。二、知識(shí)庫(kù)與 RAG讓 AI 成為“領(lǐng)域?qū)＜摇比绻f(shuō)用戶記憶是讓 AI“懂你”那么知識(shí)庫(kù)就是讓 AI“懂行”——掌握一個(gè)領(lǐng)域的專業(yè)知識(shí)。1. RAG 是什么RAG的核心思想非常簡(jiǎn)單讓 AI 在回答問(wèn)題之前先去外部知識(shí)庫(kù)“查資料”。AI 模型本身的訓(xùn)練數(shù)據(jù)有截止日期但知識(shí)庫(kù)可以隨時(shí)更新。RAG 把 AI 的思考能力與知識(shí)庫(kù)的廣度結(jié)合起來(lái)——先查到相關(guān)資料再結(jié)合這些資料來(lái)回答問(wèn)題答案自然更準(zhǔn)確、更及時(shí)。2. 文檔分塊RAG 的第一步“功課”把文檔存入知識(shí)庫(kù)之前必須先分塊Chunking——把長(zhǎng)文檔切成適合檢索的小片段。為什么要切嵌入模型把文字轉(zhuǎn)成數(shù)字向量的模型對(duì)輸入長(zhǎng)度有限制。一整篇文檔壓縮成一個(gè)向量時(shí)多個(gè)主題混在一起向量無(wú)法精確表達(dá)任何一個(gè)。常見(jiàn)的分塊策略有三種固定大小切分簡(jiǎn)單粗暴可能切斷句子。遞歸/結(jié)構(gòu)感知切分按章節(jié)、段落等自然邊界切——生產(chǎn)系統(tǒng)最常用。語(yǔ)義切分在語(yǔ)義發(fā)生“斷崖”的地方切讓每個(gè)塊的主題盡量單一。3. 檢索的兩條路線稠密 vs 稀疏分好塊之后怎么找到最相關(guān)的那幾塊有兩條技術(shù)路線稠密檢索語(yǔ)義理解把文字轉(zhuǎn)化成高維向量語(yǔ)義相近的內(nèi)容在向量空間里也“挨得近”。優(yōu)點(diǎn)是能理解同義詞缺點(diǎn)是可能漏掉精確關(guān)鍵詞。稀疏檢索關(guān)鍵詞匹配基于 BM25 等經(jīng)典算法精確匹配關(guān)鍵詞。優(yōu)點(diǎn)是能精準(zhǔn)找到“HTTP-403”缺點(diǎn)是讀不懂同義詞。最佳實(shí)踐是“混合檢索”兩條路線都跑結(jié)果合并。再進(jìn)一步用重排序器對(duì)候選結(jié)果精細(xì)打分把最相關(guān)的文檔排到最前面。三、高級(jí)知識(shí)組織從“查資料”到“真理解”簡(jiǎn)單的 RAG查資料→回答雖然強(qiáng)大但有根本性限制——它把文檔切成獨(dú)立碎片忽略了知識(shí)本身的內(nèi)在結(jié)構(gòu)。就像試圖通過(guò)閱讀一本字典的隨機(jī)詞條來(lái)理解一部小說(shuō)很難把握全局。1. 結(jié)構(gòu)化索引給知識(shí)“建目錄”解決方法是在索引之前先用 AI 把知識(shí)整理一遍——?dú)w納、抽象、建立關(guān)聯(lián)。目前主要有兩條路RAPTOR樹(shù)狀層次自下而上遞歸抽象。先把文檔切成小塊作為“葉子節(jié)點(diǎn)”聚類后生成更高層次的摘要作為“父節(jié)點(diǎn)”如此遞歸形成一棵知識(shí)樹(shù)。適合“從宏觀概念逐步深入到細(xì)節(jié)”的查詢。GraphRAG實(shí)體關(guān)系圖把知識(shí)建模為由實(shí)體和關(guān)系構(gòu)成的知識(shí)圖譜。比如張三就職于騰訊、騰訊總部在深圳。這張網(wǎng)特別擅長(zhǎng)回答“A 和 B 之間是什么關(guān)系”這類問(wèn)題。2. 智能體化 RAG從“被動(dòng)管道”到“主動(dòng)研究員”傳統(tǒng) RAG 是一個(gè)單向流程用戶提問(wèn)→檢索→生成答案。而智能體化 RAG把知識(shí)庫(kù)檢索封裝成一個(gè)工具讓 Agent 自己決定什么時(shí)候搜、搜什么、怎么搜。打個(gè)比方傳統(tǒng) RAG 就像在圖書(shū)館里只做一次搜索就立刻寫(xiě)報(bào)告智能體化 RAG 則像一位研究員可以反復(fù)查閱不同書(shū)架、調(diào)整搜索策略、交叉驗(yàn)證信息直到掌握足夠的材料再動(dòng)筆。面對(duì)復(fù)雜問(wèn)題比如法律量刑智能體化 RAG 會(huì)這樣工作第一輪分解問(wèn)題并行搜索多個(gè)子問(wèn)題。思考與評(píng)估發(fā)現(xiàn)各子問(wèn)題的信息找到了但缺少將它們聯(lián)系起來(lái)的線索。第二輪基于更聚焦的問(wèn)題構(gòu)建更精確的二次查詢。最終綜合找到關(guān)聯(lián)信息后給出邏輯嚴(yán)密的完整回答。寫(xiě)在最后這一章的核心可以濃縮為三句話第一記憶不是簡(jiǎn)單記錄而是主動(dòng)提煉。AI 不是把你說(shuō)過(guò)的每句話都存下來(lái)而是從中提取出對(duì)未來(lái)的“有用信息”——你的偏好、習(xí)慣、需求。第二檢索比存儲(chǔ)更重要。記憶再多找不到等于沒(méi)有。這就是為什么向量檢索、混合檢索、重排序這些技術(shù)如此關(guān)鍵。第三好的 Agent 不只是“回答問(wèn)題”而是“解決問(wèn)題”。從被動(dòng)等待提問(wèn)到主動(dòng)預(yù)判需求——這才是從“工具”到“助理”的本質(zhì)躍遷。