本文深入解析了Agentic RAG系統(tǒng)介紹如何基于LangGraph和Qwen構(gòu)建該系統(tǒng)。文章詳細(xì)闡述了Agentic RAG的核心概念、工作流程以及實(shí)現(xiàn)步驟包括查詢路由與分類、動(dòng)態(tài)知識獲取策略、多階段質(zhì)量保障等。通過本文讀者將了解如何構(gòu)建一個(gè)能夠根據(jù)查詢復(fù)雜度和上下文動(dòng)態(tài)調(diào)整檢索與生成策略的智能自適應(yīng)AI系統(tǒng)并掌握相關(guān)技術(shù)棧和組件的應(yīng)用。此外文章還展望了Agentic RAG的未來發(fā)展方向包括多模態(tài)融合與自主智能化等。檢索增強(qiáng)生成RAG徹底改變了AI系統(tǒng)訪問和利用外部知識進(jìn)行推理的模式。然而隨著應(yīng)用場景復(fù)雜性的不斷提升傳統(tǒng)RAG方法的局限性也日益凸顯。如今RAG正從單一的線性流程進(jìn)化為能夠根據(jù)查詢復(fù)雜度和上下文動(dòng)態(tài)調(diào)整檢索與生成策略的智能自適應(yīng)系統(tǒng)。一、理解Agentic RAGAgentic RAG是一種更先進(jìn)的RAG策略它融合了兩大核心能力動(dòng)態(tài)查詢分析和自我糾錯(cuò)機(jī)制。它被認(rèn)為是RAG發(fā)展中最成熟的形態(tài)其核心理念是查詢的復(fù)雜度各不相同。研究表明現(xiàn)實(shí)場景中的查詢復(fù)雜度差異顯著簡單查詢?nèi)纭俺啥际悄膫€(gè)省的省會”—— 語言模型即可直接回答。多跳查詢?nèi)纭扒宄瘯r(shí)期康熙皇帝什么時(shí)候派人修建圓明園并由誰主持設(shè)計(jì)”—— 需要經(jīng)過多輪推理才能得出準(zhǔn)確答案。Agentic RAG系統(tǒng)工作流程圖Agentic RAG的核心流程分為以下幾步1. 查詢路由與分類系統(tǒng)首先通過訓(xùn)練好的復(fù)雜度分類器對輸入問題進(jìn)行分析這不是簡單的關(guān)鍵詞匹配而是基于語義的智能評估以確定是否需要檢索模型自身知識是否足以回答。如果需要檢索問題需要多復(fù)雜的處理路徑。最終將問題路由到最優(yōu)策略無需檢索、單步檢索處理或多跳推理。2. 動(dòng)態(tài)知識獲取策略根據(jù)分類結(jié)果系統(tǒng)會動(dòng)態(tài)選擇最合適的知識獲取方式基于索引的檢索適用于已有知識庫即可覆蓋的問題。網(wǎng)絡(luò)搜索適用于需要最新信息或本地知識不足的場景。無需檢索模型自身知識即可快速生成答案。3. 多階段質(zhì)量保障在生成答案的多個(gè)環(huán)節(jié)系統(tǒng)通過多層評估確保結(jié)果的準(zhǔn)確性與可靠性文檔相關(guān)性評估通過置信度評分判斷檢索內(nèi)容的匹配度?；糜X檢測識別并避免無依據(jù)的生成內(nèi)容。答案質(zhì)量評估確保最終輸出完整、準(zhǔn)確且符合查詢需求。二、Agentic RAG實(shí)現(xiàn)指南本文將落地一套自適應(yīng)Agentic RAG系統(tǒng)對用戶查詢做細(xì)粒度判斷在檢索與路由之間做出智能決策強(qiáng)調(diào)可復(fù)用、可擴(kuò)展與工程落地。該實(shí)現(xiàn)展示了智能查詢分析根據(jù)問題類型與難度自動(dòng)選擇最優(yōu)執(zhí)行路徑系統(tǒng)化評估框架以離線與在線指標(biāo)校驗(yàn)回答確保可靠與一致自適應(yīng)架構(gòu)設(shè)計(jì)在向量庫、內(nèi)部API與互聯(lián)網(wǎng)搜索之間自由路由與切換。本方案在原始LangChain實(shí)現(xiàn)基礎(chǔ)上完成重構(gòu)顯著提升代碼可讀性與可維護(hù)性并優(yōu)化開發(fā)者體驗(yàn)。我們將使用以下技術(shù)棧和組件LangGraph編排復(fù)雜的有狀態(tài)工作流Qwen作為主要語言模型向量數(shù)據(jù)庫用于高效文檔檢索網(wǎng)絡(luò)搜索集成獲取實(shí)時(shí)信息全鏈路的評估框架從數(shù)據(jù)到答案的質(zhì)量保障。接下來我們將循序漸進(jìn)地構(gòu)建一個(gè)Agentic RAG系統(tǒng)并按照最有助于理解整體流程的邏輯順序逐一拆解各組件的功能與實(shí)現(xiàn)細(xì)節(jié)。第1步定義狀態(tài)管理系統(tǒng)與核心常量在Agentic RAG系統(tǒng)中狀態(tài)管理是整個(gè)流程的基礎(chǔ)它決定了信息在圖結(jié)構(gòu)中的流動(dòng)方式也是系統(tǒng)能實(shí)現(xiàn)動(dòng)態(tài)自適應(yīng)決策的核心環(huán)節(jié)。import osfrom typing import List, TypedDict, Dict, Any, Literalfrom dotenv import find_dotenv, load_dotenvfrom pydantic import BaseModel, Field from langchain_core.prompts import ChatPromptTemplatefrom langchain_core.runnables import RunnableSequencefrom langchain_core.output_parsers import StrOutputParserfrom langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain_chroma import Chromafrom langchain_community.chat_models.tongyi import ChatTongyifrom langchain_community.document_loaders import WebBaseLoaderfrom langchain_community.embeddings import HuggingFaceBgeEmbeddingsfrom langchain.schema import Documentfrom langchain import hubfrom langgraph.graph import END, StateGraph from chinese_recursive_text_splitter import ChineseRecursiveTextSplitterfrom langchain_tavily import TavilySearch class GraphState(TypedDict): 表示圖中每個(gè)節(jié)點(diǎn)的狀態(tài)。 屬性 question: 用戶輸入的問題 generation: LLM生成的回答 web_search: 是否需要進(jìn)行網(wǎng)絡(luò)搜索 documents: 存放本地或網(wǎng)絡(luò)檢索到的文檔列表 fallback: 是否由LLM直接生成 question: str generation: str web_search: bool documents: List[str] fallback: bool在開始編碼前我們引用了相關(guān)的依賴庫。然后我們使用TypedDict來定義 圖中每個(gè)節(jié)點(diǎn)的狀態(tài)既保證類型安全又保留工作流動(dòng)態(tài)處理的靈活性。接下來定義圖中各節(jié)點(diǎn)的名稱常量RETRIEVE retrieveGRADE_DOCUMENTS grade_documentsGENERATE generateWEBSEARCH websearchLLM_FALLBACK llm_fallback這些常量有助于保持代碼一致性集中管理節(jié)點(diǎn)名稱不僅方便重構(gòu)也能減少在工作流中引用節(jié)點(diǎn)時(shí)出現(xiàn)錯(cuò)誤的可能性。第2步初始化模型文件這段代碼的作用是初始化核心模型文件為后續(xù)構(gòu)建Agentic RAG系統(tǒng)做準(zhǔn)備包含兩個(gè)部分初始化大語言模型和嵌入模型。# 加載環(huán)境變量load_dotenv(find_dotenv()) # 加載大語言模型llm_model ChatTongyi(model_nameqwen-max, streamingTrue, temperature0) # 加載嵌入模型embed_model HuggingFaceBgeEmbeddings( model_name../bge-large-zh-v1.5, model_kwargs{device: cuda}, encode_kwargs{normalize_embeddings: True} )第3步構(gòu)建查詢路由鏈在Agentic RAG系統(tǒng)中查詢路由器是首個(gè)決策環(huán)節(jié)其核心任務(wù)是智能判斷用戶問題的類型并選擇最優(yōu)知識來源確保系統(tǒng)能夠高效、準(zhǔn)確地響應(yīng)各種查詢。# 定義路由輸出結(jié)構(gòu)class RouteQuery(BaseModel): 將用戶的問題路由到最相關(guān)的數(shù)據(jù)源 datasource: Literal[vectorstore, websearch, llm_fallback] Field( ..., description根據(jù)用戶問題將其路由到向量數(shù)據(jù)庫、網(wǎng)絡(luò)搜索或直接由LLM生成, ) # 將 LLM 包裝成結(jié)構(gòu)化輸出模式輸出 RouteQuery 類型structured_llm_router llm_model.with_structured_output(RouteQuery) # 系統(tǒng)提示詞system 你是一個(gè)專家級的路由器負(fù)責(zé)判斷用戶問題應(yīng)該選擇哪個(gè)路徑。1. 如果問題是閑聊或寒暄如“你好”、“講個(gè)笑話”、“你是誰”選擇llm_fallback2. 如果問題與AI技術(shù)文檔相關(guān)選擇vectorstore3. 如果需要最新實(shí)時(shí)信息選擇websearch只輸出vectorstore、websearch或llm_fallback即可。 # 構(gòu)建提示模板route_prompt ChatPromptTemplate.from_messages( [ (system, system), (human, {question}), ]) # 組合提示模板與結(jié)構(gòu)化路由模型question_router route_prompt | structured_llm_router def route_question(state: GraphState) - str: 根據(jù)路由器決定問題走向 print(state) print(---路由問題---) source: RouteQuery question_router.invoke({question: state[question]}) if source.datasource websearch: return WEBSEARCH elif source.datasource vectorstore: return RETRIEVE else: return LLM_FALLBACK在這一環(huán)節(jié)系統(tǒng)會對用戶問題進(jìn)行智能分類并選擇最合適的處理路徑vectorstore當(dāng)問題涉及AI技術(shù)內(nèi)容時(shí)直接從向量數(shù)據(jù)庫檢索答案。websearch當(dāng)問題需要最新實(shí)時(shí)信息時(shí)調(diào)用網(wǎng)絡(luò)搜索獲取數(shù)據(jù)。llm_fallback對于閑聊、寒暄等問題直接由LLM生成答案。通過這一智能化路由策略Agentic RAG系統(tǒng)在知識覆蓋、實(shí)時(shí)性與靈活性之間實(shí)現(xiàn)了平衡本地知識庫命中時(shí)快速返回高質(zhì)量答案知識庫覆蓋不足時(shí)網(wǎng)絡(luò)搜索補(bǔ)充最新信息對于無需檢索的場景LLM_FALLBACK確保系統(tǒng)仍能生成合理且連貫的回應(yīng)。第4步構(gòu)建文檔向量檢索節(jié)點(diǎn)文檔向量檢索是RAG系統(tǒng)的知識核心負(fù)責(zé)將用戶問題與本地知識庫中的高相關(guān)內(nèi)容匹配為生成答案提供可靠上下文。def create_vectorstore(): 創(chuàng)建或加載向量存儲用于文檔檢索 chroma_path ./chroma_langchain_db # 如果本地已經(jīng)存在向量數(shù)據(jù)庫直接加載 if os.path.exists(chroma_path): print(正在加載本地向量存儲...) vectorstore Chroma( persist_directorychroma_path, embedding_functionembed_model, collection_namerag-chroma, ) return vectorstore.as_retriever() # 如果沒有構(gòu)建新的向量數(shù)據(jù)庫 print(正在創(chuàng)建新的向量存儲...) urls [ https://aws.amazon.com/cn/what-is/large-language-model/, https://zhuanlan.zhihu.com/p/659386520, https://zhuanlan.zhihu.com/p/620342675, ] # 從網(wǎng)頁加載內(nèi)容 docs [WebBaseLoader(url).load() for url in urls] docs_list [item for sublist in docs for item in sublist] # 將長文本拆分為小片段 text_splitter ChineseRecursiveTextSplitter( chunk_size250, # 每段大小約 250 tokens chunk_overlap0 # 不重疊 ) doc_splits text_splitter.split_documents(docs_list) # 構(gòu)建 Chroma 向量存儲并持久化到本地 vectorstore Chroma.from_documents( documentsdoc_splits, collection_namerag-chroma, embeddingembed_model, persist_directorychroma_path, ) print(向量存儲創(chuàng)建完成) return vectorstore.as_retriever() # 初始化檢索器retriever create_vectorstore() def retrieve(state: Dict[str, Any]) - Dict[str, Any]: 從向量存儲中檢索相關(guān)文檔 print(---RETRIEVE---) question state[question] # 使用預(yù)先配置好的檢索器獲取最語義相關(guān)的文檔 documents retriever.invoke(question) return {documents: documents, question: question}這一環(huán)節(jié)是整個(gè)知識庫的核心流程可以拆解為以下幾個(gè)部分加載環(huán)境變量通過load_dotenv讀取配置文件方便靈活調(diào)用不同模型或參數(shù)減少硬編碼帶來的維護(hù)成本。定義高質(zhì)量知識源我們選取了三篇技術(shù)文章作為示例作為知識庫的基礎(chǔ)內(nèi)容后續(xù)也可以根據(jù)業(yè)務(wù)需要進(jìn)行擴(kuò)展。加載網(wǎng)頁內(nèi)容利用WebBaseLoader抓取網(wǎng)頁內(nèi)容并轉(zhuǎn)換為標(biāo)準(zhǔn)的文檔對象便于后續(xù)處理。文本智能切分通過ChineseRecursiveTextSplitter將長文本切分成250 tokens的小片段且不設(shè)置重疊。這種切分方式可以兼顧語義完整性和檢索效率確保模型在檢索時(shí)定位更加精準(zhǔn)。構(gòu)建本地向量存儲調(diào)用Chroma向量數(shù)據(jù)庫將切分后的文本片段向量化并結(jié)合嵌入模型生成高質(zhì)量語義向量再持久化存儲到本地。這意味著即使重啟環(huán)境也能快速加載無需重復(fù)構(gòu)建。實(shí)現(xiàn)檢索節(jié)點(diǎn)當(dāng)用戶輸入問題時(shí)檢索器會從本地?cái)?shù)據(jù)庫中找到語義相關(guān)度最高的文檔為后續(xù)的生成環(huán)節(jié)提供精準(zhǔn)上下文。通過這一流程RAG系統(tǒng)具備了高效、穩(wěn)定的語義檢索能力。后續(xù)再結(jié)合評分和決策機(jī)制就能進(jìn)一步過濾噪聲信息僅保留高質(zhì)量、強(qiáng)相關(guān)的文檔從而顯著提升生成內(nèi)容的準(zhǔn)確性與可靠性。第5步構(gòu)建網(wǎng)絡(luò)搜索節(jié)點(diǎn)為了擴(kuò)展知識覆蓋范圍Agentic RAG系統(tǒng)引入網(wǎng)絡(luò)搜索節(jié)點(diǎn)用于處理實(shí)時(shí)信息或本地知識庫未覆蓋的領(lǐng)域問題。# 初始化 Tavily 搜索工具最多返回 3 條結(jié)果web_search_tool TavilySearch(max_results3) def web_search(state: GraphState) - Dict[str, Any]: print(---WEB SEARCH---) question state[question] # 獲取已有文檔若無則創(chuàng)建空列表 documents state.get(documents, []) # 調(diào)用網(wǎng)絡(luò)搜索 tavily_results web_search_tool.invoke({query: question})[results] joined_tavily_result /n.join( [tavily_result[content] for tavily_result in tavily_results] ) web_results Document(page_contentjoined_tavily_result) # 將搜索結(jié)果加入文檔列表 if documents: documents.append(web_results) else: documents [web_results] return {documents: documents, question: question}網(wǎng)絡(luò)搜索節(jié)點(diǎn)的引入是為了彌補(bǔ)本地向量數(shù)據(jù)庫的局限在處理實(shí)時(shí)問題或未覆蓋的領(lǐng)域知識時(shí)顯得尤為重要接入Tavily搜索Tavily是針對AI應(yīng)用優(yōu)化的搜索API能夠快速找到與問題最相關(guān)的網(wǎng)頁內(nèi)容。每次搜索最多返回3條結(jié)果確保信息簡潔且精準(zhǔn)。合并搜索結(jié)果搜索完成后系統(tǒng)會將多條網(wǎng)頁內(nèi)容合并為一個(gè)Document對象并追加到當(dāng)前的文檔集合中。實(shí)現(xiàn)混合知識檢索系統(tǒng)可同時(shí)利用本地向量庫處理領(lǐng)域?qū)I(yè)問題也可通過網(wǎng)絡(luò)搜索獲取最新、全面的答案。這種“本地知識網(wǎng)絡(luò)搜索”的混合策略讓RAG系統(tǒng)既能保持生成結(jié)果的準(zhǔn)確性又具備廣度和靈活性從而應(yīng)對從技術(shù)深研到新聞熱點(diǎn)等多樣化的查詢場景。第6步創(chuàng)建文檔檢索評分節(jié)點(diǎn)文檔檢索評分器是整個(gè)流程的質(zhì)量把控環(huán)節(jié)用于校驗(yàn)從向量數(shù)據(jù)庫檢索出的文檔是否真正契合用戶問題。這一步至關(guān)重要因?yàn)橄蛄肯嗨贫取僬Z義相關(guān)性有時(shí)檢索結(jié)果看似匹配但實(shí)際語境并不契合。# 定義評分輸出結(jié)構(gòu)class GradeDocuments(BaseModel): 用于檢查檢索文檔是否與問題相關(guān)的二元評分 binary_score: str Field( description判斷文檔是否與問題相關(guān)僅輸出 yes 或 no ) # 將 LLM 模型封裝為結(jié)構(gòu)化輸出模式structured_llm_grader llm_model.with_structured_output(GradeDocuments) # 系統(tǒng)提示詞system_prompt 你是一個(gè)負(fù)責(zé)評估檢索結(jié)果相關(guān)性的評分器。如果文檔內(nèi)容包含了與問題相關(guān)的關(guān)鍵詞或者語義上與問題匹配請?jiān)u為 yes。如果完全無關(guān)則返回 no。請嚴(yán)格輸出 yes 或 no用于標(biāo)記該文檔是否與用戶問題相關(guān)。 # 構(gòu)建提示模板grade_prompt ChatPromptTemplate.from_messages([ (system, system_prompt), (human, 檢索到的文檔:/n/n {document} /n/n 用戶問題: {question}),]) # 組合評分鏈retrieval_grader grade_prompt | structured_llm_grader # 評分函數(shù)def grade_documents(state: Dict[str, Any]) - Dict[str, Any]: 判斷檢索到的文檔是否與問題相關(guān)。 如果有任何文檔不相關(guān)將觸發(fā) web 搜索標(biāo)記。 Args: state (dict): 當(dāng)前圖狀態(tài) Returns: state (dict): 篩選出相關(guān)文檔并更新 web_search 狀態(tài) print(---檢查文檔與問題的相關(guān)性---) question state[question] documents state[documents] filtered_docs [] web_search False for d in documents: # 使用檢索評分器評估文檔相關(guān)性 score retrieval_grader.invoke({ question: question, document: d.page_content }) grade score.binary_score if grade.lower() yes: print(---評分結(jié)果文檔相關(guān)---) filtered_docs.append(d) else: print(---評分結(jié)果文檔不相關(guān)---) web_search True continue return {documents: filtered_docs, question: question, web_search: web_search}其工作機(jī)制可以拆解為以下三點(diǎn)結(jié)構(gòu)化輸出通過GradeDocuments模型強(qiáng)制生成yes或no的結(jié)果確保后續(xù)處理簡單且穩(wěn)定。精準(zhǔn)提示詞同時(shí)檢查關(guān)鍵詞匹配與語義匹配實(shí)現(xiàn)更全面的相關(guān)性評估。質(zhì)量把控若檢索內(nèi)容不相關(guān)則直接丟棄避免誤導(dǎo)生成當(dāng)無合格文檔時(shí)系統(tǒng)會自動(dòng)觸發(fā)網(wǎng)絡(luò)搜索補(bǔ)充缺失信息。這種評分機(jī)制讓檢索模塊在效率與準(zhǔn)確性之間實(shí)現(xiàn)最佳平衡本地知識庫命中率高時(shí)響應(yīng)更快而在知識覆蓋不足時(shí)又能自適應(yīng)擴(kuò)展搜索范圍從而保障用戶始終獲得完整、準(zhǔn)確的答案。第7步構(gòu)建生成節(jié)點(diǎn)生成節(jié)點(diǎn)是RAG系統(tǒng)的大腦負(fù)責(zé)將用戶問題與檢索到的上下文信息結(jié)合生成最終答案實(shí)現(xiàn)從檢索到生成的完整閉環(huán)。# 從 LangChain Hub 拉取優(yōu)化好的 RAG Promptprompt hub.pull(rlm/rag-prompt) # 構(gòu)建生成鏈提示模板 → LLM → 輸出解析器generation_chain prompt | llm_model | StrOutputParser() def generate(state: GraphState) - Dict[str, Any]: 使用文檔和問題生成答案 print(---GENERATE---) question state[question] documents state[documents] # 調(diào)用生成鏈生成最終答案 generation generation_chain.invoke({context: documents, question: question}) return {documents: documents, question: question, generation: generation} def llm_fallback(state: GraphState) - Dict[str, Any]: 當(dāng)問題無需檢索或搜索時(shí)直接由 LLM 生成答案 print(---LLM FALLBACK---) question state[question] generation llm_model.invoke(question).content return { question: question, generation: generation, documents: [], web_search: False, fallback: True, }生成節(jié)點(diǎn)的核心特點(diǎn)優(yōu)化提示模板我們直接從LangChain Hub拉取專為檢索增強(qiáng)生成RAG場景優(yōu)化的Prompt模板。這個(gè)模板能更好地融合檢索到的上下文信息幫助模型生成更準(zhǔn)確、更有邏輯的回答。輸出結(jié)構(gòu)化通過StrOutputParser輸出會被規(guī)范化為干凈的純文本格式方便后續(xù)進(jìn)行評分、質(zhì)檢或二次處理。核心價(jià)值生成鏈將用戶問題、檢索文檔、提示模板有機(jī)結(jié)合確保回答不僅完整、準(zhǔn)確還能直接用于答案質(zhì)量評估和幻覺檢測。通過這個(gè)節(jié)點(diǎn)RAG系統(tǒng)真正實(shí)現(xiàn)了“從檢索到生成”的完整閉環(huán)生成的內(nèi)容能夠無縫支持答案質(zhì)量評估與幻覺檢測等后續(xù)流程。第8步構(gòu)建生成內(nèi)容幻覺檢測系統(tǒng)幻覺檢測器是RAG系統(tǒng)中至關(guān)重要的質(zhì)量保障組件用于確保生成答案基于事實(shí)避免出現(xiàn)“貌似合理但錯(cuò)誤”的內(nèi)容。# 定義幻覺評分輸出結(jié)構(gòu)class GradeHallucinations(BaseModel): 用于檢測生成答案中是否存在幻覺的二元評分 binary_score: bool Field( description答案是否基于事實(shí)僅輸出 True 或 False ) # 將 LLM 封裝為結(jié)構(gòu)化輸出模式structured_llm_grader llm_model.with_structured_output(GradeHallucinations) # 系統(tǒng)提示詞system 你是一個(gè)評分器用于判斷 LLM 生成的回答是否基于一組檢索到的事實(shí)。請嚴(yán)格給出二元評分 yes 或 no。Yes 表示答案基于/支持所提供的事實(shí)No 表示答案未得到事實(shí)支持。 # 構(gòu)建提示模板hallucination_prompt ChatPromptTemplate.from_messages( [ (system, system), (human, 事實(shí)集合: /n/n {documents} /n/n LLM 生成內(nèi)容: {generation}), ]) # 組合成可執(zhí)行評分鏈hallucination_grader: RunnableSequence hallucination_prompt | structured_llm_grader幻覺檢測器是RAG系統(tǒng)最關(guān)鍵的組件之一用于確保生成內(nèi)容真實(shí)且有事實(shí)依據(jù)驗(yàn)證生成答案的真實(shí)性將模型輸出與檢索到的文檔逐一對比判斷信息是否有可靠支撐。二元評分采用布爾值或’yes’/no’的結(jié)果避免模棱兩可的判斷。防止“貌似合理但錯(cuò)誤”的回答一旦檢測到幻覺系統(tǒng)會觸發(fā)重新生成或補(bǔ)充檢索確保輸出內(nèi)容準(zhǔn)確可靠。這一環(huán)節(jié)顯著提升了RAG系統(tǒng)的可信度與安全性讓最終生成結(jié)果既智能又可靠。第9步創(chuàng)建答案質(zhì)量評分器答案質(zhì)量評分器負(fù)責(zé)評估生成內(nèi)容是否真正回應(yīng)用戶問題確保輸出不僅基于事實(shí)還具有針對性和實(shí)用性。# 定義答案評分輸出結(jié)構(gòu)class GradeAnswer(BaseModel): binary_score: bool Field( description答案是否有效回應(yīng)問題僅輸出 True 或 False ) # 將 LLM 封裝為結(jié)構(gòu)化輸出模式structured_llm_grader llm_model.with_structured_output(GradeAnswer) # 系統(tǒng)提示詞system 你是一個(gè)評分器用于判斷生成的答案是否解決了用戶的問題。請嚴(yán)格給出二元評分 yes 或 no。Yes 表示答案有效回應(yīng)并解決了問題No 表示未解決。 # 構(gòu)建提示模板answer_prompt ChatPromptTemplate.from_messages( [ (system, system), (human, 用戶問題: /n/n {question} /n/n LLM 生成內(nèi)容: {generation}), ]) # 組合成可執(zhí)行評分鏈answer_grader: RunnableSequence answer_prompt | structured_llm_grader答案質(zhì)量評分器用于評估生成內(nèi)容是否真正回應(yīng)用戶問題驗(yàn)證回答的針對性即便答案基于事實(shí)也需判斷其是否直接解決了用戶的具體需求。二元化評分采用’yes’或’no’標(biāo)記確保評估結(jié)果清晰、易于處理。觸發(fā)補(bǔ)救措施若答案未能有效回應(yīng)問題將啟動(dòng)額外檢索或網(wǎng)絡(luò)搜索以獲取更匹配的信息。借助答案質(zhì)量評分器系統(tǒng)輸出能夠做到準(zhǔn)確且切題進(jìn)一步提升用戶體驗(yàn)與整體可靠性。第10步構(gòu)建完整圖工作流這一環(huán)節(jié)是Agentic RAG系統(tǒng)的核心將前面構(gòu)建的檢索、生成、評分和搜索模塊有機(jī)整合形成一個(gè)端到端智能閉環(huán)。# 決策是否進(jìn)入生成環(huán)節(jié)def decide_to_generate(state): 根據(jù)文檔評分決定走 web 搜索還是直接生成答案 print(---評估文檔---) return WEBSEARCH if state[web_search] else GENERATE # 對生成內(nèi)容進(jìn)行幻覺與答案質(zhì)量評分def grade_generation_grounded_in_documents_and_question(state): 評分生成答案的真實(shí)性與有效性 print(---檢查幻覺與答案質(zhì)量---) question state[question] documents state[documents] generation state[generation] # 檢查是否基于事實(shí) score hallucination_grader.invoke({documents: documents, generation: generation}) if score.binary_score: # 檢查答案是否有用 score answer_grader.invoke({question: question, generation: generation}) return useful if score.binary_score else not useful else: return not supported # 構(gòu)建工作流workflow StateGraph(GraphState)workflow.add_node(RETRIEVE, retrieve)workflow.add_node(GRADE_DOCUMENTS, grade_documents)workflow.add_node(GENERATE, generate)workflow.add_node(WEBSEARCH, web_search)workflow.add_node(LLM_FALLBACK, llm_fallback)workflow.set_conditional_entry_point( route_question, {WEBSEARCH: WEBSEARCH, RETRIEVE: RETRIEVE, LLM_FALLBACK: LLM_FALLBACK},)workflow.add_edge(RETRIEVE, GRADE_DOCUMENTS)workflow.add_conditional_edges( GRADE_DOCUMENTS, decide_to_generate, {WEBSEARCH: WEBSEARCH, GENERATE: GENERATE},)workflow.add_conditional_edges( GENERATE, grade_generation_grounded_in_documents_and_question, {not supported: GENERATE, useful: END, not useful: WEBSEARCH},)workflow.add_edge(WEBSEARCH, GENERATE)workflow.add_edge(LLM_FALLBACK, END)app workflow.compile() # 導(dǎo)出圖可視化app.get_graph().draw_mermaid_png(output_file_pathgraph.png)這個(gè)圖工作流是Agentic RAG系統(tǒng)的核心將前面構(gòu)建的各模塊有機(jī)整合形成完整閉環(huán)條件入口點(diǎn)系統(tǒng)根據(jù)路由器的判斷將問題分配至本地檢索或網(wǎng)絡(luò)搜索。自適應(yīng)決策邏輯decide_to_generate根據(jù)文檔評分決定生成答案或進(jìn)入網(wǎng)絡(luò)搜索流程。grade_generation_grounded_in_documents_and_question執(zhí)行自我糾錯(cuò)機(jī)制檢測生成內(nèi)容的真實(shí)性與質(zhì)量必要時(shí)觸發(fā)重新生成或補(bǔ)充檢索。route_question負(fù)責(zé)初始問題的智能路由。動(dòng)態(tài)工作流編譯后的工作流能根據(jù)每一步的信息質(zhì)量動(dòng)態(tài)調(diào)整執(zhí)行路徑確保最終輸出可靠、準(zhǔn)確?？梢暬罱K導(dǎo)出graph.png直觀展示整個(gè)系統(tǒng)的執(zhí)行流程。通過這一環(huán)節(jié)Agentic RAG系統(tǒng)完成了智能、自適應(yīng)的端到端問答閉環(huán)從用戶提問到答案輸出每一步都可控、可驗(yàn)證確保生成內(nèi)容高質(zhì)量、高可靠性。LangGraph狀態(tài)流程圖第11步創(chuàng)建主應(yīng)用入口主應(yīng)用入口是Agentic RAG系統(tǒng)的用戶交互界面為系統(tǒng)提供了一個(gè)簡潔、直觀的命令行測試環(huán)境。def format_response(result): 提取并格式化工作流輸出 if isinstance(result, dict): return result.get(generation) or result.get(answer, ) return str(result) def main(): 自適應(yīng) RAG 系統(tǒng)命令行界面 print( Adaptive RAG System ) print(輸入 quit 退出程序。/n) while True: question input(Question: ).strip() if question.lower() in [quit, exit, q, ]: break print(Processing...) try: # 調(diào)用工作流生成答案 for output in app.stream({question: question}): result next(iter(output.values())) print(f/nAnswer: {format_response(result)}/n) except Exception as e: print(fError: {e}) if __name__ __main__: main()核心解析加載環(huán)境變量確保程序能正確讀取API密鑰和模型配置。2.調(diào)用工作流通過已編譯的app利用app.stream()實(shí)現(xiàn)流式輸出。3.結(jié)果處理format_response函數(shù)從輸出中提取生成的答案方便直觀展示。4.交互體驗(yàn)用戶在終端輸入問題即可獲得完整的Adaptive RAG問答體驗(yàn)。有了這個(gè)入口文件整個(gè)系統(tǒng)即可完成端到端運(yùn)行和測試輕松展示其智能、靈活的自適應(yīng)問答能力。三、運(yùn)行系統(tǒng)完成環(huán)境配置與代碼準(zhǔn)備后即可啟動(dòng)Agentic RAG系統(tǒng)正在加載本地向量存儲...流程圖導(dǎo)出為graph.pngAdaptive RAG System輸入quit退出程序。 Question: 明天天津天氣怎么樣有雨嗎 Processing...{question:明天天津天氣怎么樣有雨嗎}---路由問題---{question:明天天津天氣怎么樣有雨嗎}---WEB SEARCH---{question:明天天津天氣怎么樣有雨嗎,documents:[Document(metadata{},page_content... 明天上午陰有陣雨,下午陰轉(zhuǎn)多云,南風(fēng)3-4級轉(zhuǎn)微風(fēng),今天夜間最低氣溫23度,明天白天最高氣溫27度,相對濕度90%到67%.今夜我市有明顯降雨過程,降雨時(shí)伴有雷電,短時(shí)強(qiáng)降/n今起三天我國降雨將分為南北兩條雨帶北方降雨集中在華北、東北等地明天起新一輪降雨將來襲南方雨帶位于云南、貴州、四川盆地西部一帶部分地區(qū)有大到暴雨。/n星期五 08/22. 陰. 西北風(fēng) ; 星期六 08/23. 雷陣雨. 北風(fēng) ; 星期日 08/24. 雷陣雨. 東北風(fēng) ; 星期一 08/25. 晴. 北風(fēng) ; 星期二 08/26. 多云. 東風(fēng).)]}---GENERATE---{documents:[Document(metadata{},page_content... 明天上午陰有陣雨,下午陰轉(zhuǎn)多云,南風(fēng)3-4級轉(zhuǎn)微風(fēng),今天夜間最低氣溫23度,明天白天最高氣溫27度,相對濕度90%到67%.今夜我市有明顯降雨過程,降雨時(shí)伴有雷電,短時(shí)強(qiáng)降/n今起三天我國降雨將分為南北兩條雨帶北方降雨集中在華北、東北等地明天起新一輪降雨將來襲南方雨帶位于云南、貴州、四川盆地西部一帶部分地區(qū)有大到暴雨。/n星期五 08/22. 陰. 西北風(fēng) ; 星期六 08/23. 雷陣雨. 北風(fēng) ; 星期日 08/24. 雷陣雨. 東北風(fēng) ; 星期一 08/25. 晴. 北風(fēng) ; 星期二 08/26. 多云. 東風(fēng).)],question:明天天津天氣怎么樣有雨嗎,generation:明天天津上午有陣雨下午轉(zhuǎn)為多云。全天南風(fēng)3-4級轉(zhuǎn)微風(fēng)氣溫在23到27度之間。}---檢查幻覺與答案質(zhì)量--- Answer: 明天天津上午有陣雨下午轉(zhuǎn)為多云。全天南風(fēng)3-4級轉(zhuǎn)微風(fēng)氣溫在23到27度之間。從運(yùn)行示例可以看到系統(tǒng)完整執(zhí)行了自適應(yīng)的推理流程。首先它會對問題進(jìn)行智能分析判斷是直接檢索本地知識庫還是調(diào)用網(wǎng)絡(luò)搜索。在這個(gè)示例中問題涉及最新天氣情況因此系統(tǒng)選擇了實(shí)時(shí)搜索從互聯(lián)網(wǎng)上獲取了最新的氣象信息。接著系統(tǒng)將檢索到的內(nèi)容與問題進(jìn)行匹配生成自然語言回答。生成結(jié)果會經(jīng)過幻覺檢測與質(zhì)量評估以確保信息準(zhǔn)確、邏輯合理并且與上下文一致。最終系統(tǒng)輸出了一條可靠的回答明天天津上午有陣雨下午轉(zhuǎn)為多云南風(fēng) 3-4 級轉(zhuǎn)微風(fēng)氣溫在 23 到 27 度之間。整個(gè)過程充分體現(xiàn)了Agentic RAG系統(tǒng)的自適應(yīng)能力——它能靈活選擇信息來源快速整合數(shù)據(jù)并通過多重驗(yàn)證機(jī)制保證回答的準(zhǔn)確性和可信度。四、總結(jié)與未來方向本文深入探討了Agentic RAG系統(tǒng)的核心理念與實(shí)現(xiàn)路徑詳細(xì)解析了如何基于LangGraph構(gòu)建有狀態(tài)的工作流并結(jié)合Qwen模型、本地向量檢索與網(wǎng)絡(luò)搜索實(shí)現(xiàn)具備動(dòng)態(tài)路由、智能決策、自我糾錯(cuò)的增強(qiáng)生成系統(tǒng)。該方案能夠精準(zhǔn)識別查詢復(fù)雜度靈活選擇最優(yōu)檢索與生成策略并通過多階段質(zhì)量控制大幅提升答案的準(zhǔn)確性、可靠性和時(shí)效性。展望未來Agentic RAG將向多模態(tài)融合與自主智能化方向持續(xù)演進(jìn)。一方面引入圖像、視頻、表格等多模態(tài)數(shù)據(jù)進(jìn)行統(tǒng)一檢索與生成擴(kuò)展系統(tǒng)在復(fù)雜任務(wù)中的適用性與表達(dá)能力另一方面結(jié)合強(qiáng)化學(xué)習(xí)RLHF及反饋驅(qū)動(dòng)的優(yōu)化機(jī)制系統(tǒng)將具備持續(xù)迭代、動(dòng)態(tài)學(xué)習(xí)的能力實(shí)現(xiàn)更加精準(zhǔn)的任務(wù)決策與答案優(yōu)化。此外借助大規(guī)模知識圖譜與分布式檢索架構(gòu)Agentic RAG有望實(shí)現(xiàn)更高效、更低延遲的知識利用推動(dòng)智能應(yīng)用邁向更智能、更自適應(yīng)的新階段。如何學(xué)習(xí)大模型 AI 由于新崗位的生產(chǎn)效率要優(yōu)于被取代崗位的生產(chǎn)效率所以實(shí)際上整個(gè)社會的生產(chǎn)效率是提升的。但是具體到個(gè)人只能說是“最先掌握AI的人將會比較晚掌握AI的人有競爭優(yōu)勢”。這句話放在計(jì)算機(jī)、互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)的開局時(shí)期都是一樣的道理。我在一線科技企業(yè)深耕十二載見證過太多因技術(shù)卡位而躍遷的案例。那些率先擁抱 AI 的同事早已在效率與薪資上形成代際優(yōu)勢我意識到有很多經(jīng)驗(yàn)和知識值得分享給大家也可以通過我們的能力和經(jīng)驗(yàn)解答大家在大模型的學(xué)習(xí)中的很多困惑。我們整理出這套AI 大模型突圍資料包? 從零到一的 AI 學(xué)習(xí)路徑圖? 大模型調(diào)優(yōu)實(shí)戰(zhàn)手冊附醫(yī)療/金融等大廠真實(shí)案例? 百度/阿里專家閉門錄播課? 大模型當(dāng)下最新行業(yè)報(bào)告? 真實(shí)大廠面試真題? 2026 最新崗位需求圖譜所有資料 ?? 朋友們?nèi)绻行枰禔I大模型入門進(jìn)階學(xué)習(xí)資源包》下方掃碼獲取~① 全套AI大模型應(yīng)用開發(fā)視頻教程包含提示工程、RAG、LangChain、Agent、模型微調(diào)與部署、DeepSeek等技術(shù)點(diǎn)② 大模型系統(tǒng)化學(xué)習(xí)路線作為學(xué)習(xí)AI大模型技術(shù)的新手方向至關(guān)重要。 正確的學(xué)習(xí)路線可以為你節(jié)省時(shí)間少走彎路方向不對努力白費(fèi)。這里我給大家準(zhǔn)備了一份最科學(xué)最系統(tǒng)的學(xué)習(xí)成長路線圖和學(xué)習(xí)規(guī)劃帶你從零基礎(chǔ)入門到精通③ 大模型學(xué)習(xí)書籍文檔學(xué)習(xí)AI大模型離不開書籍文檔我精選了一系列大模型技術(shù)的書籍和學(xué)習(xí)文檔電子版它們由領(lǐng)域內(nèi)的頂尖專家撰寫內(nèi)容全面、深入、詳盡為你學(xué)習(xí)大模型提供堅(jiān)實(shí)的理論基礎(chǔ)。④ AI大模型最新行業(yè)報(bào)告2025最新行業(yè)報(bào)告針對不同行業(yè)的現(xiàn)狀、趨勢、問題、機(jī)會等進(jìn)行系統(tǒng)地調(diào)研和評估以了解哪些行業(yè)更適合引入大模型的技術(shù)和應(yīng)用以及在哪些方面可以發(fā)揮大模型的優(yōu)勢。⑤ 大模型項(xiàng)目實(shí)戰(zhàn)配套源碼學(xué)以致用在項(xiàng)目實(shí)戰(zhàn)中檢驗(yàn)和鞏固你所學(xué)到的知識同時(shí)為你找工作就業(yè)和職業(yè)發(fā)展打下堅(jiān)實(shí)的基礎(chǔ)。⑥ 大模型大廠面試真題面試不僅是技術(shù)的較量更需要充分的準(zhǔn)備。在你已經(jīng)掌握了大模型技術(shù)之后就需要開始準(zhǔn)備面試我精心整理了一份大模型面試題庫涵蓋當(dāng)前面試中可能遇到的各種技術(shù)問題讓你在面試中游刃有余。以上資料如何領(lǐng)取為什么大家都在學(xué)大模型最近科技巨頭英特爾宣布裁員2萬人傳統(tǒng)崗位不斷縮減但AI相關(guān)技術(shù)崗瘋狂擴(kuò)招有3-5年經(jīng)驗(yàn)大廠薪資就能給到50K*20薪不出1年“有AI項(xiàng)目經(jīng)驗(yàn)”將成為投遞簡歷的門檻。風(fēng)口之下與其像“溫水煮青蛙”一樣坐等被行業(yè)淘汰不如先人一步掌握AI大模型原理應(yīng)用技術(shù)項(xiàng)目實(shí)操經(jīng)驗(yàn)“順風(fēng)”翻盤這些資料真的有用嗎這份資料由我和魯為民博士(北京清華大學(xué)學(xué)士和美國加州理工學(xué)院博士)共同整理現(xiàn)任上海殷泊信息科技CEO其創(chuàng)立的MoPaaS云平臺獲Forrester全球’強(qiáng)勁表現(xiàn)者’認(rèn)證服務(wù)航天科工、國家電網(wǎng)等1000企業(yè)以第一作者在IEEE Transactions發(fā)表論文50篇獲NASA JPL火星探測系統(tǒng)強(qiáng)化學(xué)習(xí)專利等35項(xiàng)中美專利。本套AI大模型課程由清華大學(xué)-加州理工雙料博士、吳文俊人工智能獎(jiǎng)得主魯為民教授領(lǐng)銜研發(fā)。資料內(nèi)容涵蓋了從入門到進(jìn)階的各類視頻教程和實(shí)戰(zhàn)項(xiàng)目無論你是小白還是有些技術(shù)基礎(chǔ)的技術(shù)人員這份資料都絕對能幫助你提升薪資待遇轉(zhuǎn)行大模型崗位。以上全套大模型資料如何領(lǐng)取