本文詳細(xì)介紹了多輪Query改寫(xiě)、全文檢索、向量檢索、混合檢索、排序算法以及基于LLM的相關(guān)性判斷等大模型檢索與排序的關(guān)鍵技術(shù)。內(nèi)容涵蓋了從基礎(chǔ)概念到實(shí)際應(yīng)用的多個(gè)方面包括TFIDF、BM25、BERT、向量模型、RRF融合排序、Cross-Encoder、CoIBERT等并提供了多種開(kāi)源模型對(duì)比和實(shí)際應(yīng)用案例。對(duì)于想要學(xué)習(xí)大模型檢索與排序的程序員來(lái)說(shuō)本文是一個(gè)全面且實(shí)用的參考資料。01多輪Query改寫(xiě)多輪Query改寫(xiě)怎么做多輪query改寫(xiě)用戶提問(wèn)之后結(jié)合大模型和思維鏈進(jìn)行多輪query改寫(xiě)生成改寫(xiě)的query。分別用原始的query和改寫(xiě)query分別進(jìn)行檢索混合檢索最后把結(jié)果取并集進(jìn)行融合排序這兩個(gè)排序都是分別針對(duì)兩個(gè)不同的query進(jìn)行排序排完之后再融合在一起最后合并在一起給大模型進(jìn)行回答。大模型回答也有技巧依靠大模型多輪問(wèn)答能力使用用戶原始 query不是改寫(xiě)query用戶原始query加歷史聊天記錄用戶改寫(xiě)之后有可能改寫(xiě)的不對(duì)就算改寫(xiě)錯(cuò)了相當(dāng)于檢索內(nèi)容也會(huì)有一些錯(cuò)誤相當(dāng)于用戶的query加歷史聊天記錄大模型可以做一層過(guò)濾檢索的內(nèi)容有雜質(zhì)大模型也能過(guò)濾這樣就能提高一些容錯(cuò)性就算檢索錯(cuò)了其實(shí)也可以進(jìn)行解決。多輪Query改寫(xiě)模型的Prompt案例多輪問(wèn)答優(yōu)化02檢索算法-全文檢索rag技術(shù)實(shí)現(xiàn)全流程全文檢索通?；诘古潘饕夹g(shù)。在創(chuàng)建索引時(shí)系統(tǒng)會(huì)對(duì)文本進(jìn)行分詞處理將文本分解為單詞或詞項(xiàng)并記錄每個(gè)詞項(xiàng)在哪些文檔中出現(xiàn)以及出現(xiàn)的位置和頻率等信息。文本分詞定義將一段連續(xù)的文檔或查詢文本分解成單詞、詞語(yǔ)或有意義的單元的過(guò)程以便于索引和搜索處理。特點(diǎn)分詞方法有規(guī)則、詞典、統(tǒng)計(jì)和深度學(xué)習(xí)等多種方式適用于不同語(yǔ)言和應(yīng)用場(chǎng)景。分詞的算法第一種也是最常見(jiàn)的是TFIDF統(tǒng)計(jì)一個(gè)詞在某一篇文檔的頻率再除以文檔的數(shù)量TF。一些常見(jiàn)詞的了你我他它的詞頻會(huì)很高會(huì)導(dǎo)致計(jì)算的詞和文檔的得分會(huì)很高這時(shí)就加入IDF用文檔的總數(shù)除以詞在文檔的數(shù)量算一個(gè) log值。如果說(shuō)常見(jiàn)詞在每篇文檔都出現(xiàn)了相當(dāng)于分子分母除完之后是等于1log10相當(dāng)于TFIDF這種常見(jiàn)詞它就會(huì)變成0IDF主要是解決那些稀有詞頻率又很高所以說(shuō)TFIDF它的精確度相對(duì)來(lái)說(shuō)比較高它能解決一些競(jìng)對(duì)關(guān)鍵詞的問(wèn)題實(shí)際上它的缺點(diǎn)就是語(yǔ)義理解會(huì)差構(gòu)建成本會(huì)更高。TFIDF進(jìn)行了一個(gè)進(jìn)化就是常用的BM25算法這個(gè)算法經(jīng)久不衰。BM25除了考慮它的詞頻、IDF逆文檔頻率之外還考慮了文檔的長(zhǎng)度。比如一篇文章有50個(gè)詞分出50個(gè)詞比如某個(gè)詞叫“人工智能”出現(xiàn)了一次那它的詞頻是1/50。第二個(gè)文檔有500個(gè)詞“人工智能”出現(xiàn)了3次它的IDF 肯定是一樣的所以我們比的是TF這時(shí)候1/50和3/500來(lái)比一定是3/500更小那就說(shuō)明“人工智能”在這篇文章就不相關(guān)了嗎那實(shí)際上文章長(zhǎng)就沒(méi)有優(yōu)勢(shì)了文章越短越有優(yōu)勢(shì)所以BM 25算法就是解決這樣一個(gè)問(wèn)題。第一BM25算法它右邊TF這部分是一個(gè)非線性算法。IDF的TF就是說(shuō)詞頻越高分?jǐn)?shù)就會(huì)一直漲所以是線性的。BM 25算法這個(gè)區(qū)別就是說(shuō)f(t,d)是它的一個(gè)詞頻k和b是它的一個(gè)超參數(shù)用詞頻乘以超參數(shù)。f(t,d)詞頻一直往上加加到一定程度之后就會(huì)飽和就不會(huì)一直是線性的。剛開(kāi)始的時(shí)候詞頻很小的時(shí)候它屬于一個(gè)線性的增長(zhǎng)但是當(dāng)增大一定程度的時(shí)候它就會(huì)飽和了就變成一個(gè)曲線了。所以BM25算法它并不是簡(jiǎn)單的計(jì)算次數(shù)當(dāng)詞數(shù)到一定程度的時(shí)候它就差不多就夠了就不會(huì)再往上加了。不像TFIDF的詞頻如果越多它就會(huì)一直是線性的增加這是第一個(gè)改進(jìn)。第二部分文檔的長(zhǎng)度也受影響比如文檔a有50個(gè)詞人工智能的概率1/50文檔b是3/500這么一比它倆就不是一個(gè)數(shù)量級(jí)差了1/10了實(shí)際上用戶問(wèn)了一個(gè)人工智能那一定會(huì)更容易拿文檔a不會(huì)拿文檔b 但是用了長(zhǎng)度的加權(quán)就是長(zhǎng)度的歸一化。上邊的|d|是當(dāng)前文檔的長(zhǎng)度下邊avgdl這個(gè)是文檔的平均長(zhǎng)度當(dāng)我文檔長(zhǎng)度大于平均長(zhǎng)度的時(shí)候相除也就1-2之間這種所以它的值不會(huì)特別大再乘以超參數(shù)b進(jìn)行平衡長(zhǎng)文檔和短文檔。按公式算完之后把k1.2b0.75算完之后短文檔是0.685長(zhǎng)文檔是0.615差距一下子就從剛才的10倍縮小了很多。在TF中就是長(zhǎng)文檔更因?yàn)樗脑~更多詞頻更高就導(dǎo)致它的命中率就更容易命中。但是BM 25算法就是說(shuō)我們對(duì)這個(gè)長(zhǎng)度進(jìn)行歸一化抑制了這個(gè)偏差。這是第二個(gè)改進(jìn)就是對(duì)文檔長(zhǎng)度的一個(gè)優(yōu)化。第三個(gè)改進(jìn)是IDFIDF是要解決常見(jiàn)詞“的了你我他”因?yàn)樗嗔怂孕枰阉禉?quán)。如果說(shuō)文檔里“的了你我他”特別多那他這只是不加他的分但還有別的詞在加分所以他的最差他權(quán)重全趨于0每篇文章都有“你我他”所以說(shuō)他就變成0其實(shí)對(duì)常見(jiàn)詞懲罰是不太足的但是BM25算法就考慮了這個(gè)點(diǎn)要對(duì)常見(jiàn)詞進(jìn)行一個(gè)懲罰。不能有那么多無(wú)關(guān)緊要的一些關(guān)鍵詞更重要所以它這里權(quán)重就變成負(fù)(N-df(t))/df(t) 小于1log小于1就變成負(fù)數(shù)了如果它倆相等就是log10。如果它大于1那它就是大于0這里的0.5是一個(gè)為了平滑用的所以它就會(huì)對(duì)IDF進(jìn)行一個(gè)常見(jiàn)詞的懲罰。在常見(jiàn)詞出現(xiàn)過(guò)多的時(shí)候這篇文章里出現(xiàn)過(guò)常見(jiàn)詞太多了那它的負(fù)權(quán)重就會(huì)懲罰確保檢索的結(jié)果更聚焦于有區(qū)分度的關(guān)鍵詞。 BM25算法它的本質(zhì)就是TFIDF 完了面試官問(wèn)你那 TFIDF 是什么那BM25算法又對(duì)它有什么改進(jìn)。第四點(diǎn)是靈活的參數(shù)TFIDF是固定公式它是不可以調(diào)整的而B(niǎo)M算法是提供了K1和 b去進(jìn)行適配一般k選1.2b選0.75其實(shí)基本就是這樣?，F(xiàn)在BM25算法非常常見(jiàn)用TFIDF的很少這是全文檢索計(jì)算相關(guān)性的一個(gè)算法。當(dāng)用戶進(jìn)行提問(wèn)query之后先進(jìn)行分詞分完詞之后。先用倒排索引把所有文檔拿回來(lái)我們需要找到跟用戶提問(wèn)query相關(guān)的比如TOP10的文檔用query里面每個(gè)分詞的詞跟每個(gè)文檔這些詞計(jì)算BM 25算法每個(gè)文檔都有一個(gè)得分之后再進(jìn)行排序選擇TOP10給返回來(lái)這就是全文檢索的一個(gè)算法流程。開(kāi)源分詞模型對(duì)比如果發(fā)現(xiàn)全文檢索不準(zhǔn)了以它為基線去分析是TF太飽和了還是因?yàn)槲臋n長(zhǎng)度來(lái)進(jìn)行調(diào)整參數(shù)。對(duì)全文檢索BM25算法除了調(diào)參基本上沒(méi)有改進(jìn)的地方需要改進(jìn)的就在于分詞。分詞的作用在這里面是說(shuō)能夠很好的分出業(yè)務(wù)場(chǎng)景跟業(yè)務(wù)場(chǎng)景相關(guān)的關(guān)鍵詞能夠很好區(qū)分出來(lái)。分詞太細(xì)會(huì)把噪音也帶進(jìn)來(lái)分詞太粗可能就召回不回來(lái)。如果又想把專(zhuān)業(yè)術(shù)語(yǔ)切出來(lái)又能正常分詞。有兩種方案第一種方案是命名實(shí)體識(shí)別專(zhuān)門(mén)識(shí)別這些專(zhuān)業(yè)術(shù)語(yǔ)進(jìn)行命名實(shí)體識(shí)別其他正常切只把命名實(shí)體識(shí)別之外的那些句子正常切就可以了。第二種是把這一堆專(zhuān)業(yè)術(shù)語(yǔ)的詞典放到分詞工具里這些分詞工具都支持把詞典扔進(jìn)去之后就可以切了按業(yè)務(wù)場(chǎng)景去切。比如一二百詞的專(zhuān)業(yè)術(shù)語(yǔ)放到分詞里面直接加載詞典就可以了如果說(shuō)詞表太多而且這個(gè)詞表還能直接靠一些硬匹配就能匹配出來(lái)把這些詞直接匹配剩下的用分詞工具去切就可以。寧肯切細(xì)一點(diǎn)也不要切粗。如果詞典特別大、特別多有5萬(wàn)的詞典5萬(wàn)的專(zhuān)業(yè)術(shù)語(yǔ)都扔到詞典中都扔到那個(gè)結(jié)巴分詞里可能會(huì)導(dǎo)致該切也切了不該切的它也切了所以把原來(lái)好的東西也沒(méi)切出來(lái)。用分詞工具先跑一遍數(shù)據(jù)集。比如有100篇文檔跑一遍跑完之后分詞算個(gè)最簡(jiǎn)單的TFIDF再去停用詞這樣就不能統(tǒng)計(jì)出關(guān)鍵詞了?？聪逻@些關(guān)鍵詞是不是把業(yè)務(wù)場(chǎng)景里面的東西都包含了如果說(shuō)沒(méi)有包含可以把這個(gè)分詞工具pass掉了。像jieba切的細(xì)全文檢索不回來(lái)還有向量檢索后邊還有重排序可以補(bǔ)救切細(xì)了可以補(bǔ)救切粗了就補(bǔ)救不了了。03檢索算法-向量檢索BERT模型的核心設(shè)計(jì)雙向Transformer架構(gòu)BERT基于Transformer編碼器結(jié)構(gòu)通過(guò)多層自注意力機(jī)制基礎(chǔ)版12層、大型版24層實(shí)現(xiàn)文本的雙向上下文建模BERT能同時(shí)捕捉詞匯左右兩側(cè)的語(yǔ)境信息句向量的提取方法[CLS]標(biāo)記向量句子開(kāi)頭添加的特殊標(biāo)記[CLS]其對(duì)應(yīng)向量常作為整句的語(yǔ)義表示適用于分類(lèi)任務(wù)。詞向量池化對(duì)句子中所有詞向量取平均或最大值池化Mean/Max Pooling保留全局信息。向量檢索是向量空間中相應(yīng)的計(jì)算先對(duì)用戶的query對(duì)文檔切塊進(jìn)行向量表示表示完就構(gòu)建索引。在線的部分先進(jìn)行用戶的query向量表示進(jìn)行檢索。這里面的向量表示一般用匹配模型它是借鑒DSSM雙塔思想每一個(gè)塔都是用預(yù)訓(xùn)練的語(yǔ)言模型進(jìn)行表示。它這有兩個(gè)塔左邊一個(gè)塔是query是訓(xùn)練時(shí)候用用query生成的。另一個(gè)塔是document是文檔的分別走Bert走完之后最后出一個(gè)向量層document也出向量最后計(jì)算相似度這是基于表示的。它的特點(diǎn)就是說(shuō)query和document是兩個(gè)獨(dú)立編碼比如說(shuō)現(xiàn)在有100萬(wàn)篇文檔query來(lái)了之后生成向量不可能把這100萬(wàn)篇文檔重新在線計(jì)算一遍計(jì)算完了之后再一個(gè)個(gè)比較不可能所以提前把這些向量文檔構(gòu)建好在線的時(shí)候只需對(duì)query進(jìn)行一個(gè)向量表示這樣提高效率。 缺點(diǎn)就是在模型學(xué)習(xí)的時(shí)候沒(méi)有交互它們互相之間是獨(dú)立的無(wú)法充分挖掘兩者信息細(xì)粒度的匹配程度。雙塔一個(gè)query一個(gè)document用的是bge-m3query和document是一個(gè)模型用一個(gè)模型既可以對(duì)query生成一個(gè)向量也可以對(duì)document生成一個(gè)向量。預(yù)訓(xùn)練的時(shí)候有一些策略在里面所以可以解決這種非對(duì)稱的情況非對(duì)稱就是說(shuō)query因?yàn)楹芏蘢ocument會(huì)很長(zhǎng)這種檢索的時(shí)候會(huì)存在問(wèn)題。索引構(gòu)建: 全文檢索用倒排索引構(gòu)建到數(shù)據(jù)庫(kù)向量檢索是一個(gè)暴力搜索的flat還有圖這種結(jié)構(gòu)。計(jì)算相關(guān)性是余弦相似度用兩個(gè)向量計(jì)算余弦相度也是一個(gè)經(jīng)久不衰的一個(gè)方式。文本長(zhǎng)度對(duì)向量模型的影響詞序感知對(duì)向量模型的影響LLM類(lèi)向量模型Qwen3-Embedding基于大模型的向量模型Qwen3的embedding區(qū)別首先它是大模型類(lèi)左邊這個(gè)圖包括了四部分第一部分是它可以提供一些任務(wù)指令比如根據(jù)查詢找相關(guān)的文檔query是用戶輸入信息docs是文檔的一些數(shù)據(jù)通過(guò)這樣進(jìn)行一個(gè)判斷最后用EOS序列標(biāo)記符進(jìn)行判斷生成它的向量。這跟bert類(lèi)模型不一樣因?yàn)閎ert是前面CLS或者整體的一個(gè)池化但是大模型用的是序列結(jié)束標(biāo)識(shí)符EOS。因?yàn)閎ert類(lèi)模型是only encoder所以它上來(lái)就可以直接看到雙向編碼所以它可以直接用CLS 開(kāi)頭就可以拿到它的向量而基于大模型類(lèi)它是only decoder。它沒(méi)有辦法看到后邊的所以只要生成完之后用最后一個(gè)標(biāo)記符獲取它的向量這是基于大模型類(lèi)。訓(xùn)練過(guò)程分三個(gè)階段第一個(gè)階段是弱監(jiān)督預(yù)訓(xùn)練用通義32B生成了1.5億對(duì)合成文本覆蓋了很多任務(wù)基本覆蓋了四類(lèi)任務(wù)把任務(wù)構(gòu)成文本之后。先進(jìn)行弱監(jiān)督訓(xùn)練預(yù)訓(xùn)練是對(duì)比學(xué)習(xí)的一個(gè)預(yù)訓(xùn)練。我們這第一階段就結(jié)束了。第二階段是一個(gè)有監(jiān)督的微調(diào)通過(guò)1.5億的數(shù)據(jù)進(jìn)行篩選篩選出來(lái)1200萬(wàn)對(duì)數(shù)據(jù)進(jìn)行l(wèi)earning微調(diào)對(duì)一個(gè)領(lǐng)域的泛化這是第二階段。第三階段是進(jìn)行模型融合采用了一種球面線性插值方式這種技術(shù)在合并的時(shí)候可以微調(diào)保存多個(gè)模型進(jìn)行模型的合并可以提高魯棒性。所以在通義三向量模型里相對(duì)來(lái)說(shuō)比較復(fù)雜。訓(xùn)練方式比正常的BGE 會(huì)比較復(fù)雜因?yàn)锽GE就相當(dāng)于只拿到開(kāi)源數(shù)據(jù)整理好之后進(jìn)行微調(diào)。通義3的embedding有三個(gè)一個(gè)是0.6B、一個(gè)是4B、還有一個(gè)8B。Bert類(lèi)與LLM類(lèi)向量模型區(qū)別開(kāi)源向量模型檢索能力對(duì)比bce只支持512就跟切塊相關(guān)。Bert類(lèi)是雙向編碼Bert雖然解決了LSTM長(zhǎng)尾遺忘還會(huì)存在一些信息丟失所以太長(zhǎng)也不太好。所以建議用256到512來(lái)進(jìn)行切塊是有原因的跟它的向量模型有關(guān)系像bge-m3可以支持8192但實(shí)際上也不太好因?yàn)樘L(zhǎng)也會(huì)有信息丟失還會(huì)有噪聲切塊的時(shí)候要配合向量模型。檢索的時(shí)候一邊是全文檢索另一邊向量檢索。bce和bge-m3它倆是互補(bǔ)的有時(shí)候可以檢索回來(lái)最后相當(dāng)于用三路召回一路是全文檢索一路是bce召回一路是bge-m3的召回。bge-m3加上全文檢索調(diào)整全文檢索的分詞之后就可以把bce給拿掉它的互補(bǔ)能力就沒(méi)有了因?yàn)閎ce除了互補(bǔ)之外還存在召回一些冗余內(nèi)容而且耗時(shí)較長(zhǎng)三路耗時(shí)會(huì)長(zhǎng)所以慢慢就把它拿掉了。前期的時(shí)候如果沒(méi)有別的辦法可以嘗試三路召回。04混合檢索來(lái)一個(gè)query先進(jìn)行k近鄰向量檢索這是向量檢索一部分。第二種是query進(jìn)行分詞用BM25算法檢索回來(lái)?；旌蠙z索就是左邊一路用向量檢索右邊一路用BM25算法檢索最后合并一起進(jìn)入排序模型最后輸出一路檢索內(nèi)容。向量檢索可以解決相近語(yǔ)義像bge-m3是多語(yǔ)種的也可以理解多模態(tài)。向量檢索除了用bge中文還也可以用CLIP它的容錯(cuò)性強(qiáng)因?yàn)榉夯芰?qiáng)這是向量?jī)?yōu)勢(shì)。全文檢索優(yōu)勢(shì)是精準(zhǔn)匹配比如問(wèn)是 iphone 17庫(kù)里全是iphone 16、iphone 15iphone 17沒(méi)有實(shí)際上是檢索不回來(lái)的全文檢索這一路是召不回來(lái)內(nèi)容的但是向量檢索就可以。向量檢索就可能會(huì)出現(xiàn)問(wèn)iphone 17但把庫(kù)里的iphone 16和 iphone 15拿回來(lái)存在向量檢索的問(wèn)題全文檢索能精準(zhǔn)的把iphone 17拿回來(lái)它還對(duì)短文本有優(yōu)勢(shì)。第三點(diǎn)傾向于低頻詞匯匹配可解釋性強(qiáng)所以混合檢索融合它倆的優(yōu)勢(shì)。混合檢索可以利用全文檢索和向量檢索對(duì)數(shù)據(jù)查詢提高檢索的準(zhǔn)確性和可行度?；旌蠙z索可以利用向量模型的多樣性返回多種不同的結(jié)果它們之間互相還能補(bǔ)充。混合檢索可以用全文檢索進(jìn)行排序、過(guò)濾這種復(fù)雜查詢需求跟業(yè)務(wù)場(chǎng)景相關(guān)這是全文檢索的一個(gè)情況?？山忉屓臋z索可以用文本匹配高亮顯示這是混合檢索的一個(gè)優(yōu)勢(shì)。知識(shí)庫(kù)構(gòu)建流程知識(shí)庫(kù)格式對(duì)比05排序算法 向量模型處理的是相似但是不相關(guān)排序模型rerank就是來(lái)解決相似不相關(guān)的。向量檢索與排序模型之間的差異RRF融合排序RRF融合排序就是對(duì)兩路或者多路不同的檢索進(jìn)行排序它不是利用每個(gè)檢索的得分而是靠排名。因?yàn)槿牡谌噶罡兄@個(gè)和現(xiàn)在模型是一樣的這也是大模型的一個(gè)特點(diǎn)。可以跟最新用戶的指令進(jìn)行一個(gè)動(dòng)態(tài)調(diào)整它的排序標(biāo)準(zhǔn)。和通義的向量模型區(qū)別它就不像通義3的向量模型做了三階段它是兩階段的第二階段就是有監(jiān)督的微調(diào)。第三階段就是一個(gè)模型的融合相當(dāng)于用同一類(lèi)的數(shù)據(jù)構(gòu)建了兩個(gè)模型。rerank模型也有三個(gè)不同的大小一個(gè)是0.6B一個(gè)是4B還有一個(gè)是8B。通義3排序模型相當(dāng)于把排序模型進(jìn)行一個(gè)對(duì)話傳統(tǒng)的就是rank、boost類(lèi)的模型輸入CLS query sep再加上到后面的結(jié)果最后通過(guò)CLS算一個(gè)MLP之后進(jìn)行相關(guān)性得分。他算的方式相對(duì)來(lái)說(shuō)快一些但它只能算相對(duì)來(lái)說(shuō)比較淺層的內(nèi)容。通義從關(guān)系模型做轉(zhuǎn)化第一個(gè)就是任務(wù)轉(zhuǎn)化對(duì)系統(tǒng)提示詞進(jìn)行一個(gè)調(diào)整只需要判斷模型的任務(wù)是否從文檔滿足它的需求回答只需要對(duì)輸出的結(jié)果是yes和no結(jié)構(gòu)也有變化因?yàn)檩斎胂翊竽Ｐ土奶焓且粯拥摹Ｈ蝿?wù)質(zhì)量query document利用了大模型的理解和推理能力它像傳統(tǒng)的rerank它用 cos去算相關(guān)性得分它預(yù)測(cè)下個(gè)詞yes或 no 的概率直接進(jìn)行一個(gè)相關(guān)性判別與傳統(tǒng)的方法來(lái)對(duì)比傳統(tǒng)是一個(gè)簡(jiǎn)單的打分器。rerank模型就像判官一樣輸出yes和no的概率。它不是依賴于分類(lèi)頭輸出的抽象得分通過(guò)預(yù)測(cè)答案的yes or no的結(jié)果它最大優(yōu)勢(shì)就是第一它能支持像大模型一樣的任務(wù)指令第二是解釋性強(qiáng)可以根據(jù)不同的任務(wù)適配不同的檢索任務(wù)。大模型可以支持長(zhǎng)上下文語(yǔ)義推理能力也比較好給了相關(guān)性得分完了判別yes or no輸入用戶的指令、用戶的查詢以及他的文檔最后輸出結(jié)果就是它的一個(gè)得分用yes的分除以yes加no的分因?yàn)榇竽Ｐ洼敵鼋Y(jié)果的時(shí)候有多個(gè)TOKEN。主流排序模型06基于LLM相關(guān)性判斷背景問(wèn)題大模型遵循“Garbage in, Garbage out”原則檢索階段經(jīng)常會(huì)召回?zé)o關(guān)或噪聲知識(shí)不相關(guān)知識(shí)會(huì)導(dǎo)致回答偏差或錯(cuò)誤解決方案Knowledge作用作為一個(gè)“檢索結(jié)果質(zhì)量關(guān)口”在傳入大模型前進(jìn)行知識(shí)過(guò)濾。原理基于自然語(yǔ)言推理NLI任務(wù)來(lái)判斷檢索到的知識(shí)是否能支持問(wèn)題的回答Entailment是否與問(wèn)題無(wú)關(guān)Neutral是否與問(wèn)題相矛盾Contradiction實(shí)現(xiàn)方式使用小參數(shù)模型在NLI任務(wù)上進(jìn)行微調(diào)或直接應(yīng)用只保留與問(wèn)題呈現(xiàn)“蘊(yùn)含關(guān)系”的知識(shí)丟棄無(wú)關(guān)或矛盾的信息模塊效果過(guò)濾后知識(shí)更精準(zhǔn)回答基于高相關(guān)知識(shí)不再被噪聲干擾答案更簡(jiǎn)潔可信避免冗余和錯(cuò)誤用戶體驗(yàn)提升增強(qiáng)系統(tǒng)魯棒性即使召回到部分無(wú)關(guān)文檔也能在過(guò)濾環(huán)節(jié)自動(dòng)剔除可擴(kuò)展性未來(lái)可以引入更多模型如BERT、DeBERTa、LLaMA或多任務(wù)聯(lián)合訓(xùn)練進(jìn)一步提升判別能力。07全鏈路多路召回優(yōu)化多路召回結(jié)合多種召回方式語(yǔ)義關(guān)鍵詞規(guī)則…→獲得更全面的候選文檔。 可以提升RAG檢索的覆蓋率與準(zhǔn)確性應(yīng)用于搜索引擎、推薦系統(tǒng)、智能客服等。多路召回的方式①并行召回向量Top10 BM25 Top10 → 合并去重 → 重排取TopN優(yōu)勢(shì)多路召回充分利用了語(yǔ)義與關(guān)鍵詞兩種優(yōu)勢(shì)互補(bǔ)性強(qiáng)能夠更全面地覆蓋候選文檔減少單一召回策略導(dǎo)致的漏檢問(wèn)題是當(dāng)前工業(yè)界最主流的做法。②RRF融合多路排序綜合得分③精排模型Cross-EncoderBERT類(lèi)打分更精準(zhǔn)多路召回的優(yōu)勢(shì)融合信息利用語(yǔ)義理解關(guān)鍵詞匹配提供更全面的檢索結(jié)果。提升性能覆蓋率↑漏檢↓誤檢↓抗噪聲強(qiáng)抗噪聲能力強(qiáng)保證結(jié)果穩(wěn)定性和可靠性。流程設(shè)計(jì)方案BM25召回向量召回→RRF初排提升融合效果→ Reranker精排Cross-Encoder→大模型生成最終答案實(shí)際應(yīng)用根據(jù)具體應(yīng)用場(chǎng)景和需求靈活調(diào)整召回策略和參數(shù)確保在應(yīng)用中能夠達(dá)到最佳效果?；旌蠙z索架構(gòu)多模型互補(bǔ)關(guān)鍵詞檢索使用BM25捕獲精準(zhǔn)片段進(jìn)行快速初步篩選。向量檢索使用bge-m3向量檢索處理復(fù)雜語(yǔ)義提升語(yǔ)義檢索的全面性與精度。候選粗篩粗排序RRF倒數(shù)融合排序基于BM25與向量檢索的相對(duì)排名融合去重并提高粗排效率。語(yǔ)義重排精排序異構(gòu)內(nèi)容處理表格→文本摘要圖片→跨模態(tài)描述。輕量重排BGE-Reranker-v2-M3基于交叉編碼器快速排序平衡速度與效果。相關(guān)性判別基于LLM相關(guān)性判別去除無(wú)關(guān)噪聲。業(yè)務(wù)驅(qū)動(dòng)排序策略數(shù)據(jù)混合按需配置問(wèn)答對(duì)與文檔切片比例更符合實(shí)際應(yīng)用場(chǎng)景。閾值篩選基于置信度過(guò)濾確保結(jié)果相關(guān)性與質(zhì)量。如何學(xué)習(xí)大模型 AI 由于新崗位的生產(chǎn)效率要優(yōu)于被取代崗位的生產(chǎn)效率所以實(shí)際上整個(gè)社會(huì)的生產(chǎn)效率是提升的。但是具體到個(gè)人只能說(shuō)是“最先掌握AI的人將會(huì)比較晚掌握AI的人有競(jìng)爭(zhēng)優(yōu)勢(shì)”。這句話放在計(jì)算機(jī)、互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)的開(kāi)局時(shí)期都是一樣的道理。我在一線科技企業(yè)深耕十二載見(jiàn)證過(guò)太多因技術(shù)卡位而躍遷的案例。那些率先擁抱 AI 的同事早已在效率與薪資上形成代際優(yōu)勢(shì)我意識(shí)到有很多經(jīng)驗(yàn)和知識(shí)值得分享給大家也可以通過(guò)我們的能力和經(jīng)驗(yàn)解答大家在大模型的學(xué)習(xí)中的很多困惑。我們整理出這套AI 大模型突圍資料包? 從零到一的 AI 學(xué)習(xí)路徑圖? 大模型調(diào)優(yōu)實(shí)戰(zhàn)手冊(cè)附醫(yī)療/金融等大廠真實(shí)案例? 百度/阿里專(zhuān)家閉門(mén)錄播課? 大模型當(dāng)下最新行業(yè)報(bào)告? 真實(shí)大廠面試真題? 2026 最新崗位需求圖譜所有資料 ?? 朋友們?nèi)绻行枰禔I大模型入門(mén)進(jìn)階學(xué)習(xí)資源包》下方掃碼獲取~① 全套AI大模型應(yīng)用開(kāi)發(fā)視頻教程包含提示工程、RAG、LangChain、Agent、模型微調(diào)與部署、DeepSeek等技術(shù)點(diǎn)② 大模型系統(tǒng)化學(xué)習(xí)路線作為學(xué)習(xí)AI大模型技術(shù)的新手方向至關(guān)重要。 正確的學(xué)習(xí)路線可以為你節(jié)省時(shí)間少走彎路方向不對(duì)努力白費(fèi)。這里我給大家準(zhǔn)備了一份最科學(xué)最系統(tǒng)的學(xué)習(xí)成長(zhǎng)路線圖和學(xué)習(xí)規(guī)劃帶你從零基礎(chǔ)入門(mén)到精通③ 大模型學(xué)習(xí)書(shū)籍文檔學(xué)習(xí)AI大模型離不開(kāi)書(shū)籍文檔我精選了一系列大模型技術(shù)的書(shū)籍和學(xué)習(xí)文檔電子版它們由領(lǐng)域內(nèi)的頂尖專(zhuān)家撰寫(xiě)內(nèi)容全面、深入、詳盡為你學(xué)習(xí)大模型提供堅(jiān)實(shí)的理論基礎(chǔ)。④ AI大模型最新行業(yè)報(bào)告2025最新行業(yè)報(bào)告針對(duì)不同行業(yè)的現(xiàn)狀、趨勢(shì)、問(wèn)題、機(jī)會(huì)等進(jìn)行系統(tǒng)地調(diào)研和評(píng)估以了解哪些行業(yè)更適合引入大模型的技術(shù)和應(yīng)用以及在哪些方面可以發(fā)揮大模型的優(yōu)勢(shì)。⑤ 大模型項(xiàng)目實(shí)戰(zhàn)配套源碼學(xué)以致用在項(xiàng)目實(shí)戰(zhàn)中檢驗(yàn)和鞏固你所學(xué)到的知識(shí)同時(shí)為你找工作就業(yè)和職業(yè)發(fā)展打下堅(jiān)實(shí)的基礎(chǔ)。⑥ 大模型大廠面試真題面試不僅是技術(shù)的較量更需要充分的準(zhǔn)備。在你已經(jīng)掌握了大模型技術(shù)之后就需要開(kāi)始準(zhǔn)備面試我精心整理了一份大模型面試題庫(kù)涵蓋當(dāng)前面試中可能遇到的各種技術(shù)問(wèn)題讓你在面試中游刃有余。以上資料如何領(lǐng)取為什么大家都在學(xué)大模型最近科技巨頭英特爾宣布裁員2萬(wàn)人傳統(tǒng)崗位不斷縮減但AI相關(guān)技術(shù)崗瘋狂擴(kuò)招有3-5年經(jīng)驗(yàn)大廠薪資就能給到50K*20薪不出1年“有AI項(xiàng)目經(jīng)驗(yàn)”將成為投遞簡(jiǎn)歷的門(mén)檻。風(fēng)口之下與其像“溫水煮青蛙”一樣坐等被行業(yè)淘汰不如先人一步掌握AI大模型原理應(yīng)用技術(shù)項(xiàng)目實(shí)操經(jīng)驗(yàn)“順風(fēng)”翻盤(pán)這些資料真的有用嗎這份資料由我和魯為民博士(北京清華大學(xué)學(xué)士和美國(guó)加州理工學(xué)院博士)共同整理現(xiàn)任上海殷泊信息科技CEO其創(chuàng)立的MoPaaS云平臺(tái)獲Forrester全球’強(qiáng)勁表現(xiàn)者’認(rèn)證服務(wù)航天科工、國(guó)家電網(wǎng)等1000企業(yè)以第一作者在IEEE Transactions發(fā)表論文50篇獲NASA JPL火星探測(cè)系統(tǒng)強(qiáng)化學(xué)習(xí)專(zhuān)利等35項(xiàng)中美專(zhuān)利。本套AI大模型課程由清華大學(xué)-加州理工雙料博士、吳文俊人工智能獎(jiǎng)得主魯為民教授領(lǐng)銜研發(fā)。資料內(nèi)容涵蓋了從入門(mén)到進(jìn)階的各類(lèi)視頻教程和實(shí)戰(zhàn)項(xiàng)目無(wú)論你是小白還是有些技術(shù)基礎(chǔ)的技術(shù)人員這份資料都絕對(duì)能幫助你提升薪資待遇轉(zhuǎn)行大模型崗位。以上全套大模型資料如何領(lǐng)取