什么是RAG?让大模型”开卷考试”的技术拆解

用了几天 AI 助手,很多人都会撞上同一个困惑:明明模型很强,问它”我们公司上个月发布的新产品”,它要么说不知道,要么一本正经编一个。可要是把产品资料贴给它,它立刻答得很准。这个差别背后,就是 RAG 要解决的问题。

RAG 全称 Retrieval-Augmented Generation,检索增强生成。说人话:让模型考试时能翻书。

第一步:为什么模型”不知道”新东西

大模型的全部知识,都固化在训练那一刻的参数里。训练完成后,参数不再变化,这被称为”知识冻结”。所以它有一个训练截止日期,截止之后发生的事,它一概不知。

更麻烦的是,它并不知道自己不知道。参数里没有的东西,它仍会用最像的语言模式补全——这就是幻觉。微调(fine-tune)能教它新知识,但成本高、更新慢,而且每次知识变动都得重训一次,对”上周刚改的价格表”这种高频变化完全跟不上。

RAG 换了个思路:不改模型,改输入。把相关资料先检索出来,塞进提示词,让模型基于这些材料作答。

第二步:三段式流程

检索(Retrieval):把用户问题转成向量,去知识库里找语义最接近的若干片段。 增强(Augmentation):把找到的片段拼成一段上下文,和问题一起放进提示词。 生成(Generation):模型只负责在给定材料范围内组织语言作答。

关键点在于第三步的约束:提示词里通常要明确写”仅根据以下材料回答,材料中没有的信息请说明不知道”。这一句能砍掉大部分幻觉。

第三步:切块——RAG 里最容易被忽略的工序

知识库文档不能整篇塞进去,必须先切成小块(chunk),每块单独向量化。切法直接决定检索质量。

块大小:中文场景常见 300 到 800 字。太小,单块信息不完整,检索出来答不了问题;太大,一块里混了好几个主题,向量被稀释,反而不容易命中。经验值是”一个块讲清一件事”。

重叠(overlap):相邻块之间留 10% 到 15% 的重叠,防止一句话被切断在两块之间,两边都读不通。

按结构切,别按字数硬切:优先在标题、段落、表格边界断开。一份产品手册按章节切,效果远好于每 500 字一刀切。

向量化(embedding):每块文本被编码成一个高维向量(常见 768 到 3072 维)。语义相近的文本,向量距离也近,检索就是算距离。中文场景要选对中文语料训练过的 embedding 模型,用英文模型处理中文,召回率会明显下降。

第四步:召回不等于能用,还要重排

初步检索通常按向量相似度取前 20 到 50 条候选,但”向量最像”不等于”最能回答问题”。所以成熟系统会加一层重排(rerank):用一个交叉编码器模型,把问题和每条候选逐一配对打分,重新排序,最后只取前 3 到 5 条塞进提示词。

这一步的收益很实在。同样的知识库,加了重排,答案准确率往往有明显提升,因为送进模型的材料从”看起来相关”变成了”确实相关”。提示词里的材料也不是越多越好——超过 5 到 8 条,模型容易抓错重点,还会挤占上下文窗口。

第五步:RAG 失效时,先分清是哪一环坏了

RAG 答错,原因只有两类,排查方向完全不同。

检索失败:材料里有答案,但没被找出来。表现是模型说”材料中未提及”。原因通常是切块不合理、embedding 模型不匹配、或用户问法和文档用词差距太大(专业术语 vs 口语)。解法:调块大小、加同义词、给文档补标题和摘要字段、混合关键词检索(BM25 + 向量)。

生成失败:材料找对了,模型却答歪了。表现是答非所问、把几条材料混着说、或超出材料范围编造。解法:收紧提示词约束、减少材料条数、要求逐条引用来源、把温度参数调低。

分不清这两类,调参就是瞎试。先看检索结果里有没有正确答案,这一步能省掉一半时间。

结论

RAG 不是让模型变聪明,而是给它一个可查的资料柜。它的上限由知识库质量决定,下限由切块和重排决定。想搭一套能用的 RAG,记住四个参数:块 300 到 800 字、重叠 10% 到 15%、候选 20 条以上、最终只喂 3 到 5 条。

对做内容生产的团队来说,这个思路同样适用:把品牌规范、产品卖点、历史文案整理成结构化知识库,用 RAG 驱动生成,输出的口径一致性会明显好于每次现场描述。很多做 AI广告 的团队卡住的不是模型能力,而是资料本身没整理成可检索的形态。视觉灵动在处理 AIGC广告 这类多品类、多版本的物料生产时,也是先把品牌资产沉淀成可检索的库,再让模型在库内取材——这比反复调提示词稳定得多。

相关文章

  • Sora到底有多强大

    Sora到底有多强大

    有时候生活中的无力感就是,你明知道世界正在发生巨大颠覆,却无法参与这一变迁,只能旁观他人的狂欢,甚至你还清楚不久的将来,你的生活一定会因此被裹挟着向前。 作为一个从业快20年的广告工作者,我这能献上双膝,然后说卧槽,变化太快,让我们如何是好?   Open AI 正是这么一家改变全人类生活的伟大公司,继文本模型ChatGPT、图像模型Dall-E大杀四方后,OpenAI继续祭出大杀器——Sora,这回他们选择颠覆视频领域。那可能会有很多人觉得视频领域要被搞死了,在我看来不仅仅是视频领域…

    灵动观点 2024年2月22日
  • 多模态大模型视觉编码器原理示意,AIGC广告技术解析

    多模态大模型是怎么”看图说话”的?视觉编码器入门

    内容目录 第一步:图片先被切成”词”第二步:视觉编码器把方块变成”有含义的向量”第三步:投影层把视觉向量”翻译”成语言模型能读的输入第四步:分辨率决定它”看多细”第五步:为什么空间关系总出错可操作的结论 多模态大模型是怎么”看图说话”的?视觉编码器入门 拿一张商品图去问多模态模型:”图里有几个瓶子?”它答得挺准。换个问法:”从左数第三个瓶子在第二个的左边还是右边?”它开始含糊,甚至答反。同一张图,同一个模型,为什么一个能答一…

    爱上学习 2026年10月31日
  • 文生图构图控制条件从草图到深度图

    文生图模型为什么总是”拍歪”构图?控制条件从草图到深度图

    内容目录 第一步:先理解为什么提示词控不住构图第二步:空间条件注入——把”在哪里”画出来第三步:深度图——控制三维结构和透视第四步:姿态与边缘——人物和产品的精确控制第五步:一张图的实战控制流结语 文生图模型为什么总是”拍歪”构图?控制条件从草图到深度图 用文生图做过实际项目的人都有过这种体验:人物位置对了,手部穿帮;构图对了,透视又歪了。改提示词、换措辞、加权重,出图几十张,想要的那种”摄影师摆好的构图”就是出不来。 这不是提示词写得不好,而是问…

    爱上学习 2026年10月28日
  • 社交媒体平台上的视频广告策略与优化

    社交媒体平台上的视频广告策略与优化

    精准定位,内容为王 首先,成功的视频广告始于对目标受众的精准定位。了解受众的兴趣、习惯及需求,是制定内容策略的基础。内容应富有创意,能够快速吸引用户的注意并在短时间内传达核心信息。AIGC(人工智能生成内容)技术的应用,正逐步改变这一领域,通过算法分析用户行为,自动生成个性化广告内容,提升广告的相关性和吸引力,是“AIGC广告”的一大趋势。 优化格式与时长 针对不同社交媒体平台的特性,调整视频广告的格式与时长。例如,短视频平台如抖音、快手偏好简短、直接的内容;而微博或Facebook则适合较长的…

    灵动观点 2024年5月30日
  • 膳魔师-新年苹安喜乐

    膳魔师-新年苹安喜乐

    赞微海报分享

    AIGC作品 2025年2月5日
  • 利用色彩心理学设计视频广告的视觉效果。

    利用色彩心理学设计视频广告的视觉效果。

    色彩是视频广告中至关重要的元素之一,而色彩心理学则是一门研究人们对颜色反应和情绪影响的科学。通过运用色彩心理学,我们可以更好地设计视频广告的视觉效果,引导观众的情绪和认知,从而增强广告的影响力。以下是一些利用色彩心理学设计视频广告的视觉效果的方法: 首先,了解不同颜色的情感意义。每种颜色都会激发人们不同的情绪和联想。例如,红色常被认为是充满活力和激情的颜色,适合用于强调品牌的活力和创新性;蓝色则常被认为是稳重和可靠的颜色,适合用于强调品牌的稳健性和专业性。因此,在设计视频广告时,需要根据品牌的定…

    灵动观点 2024年3月28日
免费垂询
在线咨询
企微咨询
企微咨询
顾问名片
顾问名片
看视频号
看视频号
分享本页
返回顶部