微调:提示词工“程和” RAG我||保证
这篇文章,我们用一个所有人都熟悉的案例,帮大家彻底理解大语言模型的那些”高大上”概念:
预训练
微调
提示词工程
RAG(检索增强生成)。
这个案例就是我们每个人都经历过的学习考试过程。
看完这篇文章,你会对AI的工作原理有全新的认识,以后使用AI时也会更加得心应手。
Tips:本文由DeepSeek基于我的录音稿整理润色,我只做了“微调”。
预训练
每学期开学,老师都会发给我们一堆教材,然后在课堂上讲解知识点。
这个过程中,我们把一学期的知识逐渐内化、理解和吸收——这其实就是大语言模型的预训练过程。
这里有个关键区别:死记硬背vs真正理解。
死记硬背:你只能记住题目和标准答案,考试遇到原题会做,但题目稍有变化就束手无策
真正理解:你能融会贯通,应对不同的题型和场景——这正是现代大语言模型的核心策略
AI回答=考试
考试时,你看到题目后会:
1.理解题目要求
2.调用大脑中相关的知识
3.经过一系列推理和知识整合
4.最终一个字一个字地写出答案
这完全就是AI回答问题的过程!
当你向AI提问时,它也是:
1.理解你的问题(提示词)
2.调用预训练学到的知识
3.经过内部推理和整合,逐字生成回答
提示词VS考试题
有时候,你学的东西太多太杂,面对一个很简单的问题时可能不知道关联哪个知识点。
这时,题目的清晰度就至关重要。
如果老师在出题时明确说明:
考查哪一章哪一节的知识点
需要调用哪些具体知识
回答的格式要求
那么不管你的知识多杂乱,只要题目足够清晰,你就能准确调用相关知识作答。
提示词工程的精髓
这就是提示词工程的精髓!
你向AI提问时:
问题越简单模糊,AI越可能”乱答”(其实是随机调用相关知识)
问题越详细、指向越明确、格式要求越规范,AI回答质量越高
小贴士:AI不是”乱答”,而是它的知识太庞杂,当问题不明确时,它只能随机选择相关知识来回答。
微调=做真题
很多人误以为”这个知识AI不会,微调一下就好了”。这是对微调的误解!
微调更像是考前老师带你做真题讲解:
你不知道高考会考什么题
但老师会讲解往年真题的正确答案和解题思路
通过这种方式,你学会”如何更好地作答”
微调的本质是教AI更好地作答,而不是教它新的知识。
如果某个知识点AI根本没学过,做再多真题(微调)也没用!
继续预训练=复读
要让AI掌握它原本不会的知识点,唯一的方法是继续预训练(相当于学生复读):
准备包含专有知识的语料(如公司内部资料)
这些语料包含对知识的解释和各种关联关系
AI通过继续学习这些材料来掌握新知识
同样的道理,如果高考考到一个你完全没学过的概念,即使给你参考书,你短时间内也无法掌握并正确作答。
——这就是RAG(检索增强生成)的局限性。
RAG=开卷考试
RAG就像开卷考试,它的关键在于如何准备和整理”小抄”:
糟糕的做法:直接带整本书进考场
正确的做法:提前整理好知识点和关键词索引,考试时快速定位相关内容
所以做RAG:
必须对进行精细清洗和拆解,确保片段完整
在确保段落完整的基础上尽量简短,方便抄
目前流行的”个人知识库”产品,只是简单拆分文档(如每2000字一段),这可能导致知识点被切碎,最终AI回答质量低下。
好学生坏学生
大语言模型就像个”学习成绩很好好学生”,但好学生不一定总能拿高分。
因为它没有“好学生”的辨识判断力:
1.它需要”好题目”(清晰的提示词),否则会随机选取知识点答题
2.如果开卷考试提供的资料错误或者残缺,它不会纠正修复,而是硬抄
3.遇到完全没学过的知识,做再多“真题”也无济于事
例如,我问Claude模型”什么是MCP”(Claude官方发布的新功能),它完全胡编乱造!因为:
MCP发布时,模型已经”毕业”(训练完成)
它不懂,但会硬编
总结
人类和大语言模型在知识学习和输出的逻辑上惊人地一致。理解这一点,你就能:
更有效地使用AI工具
合理预期AI的能力边界
针对不同需求选择适当的方法(预训练、微调或RAG)
现在,你对大语言模型的工作原理是不是有了全新的认识?
如果这篇文章帮你理清了思路,评论区帮我刷个666
十大完结巅峰神作小说七界传说
1、《凡人修仙传》作者:忘语 作品简介 一个普通山村小子,偶然下进入到当地江湖小门派,成了一名记名弟子。他以这样身份,如何在门派中立足,如何以平庸的资质进入到修仙者的行列,从而笑傲三界之中!2、《仙逆》作者:耳根 作品简介 顺为凡,逆则仙,只在心中一念间。3、《斗破苍穹》作者:天蚕土豆 。。
公认十大完结巅峰玄幻小说:一、《斗破苍穹》答案:《斗破苍穹》是公认的完结巅峰玄幻小说之一。解释:《斗破苍穹》是一部长篇玄幻小说,作者天蚕土豆。小说以主人公历经无数磨难和艰苦修炼,最终踏上巅峰之路为主题。其世界观宏大,情节跌宕起伏,深受读者喜爱。二、《武动乾坤》解释:此书为网络作家天蚕。。
我知道的公认十大完结巅峰玄幻小说包括《斗破苍穹》、《全职法师》、《武动乾坤》、《大主宰》、《绝世唐门》、《神印王座》、《莽荒纪》、《雪鹰领主》、《龙族》和《完美世界》。这些作品以其精彩的剧情、丰富的设定和鲜明的角色性格成为经典中的经典,让读者沉浸其中,难以忘怀。
网络小说排行榜前十名完结巅峰之作是:斗破苍穹、诛仙、遮天、凡人修仙传、诡秘之主、雪中悍刀行、大主宰、斗罗大陆、绝世武神、全职高手。1、斗破苍穹 《斗破苍穹》2009年开始连载,历时三年完结,这本书当年火的一塌糊涂,天蚕土豆凭此一书封神,在网文界开启退婚流风潮,影响力巨大。2、诛仙 《诛仙。。
七、《武炼巅峰》解释:这是一部武侠小说,主角通过不断的武术修炼,最终成为武林中的巅峰高手。作品中融入了修炼、战斗、江湖等元素,情节紧凑,深受读者喜爱。八、《斗罗大陆》系列。九、《大主宰》。十、《莽荒纪》。以上是十大完结巅峰神作的部分介绍,这些作品都在各自的领域内有着极高的成就和影响。。
自称考北大睡过头女生回应选择北大被举报猪肉当牛肉卖打人者被刑拘林依轮催刘宇宁拍戏安克创新将把宁德新能源作为核心充电宝电芯供应商,首批采购 4500 万片电芯理想汽车十年:累计卖出“冰箱”卖出58万台、“彩电”304万台、“大沙发”743 万个,理想同学被召唤38亿次4月CPI同比涨0.3% 涨幅较上月扩大陈辰这也是你想对贺峻霖说的话吧林依轮催刘宇宁拍戏小城大事收视第一时代少年团团子(内容来源:华夏时报)
作者: 编辑:姚天宇
越牛新闻客户端
越牛新闻微信
绍兴发布微信
越牛新闻微博
绍兴发布微博
新闻热线
0575-88880000
投稿信箱
zjsxnet@163.com