技术文章

您当前的位置:   首页 > 技术文章
  • 16G显卡也能调大模型?先搞懂显存消耗的3大核心原因 (一)引言:为什么显存是大模型微调的“拦路虎”? 大家好,我是七七,看到经常有网友:“博主,我用16G显卡微调7B模型,一跑就报OOM(显存溢出),是不是必须换24G以上的卡?”“同样是微调13B......
  • 各位好久不见~下半年又是忙论文又是忙项目的,实在是没什么时间更新笔记了。趁着今天有点空闲,咱来写写最近抽空解决的一个小网络问题叭(゜ー゜)。 0. 问题背景 咱实验室有一台连接着打印机的计算机,我们在这台机器上挂了一个专门注册的 QQ 账号,需要打印......
  • 在数据可视化中,堆积条形图 擅长展示 “整体与构成” 的关系,但当每个柱子内的分段超过4个时,读者很难同时追踪各段的长度、位置与颜色映射, 误读概率显著上升。 更糟的是,若不同类别的总量差异很大,堆积结构会放大视觉错觉,导致“看起来差不多”的结论失真......
  • 微调 + RAG 组合方案:1+1>2 的大模型应用技巧 微调 + RAG 互补发力,解锁大模型 1+1>2 效果 大家好,我是七七!上个月帮一家连锁药店做智能客服项目,一开始踩了个大坑:只用微调,模型对最新的医保政策一问三不知;只用RAG,模型又看......
  • InheritableThreadLocal相比ThreadLocal多一个能力:在创建子线程Thread时,子线程Thread会自动继承父线程的InheritableThreadLocal信息到子线程中,进而实现在在子线程获取父线程的Inherit......