当前位置:当前位置: 首页 >
目前有什么可以本地部署的大模型推荐?
文章出处:网络 人气:发表时间:2025-06-22 05:40:10
这里推荐一个本地微调大模型的框架。
ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。
更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。
Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。
同类文章排行
- 字节跳动技术副总裁开源了自己与Trae合作的首个项目,如何评价目前AI开发的水平?
- 请问有人能估计一下 go 相比 php 在不同用户量下能省多少钱吗?
- 个人开发用Ubuntu还是Debian,还有别的推荐吗?
- 既然C#等开源语言,为啥***le还要弄个基本上一模一样的Swift?
- 中国与敌国发生战争,哪些国家会帮中国?
- postgres集群的选择?
- 皮肤太白是种怎样的体验?
- 有邻居的追求者出价三万,让我连续半个月每天找个女朋友晚上弄点动静,我该答应吗?
- Rust、Go、Zig、Dart、C3、C++、C,仓颉、moonbit、凹语言哪个语言更有未来?
- Windows的伟大之处在哪里?
最新资讯文章
- ant-design-vue 社区为什么不维护了?
- 汉语是牺牲了什么,才成为世界最紧凑、最高效的语言?
- MacOS真的比Windows流畅吗?
- 卸载迅雷后,***文件变成xunlei.bittorrent.6,怎么还原回去啊,心态炸了!?
- 公立医生帮联系民营救护车,800 公里收费 2.8 万元,收费合理吗?救护车收费标准是什么?
- 腾讯开源的 libco 号称千万级协程支持,那个共享栈模式原理是什么?
- 国家为什么特别青睐雷军?
- 程序中提升几毫秒、节省几 kB 的内存有必要吗?
- 如何看待 Rust 写的 PNG 解码器比 C 实现更快?
- 如何评价高圆圆的身材算是美女类型的吗?
- 为什么《绝区零》打磨了那么多细节的同时,却有一个灾难性的UI设计?
- 为什么linux桌面那么丑?
- 美国还有能力建造一艘核动力航母么?
- 2025年6月了,深圳房价咋样?
- 中餐炒菜那么好吃,为什么欧美人不学去?
- 自己拥有一台服务器可以做哪些很酷的事情?
- 国产手机AI「好用」的背后,是技术差距还是文化差异?
- go 有哪些成熟点的后台管理框架?
- 从零写一个3D物理引擎难度多大?
- 57空战以后,我想知道:印度的阵风怎么办?中印边境的阵风怎么办?难道都拉回机库锁起来?





