有没有老哥试过本地跑deepseek？

左右不逢缘 · 发表于 2025-2-20 08:43:47

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

显卡是16g，估计只能带动14b的模型

有没有老哥试过用本地安装deepseek，然后生成文章的？

速度快不快

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站内容为站长个人技术研究记录或网络，不提供用户交互功能，所有内容版权归原作者所有。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！

IT618发布 · 发表于 2025-2-20 08:44:02

部署本地要大量金钱，还是选择api划算一些、有没有老哥试过本地跑deepseek？有没有,试过,本地,deepseek,老哥

浅生 · 发表于 2025-2-20 08:44:47

本地部署为啥需要大量金钱？

IT618发布 · 发表于 2025-2-20 08:45:12

你先花十几万买个主机

IT618发布 · 发表于 2025-2-20 08:45:56

api按量付费比较适合。

1.5B参数版本
内存：8GB
GPU：最低4GB显存，不要也可以，支持纯CPU推理

7B-8B参数版本
内存：16GB+内存
GPU：最低6GB显存，推荐 RTX 4070 或 RTX 4060等

32B参数版本
内存：32GB+内存
GPU：24GB显存（RTX 4090 24GB / RTX 5090 32G）

70B参数版本就要至少两个5090显卡，

671b硬件成本得几百万