正文内容 评论(0)
六、DeepSeek R1部署:几分钟搞定
作为当下最火的AI大模型,DeepSeek已经得到了AMD Radeon RX 7000系列显卡的全面适配支持,RX 7650 GRE更是出厂即支持。
Radeon显卡需要先去AMD官网下载一个AMD Adrenalin 25.1.1测试版驱动。地址为:
https://www.amd.com/zh-cn/resources/support-articles/release-notes/RN-RAD-WIN-25-1-1.html
1、安装LM Studio
首先打开LM Studio官网网站的锐龙专栏(https://lmstudio.ai/ryzenai),并下载LM Studio for Ryzen AI安装包,安装并运行。
2、下载DeepSeek R1模型
安装完成后,在左侧菜单栏点击搜索图标,输入“DeepSeek R1”,就可以看到已经训练好的各种DeepSeek模型。
由于RX 7650 GRE是8GB显存,只支持8b以下的模型,建议下载”DeepSeek R1 Distill Llama 8b(Q4_K_M)模型,大小是4.92GB。
加载下载好的模型,然后调高“GPU卸载(GPU Offload)”的数值,不同选项的具体含义可自行搜索或者直接询问DeepSeek。
加载完成后,就可以尽情地在本地体验DeepSeek了。
3、体验
上面是我们让DeepSeek模仿王勃《滕王阁诗》为2025年蛇年创作的一首七言律诗。
当然,DeepSeek能做的事很多,比如搜索、对话什么的,我们就不一一展示了,感兴趣的同学可以自行探索。
本地部署的好处就是不会遇到服务器无响应,不会有延迟,更不会泄露隐私。
- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...