AMD显卡用户使用Ollama并运行DeepSeek

AMD显卡用户使用Ollama并运行DeepSeek-云港网络
AMD显卡用户使用Ollama并运行DeepSeek
此内容为免费资源,请登录后查看
会员专属资源
持续更新
下载不限速
永久免费
免费资源

确认显卡是否支持ROCm

较新显卡,访问System requirements (Windows) — HIP SDK installation (Windows),看列表中是否有你的显卡型号,如果有,再看列表后面的 HIP SDK 是否为打勾,两者满足时直接下载并安装 AMD 官方版本的 ROCm 和 Ollama 的官方版本就能使用。

20250201183955555-image

因为我用的是5500XT显卡,列表没有,则不支持该功能

对于不支持ROCm,安装对应Ollama

1.访问Releases · likelovewant/ollama-for-amd,下载最新版本程序并覆盖安装

如果无法下载,可以使用本文备用下载链接(正式会员专享)

实名认证、发布文章、积极互动可升级正式会员!

20250201184358317-image

2.在系统托盘中找到Ollama,并点击View logs打开server.log日志

20250201184853371-IMG_20250201_184752

3.找到gpu_type字样,记录gpu类型(我的是1012)

20250201185107195-image

4.再次访问Releases · likelovewant/ollama-for-amd,找到红框内的,点击访问此链接(请注意,仔细看这段英文,刚刚下载的 Ollama 安装程序是基于这个 hipsdk 6.1.2 版本进行创建的,所以需要下载相同版本的 ROCmlibs 文件,也就是下图标红处,如果使用其他版本的 ROCmlibs 的文件进行替换,会导致运行失败,这个坑我踩了)

20250201185325688-image

5.找到你的显卡类型(我的显卡是1012),找同类型的hipsdk,点击下载

如果无法下载、访问,可以使用本文备用下载链接(正式会员专享)

实名认证、发布文章、积极互动可升级正式会员!

 

20250201190338135-image

6.解压缩安装包后,按照此步骤替换文件

  • 打开 Ollama 安装目录,比如这是我的安装路径 C:\Users\更换为你的电脑用户名\AppData\Local\Programs\Ollama\lib\ollama
  • 将压缩包中的 rocblas.dll 替换 C:\Users\更换为你的电脑用户名\AppData\Local\Programs\Ollama\lib\ollama\rocblas.dll
  • 将压缩包中的 library 文件夹替换 C:\Users\更换为你的电脑用户名\AppData\Local\Programs\Ollama\lib\ollama\rocblas\library

7.重新运行Ollama,并查看最新日志,发现已经可以识别到显卡名称了

20250201190705609-image

运行DeepSeek(验证效果)

打开cmd命令提示符和任务管理器,运行ollama run deepseek-r1:1.5b,发现专用GPU内存已经有占用了,提问问题也发现CPU占用率较低,并且回答速度较快,则证明运行成功

20250201191403337-image

参考

AMD 显卡解锁 Ollama 支持:没有 N 卡也能跑大模型 - 图文 - ONEUE

超简单!3 步部署国产 AI 神器「DeepSeek」到你的电脑 - 小羿


广告:

© 版权声明
THE END
喜欢就支持一下吧
点赞9打赏 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容