
确认显卡是否支持ROCm
较新显卡,访问System requirements (Windows) — HIP SDK installation (Windows),看列表中是否有你的显卡型号,如果有,再看列表后面的 HIP SDK 是否为打勾,两者满足时直接下载并安装 AMD 官方版本的 ROCm 和 Ollama 的官方版本就能使用。
因为我用的是5500XT显卡,列表没有,则不支持该功能
对于不支持ROCm,安装对应Ollama
1.访问Releases · likelovewant/ollama-for-amd,下载最新版本程序并覆盖安装
如果无法下载,可以使用本文备用下载链接(正式会员专享)
实名认证、发布文章、积极互动可升级正式会员!
2.在系统托盘中找到Ollama,并点击View logs
打开server.log
日志
3.找到gpu_type
字样,记录gpu类型(我的是1012)
4.再次访问Releases · likelovewant/ollama-for-amd,找到红框内的,点击访问此链接(请注意,仔细看这段英文,刚刚下载的 Ollama 安装程序是基于这个 hipsdk 6.1.2 版本进行创建的,所以需要下载相同版本的 ROCmlibs 文件,也就是下图标红处,如果使用其他版本的 ROCmlibs 的文件进行替换,会导致运行失败,这个坑我踩了)
5.找到你的显卡类型(我的显卡是1012),找同类型的hipsdk,点击下载
如果无法下载、访问,可以使用本文备用下载链接(正式会员专享)
实名认证、发布文章、积极互动可升级正式会员!
6.解压缩安装包后,按照此步骤替换文件
- 打开 Ollama 安装目录,比如这是我的安装路径 C:\Users\更换为你的电脑用户名\AppData\Local\Programs\Ollama\lib\ollama
- 将压缩包中的 rocblas.dll 替换 C:\Users\更换为你的电脑用户名\AppData\Local\Programs\Ollama\lib\ollama\rocblas.dll
- 将压缩包中的 library 文件夹替换 C:\Users\更换为你的电脑用户名\AppData\Local\Programs\Ollama\lib\ollama\rocblas\library
7.重新运行Ollama,并查看最新日志,发现已经可以识别到显卡名称了
运行DeepSeek(验证效果)
打开cmd命令提示符和任务管理器,运行ollama run deepseek-r1:1.5b
,发现专用GPU内存已经有占用了,提问问题也发现CPU占用率较低,并且回答速度较快,则证明运行成功
参考
AMD 显卡解锁 Ollama 支持:没有 N 卡也能跑大模型 - 图文 - ONEUE
超简单!3 步部署国产 AI 神器「DeepSeek」到你的电脑 - 小羿
广告:
暂无评论内容