矿卡P104-100在PVE 8.0.4上部署Ollama全流程:从硬件配置到模型推理实战
矿卡在AI推理领域的性价比优势正吸引越来越多技术爱好者。以NVIDIA P104-100为例,这张原本用于加密货币挖矿的显卡,凭借其Pascal架构和8GB GDDR5X显存,在本地大模型部署中展现出惊人的成本效益。本文将完整呈现从PVE环境准备到Ollama模型加载的全套解决方案,特别针对矿卡无显示输出的特殊性和驱动安装中的典型报错提供实战验证的解决方法。
1. 硬件准备与BIOS关键设置
矿卡部署的首要挑战在于硬件兼容性。P104-100作为纯计算卡,缺少显示输出接口,这要求我们在PVE环境中必须正确配置PCIe直通。实测在超微X11SSM-F主板上,当显卡安装在PCIe 3.0 x16插槽时,IOMMU分组最为理想。
必须检查的BIOS设置项 :
-
VT-d/AMD-Vi:芯片组级别的IOMMU支持 -
Above 4G Decoding:解决矿卡大显存地址映射问题 -
PCIe ASPM:建议关闭以防止电源管理导致的设备重置 -
CSM Support:必须禁用以确保UEFI模式纯净
# 验证CPU虚拟化支持
egrep -c '(vmx|svm)' /proc/cpuinfo
# 输出大于0表示支持
常见主板中,华硕WS系列对矿卡兼容性最佳,消费级主板需注意PCIe插槽的带宽分配。某用户在华擎Z370主板上遇到的问题显示:当矿卡与NVMe硬盘共用CPU直连通道时,会出现带宽争用导致的性能下降,此时应将矿卡安装在PCH提供的PCIe插槽。
2. PVE 8.0.4系统级配置
Proxmox VE 8.04基于Debian 12和Linux 6.2内核,对新型矿卡的支持更为完善。以下是经过多台设备验证的配置方案:
2.1 IOMMU核心参数优化
# /etc/default/grub关键修改
GRUB_CMDLINE_LINUX_DEFAULT="quiet intel_iommu=on iommu=pt initcall_blacklist=sysfb_init pcie_acs_override=downstream,multifunction nofb nomodeset"
3175



被折叠的 条评论
为什么被折叠?



