白捡的二手计算卡该不该装？Tesla P100/P40 三步核查法：物理门槛、CUDA 支持寿命与算力倒挂实测

2026-10-02 · AI智工坊 · 硬件选型与本地算力

旧显卡、退役计算卡、矿卡，价格常常低到让人失去判断力。但我们踩过的最大一个坑不是硬件，而是判断方法本身：有一块卡，第一轮评估的结论是"不建议装"，第二轮却改成了"首选装"——前后唯一的差别，只是补上了一条此前不知道的信息。

这篇把那次评估拆开重写，固化成一套任何旧卡都能套用的三步核查法。文中所有的硬件参数、软件支持现状和推理速度，都来自我们集群里的真实台账与查证记录，不是从别处抄来的通用说法。

零、先问一句：现成的卡够不够用？

这是整套方法里最重要、也最常被跳过的一步。多数"想加张卡"的需求，用已经有的算力就能满足——把任务挪到已有显卡的机器上跑，跨网络调用即可，成本是零。而装一张卡的隐性成本，常被严重低估：换电源、改散热、电费、维护，以及一堆软件兼容的坑。

判断顺序永远是：先确认现有资源不够，再评估新卡。反过来做（先看卡便宜不便宜），十次里有八次会装出一台吃灰的机器。

一、第 0 步：三个前置问题（答不上来就先别算）

  1. 卡是 PCIe 版还是 SXM2 版？——SXM2 版要配厂商专用底板，普通主板的 PCIe 插槽根本插不上，到这里直接作废，不必往下评估。旧计算卡里 SXM2 版本相当常见。
  2. 打算让它干什么活？训练、推理，还是只是囤着——用途决定"值不值"。没有明确用途就无法判断，只会变成情绪消费。
  3. 宿主是哪台机器？——它同时决定了物理门槛和 CPU 瓶颈。

二、第 1 步：物理四道门槛，任一不过就是白折腾

门槛怎么查常见坑
供电接口形态看卡的产品说明，不要凭"几个 8pin"判断P100/P40 用的是 CPU 8-pin（EPS12V），不是显卡 PCIe 8-pin！针脚定义不同，官方另配转接线。硬插有烧板风险
散热形态看有没有风扇被动散热（无风扇）＝服务器卡，靠机箱前后贯流暴力风扇。台式机箱没有这条风道，必须自己加涡轮扇，否则降频甚至损坏
卡身长度 / 槽位量机箱内空间与可用槽位P100 PCIe 版是 267mm 双槽。M-ATX 小板配的小机箱大概率装不下
BIOS：Above 4G Decoding进 BIOS 看有没有这一项大显存计算卡的 BAR 可达 16GB，必须开 Above 4G Decoding、UEFI 启动（关 CSM）。老入门级主板 BIOS 未必暴露这一项，得现场核

另外两条同样是硬门槛：

不用拆机就能先查的软件信息

在目标机器上跑这几条，很多问题在动手前就能暴露出来：

cat /sys/class/dmi/id/board_name /sys/class/dmi/id/bios_version /sys/class/dmi/id/bios_date
lscpu | grep -E 'Model name|^CPU\(s\)'      # 宿主 CPU —— 决定能否喂饱这张卡
lspci -tv | head -25                       # 哪些 PCIe 槽空着、被什么占了
free -h
CPU 是硬瓶颈，而且最容易被忽略。数据预处理、加载、分词、解码全在 CPU 上跑。双核 CPU 喂不动 250W 的大卡，装上去也是长期空转。很多人只看显卡参数，忽略了宿主机器本身。

还有一个现实约束：绝大多数小板只有 1 个 PCIe x16 槽，其余是芯片组引出的 x1——插大卡没意义，x1 也无法给 250W 供电。所以"哪台机器能装"这个问题，往往一查就只剩一个答案。

三、第 2 步：软件还活不活（架构寿命判定）

判据是一条链：卡的型号 → compute capability (CC) → 对照 CUDA / 驱动的支持下限 → 再对照深度学习框架的构建矩阵。

架构代表卡Compute Capability
MaxwellGTX 9xx5.x
PascalP100 / P40 / GTX 10xx6.0 / 6.1
VoltaV1007.0
TuringRTX 20xx / GTX 16xx7.5
AmpereRTX 30xx / A1008.0 / 8.6
AdaRTX 40xx8.9
BlackwellRTX 50xx12.0

把它换算成"还能活多久"，是下面这几条事实（2026 年 9 月的支持现状）：

事实结论
CUDA 13.0 取消 CC<7.5 的离线编译支持Maxwell / Pascal / Volta 无法用新版编译器自己编译
驱动 580 分支是最后一个支持 CC<7.5 的版本旧卡的正式寿命终点大约在 2028 年中
深度学习框架的 cu128 构建起移除 Maxwell + PascalPascal 最高只能用旧一档的框架版本，且必须选对应的 CUDA 构建
框架仍保留 CUDA 12.6 作为 legacy 构建旧卡"能用"，但功能冻结：新内核、新注意力实现、低精度量化全用不上

一句话结论：这个架构的软件能力冻结在今天，只会随时间越来越难用；驱动支持到 2028 年中。如果目标是搭一套"要用几年的生产环境"，这是一份明确的贬值资产。

但也别一刀切说"已经死了"

这里有个很关键的区分：被冻结的是编译工具链，不是运行时。

主流通用推理框架的官方支持列表里，依然明确包含 P100 和 GTX 10 系，甚至更老的 Maxwell——条件是驱动版本够新（5.x–6.x 的卡要求驱动 570 以上）。它们发布的是预编译好的运行时二进制，所以"跑现成模型做推理"这条路仍然通。

所以正确的说法是：旧卡可以用于推理，但不能用它来跟进最新的训练/微调工具链。这两件事的结论完全相反，混为一谈就会做出错误决策。

还有一个容易被忽略的性能短板

别只看"能跑"。Pascal 架构没有张量核心、不支持 BF16、不支持 INT8/INT4 张量加速，FP16 还是降速执行——而这些恰好是当代语音识别、语音合成和大模型推理最常用的加速路径。结果是它在现代负载下的实际表现，经常不如新一代中端卡。

四、第 3 步：算力账——别孤立评估一张卡

把候选卡放进已有算力里对比，才能看出它到底补了什么。我们集群的真实 GPU 台账（2026 年 9 月实测）：

卡显存带宽架构 / 年份
Tesla P10016G HBM2732 GB/s（表中最高）Pascal 2016
RTX 306012G360 GB/sAmpere 2021
RTX 4060 Ti16G288 GB/sAda 2023
RTX 5060 Ti16G448 GB/sBlackwell 2025
GTX 1050 Ti4G112 GB/sPascal

看这张表，"带宽最高的那张卡"推理一定最快——这是最容易得出的错误结论。实际对照数据（通用推理框架下的公开基准）：

模型P100 16G对照
7B Q4 量化34–50 tok/s与 RTX 3060 大致相当
14B Q4 量化19.4 tok/s慢于 RTX 3060

原因就是上面说的：没有张量核、低精度加速全缺席，732 GB/s 的带宽优势被完全抵消。所以"用这张卡给大模型节点提速"这个思路是错的——更年轻的中端卡更快。

那么它剩下的价值是什么？给一台完全没有独立显卡的机器，从 0 补上 16G 显存。这是唯一一个其他卡替代不了、且边际提升最大的位置。

电费也要算进去

250W 满载约等于每天 6 度电，一个月就是百元量级。为了"偶尔才跑一次的批处理任务"长期供着这样一张卡，通常不划算。

更好的替代思路：需要加速某个小模型时，先把任务挪到已有显卡的机器（跨网络调用就能做到，很多推理服务都支持指定远端地址），往往零成本拿到同样效果。

五、一次真实评估：结论为什么被推翻了

回到开头那件事。我们实际评估一块 P100 时，走的是这样两轮：

第一轮（信息不全）→ 结论"不建议"

理由听起来都很硬：被动散热的服务器卡插不进小机箱、架构太老软件生态已死、宿主是双核 CPU 肯定喂不动。三条全中，结论就是不装。

第二轮（补上一条关键信息）→ 结论改成"首选装"

后来得知：这块卡原本就在我们自己的集群里服役过，配套的供电线和散热方案都还在。这一条事实直接改写了前提：

但即便改成了"装"，仍然要如实提醒：它不会成为性能担当（14B 只有十几 tok/s，慢于更年轻的卡）。如果目标是"更快"，那答案依然是不装。

这次评估留下的方法教训

"免费硬件"最容易犯的错，是只做单轮判断。第一轮的结论建立在"假设物理装不上"之上；一旦拿到"这张卡在我们这里服役过"这条事实，整个前提就变了。

所以评估旧硬件的第一步应该是：先问"它以前在哪跑过、配套件还在不在"，再谈门槛。

六、拿去就用的清单

  1. 先问现成的卡够不够——能挪任务就别装卡；
  2. 确认是 PCIe 版还是 SXM2 版（SXM2 直接放弃）；
  3. 核 供电接口形态（是 EPS12V 还是显卡 8pin）；
  4. 核 散热形态（被动卡要考虑机箱风道）；
  5. 量 卡长与槽位，确认 BIOS 能开 Above 4G；
  6. 看 宿主 CPU 会不会成为瓶颈；
  7. 查 架构的 CC → 对照编译器/驱动/框架支持矩阵，认定寿命；
  8. 把它放进 已有算力台账里比，算清它到底补了什么；
  9. 把 电费与替代方案算进去；
  10. 最后问自己：这张卡以前在哪跑过？配套件还在吗？

这套流程真正的价值，不是给出一句"装"或"不装"，而是把"值不值得"这个模糊直觉，拆成三道可以独立核查、且能明确写"需现场核"的门槛。旧硬件的坑，绝大多数不是坏在卡上，而是坏在跳过某一道门槛。

如果你手上也有这类"白捡的"硬件，或者在为数字人、语音、大模型推理配本地算力——从选型到装机到软件栈，我们可以一起把门槛先过一遍。

聊聊本地算力选型与装机评估 →

常见问题

Tesla P100 能不能直接插在普通台式机主板上？

先看版本。SXM2 版本必须配厂商专用底板，普通主板的 PCIe 插槽根本插不上，到这一步可以直接放弃。PCIe 版本才具备讨论价值，它需要空闲的 x16 槽、足够的机箱长度，以及能撑住 250W 的供电。

Tesla P100 的供电接口是显卡 8-pin 吗？

不是。P100/P40 用的是 CPU 8-pin（EPS12V）接口，针脚定义和显卡 PCIe 8-pin 不同，官方另配转接线。把显卡 8-pin 硬插上去有烧板风险，动手前必须核对卡的产品说明。

Pascal 架构的卡现在还能用吗？是不是已经被 CUDA 淘汰了？

要区分编译工具链和运行时。新版 CUDA 确实不再支持较老的 CC 做离线编译，驱动 580 分支是最后一个支持它的版本、LTS 到 2028 年中；但预编译好的运行时二进制仍然能跑，通用推理框架的官方支持列表里依然包含这些卡，条件是驱动够新。被冻结的是自己用新工具链编译，不是完全不能运行。

P100 显存带宽更高，为什么推理反而更慢？

因为跑大模型不只看带宽。Pascal 没有张量核心，不支持 BF16，也不支持低精度张量加速，FP16 还是降速执行——这些恰是当代推理最常用的加速路径。所以带宽优势被抵消，实测 14B Q4 量化在 P100 上约 19.4 tok/s，慢于 RTX 3060。

旧计算卡装在什么机器上最划算？

装在本机唯一还空着 x16 插槽、并且本身没有任何独立显卡的机器上。从 0 张独显到 16G 显存是边际提升最大的一步；如果 x16 已被占用，或者宿主 CPU 太弱喂不动，装卡的收益通常抵不上换电源、改散热和电费的成本。

二手卡评估只是"把机器跑起来"的第一步，真正决定这套算力值不值回票价的，是它上面跑什么业务。如果你的方向是内容生产或数字人，站内已上架的方言语料资产可以直接接进产线，省掉数月词条整理：3550 条苏州话标准词条（JSON + CSV 双格式，含 100 条免费样本）。

查看站内数字资产 →

相关阅读