Which GPU Clouds Are Actually Good? | ClusterMAX 3.0

SemiAnalysis 实测 323 家 GPU 云，发现多数 NeoCloud 安全形同虚设，甚至能看到某国情报机构的文件。

租 GPU 表面是比价格，实际是比谁不会把你的训练数据漏给别人。SemiAnalysis 团队花一年实测 323 家 GPU 云，发现连最基本的软件补丁都没人打，甚至在某家云上直接看到了某国情报机构的文件。下面说清这个市场到底烂在哪，以及为什么现在租 GPU 比以往任何时候都难。

SemiAnalysis 的 Dylan 说，他们在测试中直接看到了不该看的东西，而且不是一次两次。

• 软件版本落后 2-3 年：很多 NeoCloud 跑着有公开 CVE 漏洞的旧驱动和旧系统，不用前沿模型，随便搜一下就能攻破。
• 网络密钥配置错误：InfiniBand 的 M keys、P keys 没正确部署，租户之间能互相看到对方的任务、数据和存储。
• 最夸张的一次：在某家云上直接看到了某国多个国家安全机构的情报数据，团队赶紧上报 Nvidia 并建议用户别用。

不是价格问题，是你根本抢不到，因为能赚钱的人太多了。

• 推理公司毛利飙到 60%：Base10、Fireworks、Morph 等公司靠开源模型加一点优化，毛利从 10% 涨到 60%，拿到 GPU 就能赚钱。
• 实验室下沉到 1000 卡起租：OpenAI、Anthropic 以前只租 8000 卡以上，现在连 1000 卡的集群都要，直接挤占了 NeoLab 的生存空间。
• 连单节点都租不到了：Modal 这种公司甚至愿意接 4 个节点的单子，整个市场从下到上全被扫空。

Poolside 和 Hugging Face 被收购，本质是 Nvidia 不想让竞争对手拿到这些团队。

• Poolside 卖了 120 亿美元：员工被 Nvidia 收编去做 Neotron，因为 Nvidia 对美国开源模型生态已经失去耐心，决定自己干。
• Hugging Face 年初就被盯上：Nvidia 年初就想买，这次终于拿下，目的是防止其他公司控制这个开源模型枢纽。
• Nvidia 每季度自由现金流 500 亿美元：花 10% 买下这两个团队，对 Nvidia 来说就是零钱，但能确保他们不为竞争对手工作。

“我们只是来测试集群的，结果能看到某国情报数据。想象一下如果我们是恶意的。”

• 如果你要租 GPU，先跑一遍 ClusterMax 的免费 CLI 工具 CMAX，检查驱动和软件版本，别把训练数据交给一个连补丁都不打的服务商。
• 关注 Google 的算力外租策略：它一边投资 Anthropic 和 SSI，一边把 TPU 租给它们，短期赚了收入，长期可能养出最大的竞争对手。