Vast.ai

Vast.ai 是最大的点对点 GPU 租赁市场，堪称"GPU 界的 Airbnb"，自 2018 年运营至今。它聚合了来自 500+ 地点、1,400+ 独立主机商的 17,000+ 块 GPU，每月完成 70 万+ 笔租赁交易，价格通常比 AWS 或 GCP 刊例价低 50-80%。三条产品线覆盖全部场景：GPU Cloud 提供 40+ 数据中心的按需实例，Serverless 提供自动伸缩的模型端点，Clusters 提供多节点 InfiniBand 大规模训练。

核心功能

• 68+ 种 GPU 的市场定价：从约 $0.04/小时的 GTX 1080 到约 $7.21/小时的 B300；RTX 4090 约 $0.34-0.67/小时，A100 约 $0.66-1.50/小时，H100 SXM 约 $2.36-3.35/小时。
• 按秒计费：最低充值 $5，无合约；可中断的竞价实例再便宜 30-60%。
• Serverless 端点：自动伸缩的模型服务，按计算秒计费，空闲时归零。
• 集群：多节点 InfiniBand 互联，面向大规模训练任务。
• Docker 优先：容器化启动，带 SSH 或 Jupyter 访问；vastai CLI、Python SDK、REST API 齐全。
• 信任与合规分层：Verified Datacenter / Verified / Community 三级主机商；SOC 2 认证，Secure Cloud 过滤器只显示通过 ISO 27001 审核的服务商。

适用场景

谁应该使用这个工具？

• AI/ML 研究者：跑会烧穿云预算的训练与微调任务。
• 独立开发者与小工作室：用消费级显卡做推理、渲染与批处理。
• 突发负载团队：请求间隔期自动归零的 serverless 端点。

解决的问题

1. 云 GPU 价格惊吓：市场定价通常比 AWS/GCP 低 50-80%。
2. 配额摩擦：68+ 种 GPU 按需可得，无需企业合约。
3. 为空闲付费：按秒计费与竞价实例契合短促的突发任务。

定价方案

市场价格随供需波动。未验证的 Community 主机商可能因停机把实际成本抬高 20-40%，所以挂牌最低价不一定是最便宜的完整任务。

优势对比

相比竞品的优势：

1. 相比 AWS/GCP：同等硬件通常便宜 50-80%。
2. 相比单一云厂商：从 GTX 1080 到 B300 的无与伦比的覆盖广度。
3. 相比预留容量：按秒计费、竞价折扣、serverless 自动归零。

独特卖点：

• 规模：17,000+ 块 GPU、1,400+ 主机商、每月 70 万+ 笔租赁。
• 主机商可靠性分层，加上 SOC 2 与 ISO 27001 过滤，适合合规敏感场景。

快速开始

入门指南

1. 创建账户：最低充值 $5 即可开始。
2. 筛选报价：按 GPU 型号、价格与可靠性层级搜索。
3. 启动实例：选择带 SSH 或 Jupyter 的 Docker 模板。
4. 自动化：用 vastai CLI、Python SDK 或 REST API 编排工作流。

集成

• 带 SSH 或 Jupyter 前端的 Docker 镜像。
• vastai CLI、Python SDK 与 REST API。
• Secure Cloud 过滤器：只选 ISO 27001 审核过的数据中心服务商。

常见问题

Vast.ai 可靠吗？

取决于你选的层级。Verified Datacenter 与 Verified 主机商有可靠性保障；未验证的 Community 主机商更便宜但有停机风险。

最省钱的跑法是什么？

可中断的竞价实例，比按需价低 30-60%。

公司使用合规吗？

Vast.ai 通过 SOC 2 认证，Secure Cloud 过滤器可把报价限定在 ISO 27001 审核过的服务商。

有合约或最低消费吗？

没有合约。按秒计费，最低充值 $5。

替代方案

• Modal：Python 原生的 serverless 算力，GPU 按秒计费。
• E2B：面向智能体的沙箱代码执行，而非裸 GPU 租赁。
• Daytona：带电脑使用的持久开发环境。

使用技巧

1. 按风险选层级：生产推理用 Verified Datacenter；实验可以跑 Community 报价。
2. 可容错训练用竞价：勤做 checkpoint，拿下 30-60% 的折扣。
3. 算实际成本而非标价：中途杀掉你任务的便宜未验证主机，比稳定主机更贵。

总结

当问题是"去哪里不搞云合约就能拿到 GPU"时，Vast.ai 仍是默认答案：无与伦比的库存广度、按秒计费，以及常年比超大规模云厂商低一半以上的价格。选对可靠性层级，它就是公开市场上性价比最高的 GPU 算力。