Introducing preemptible compute: the same compute, half the price
Together AI 在其博客宣布 Together GPU Clusters 支持 preemptible compute:同样的 GPU 容量按 on-demand 价格的固定 50% 计费,并提供五分钟的 drain window。
发展脉络
- 首次出现Introducing preemptible compute: the same compute, half the priceTogether AI
- 当前判断把同一 GPU 容量以固定 50% 折扣出售,反映供给方试图用价格分层把闲置或可回收容量变现,同时保留 on-demand 作为高保障档位。这是算力商品化与分层定价的延续,但证据仅覆盖单一厂商的定价声明,尚不足以判断行业整体价格走向。Agent Pulse · 分析
Together AI 发布博客《Introducing preemptible compute: the same compute, half the price》,宣布 Together GPU Clusters 新增 preemptible compute 能力。证据给出的要点是:提供与 on-demand 相同的 GPU 容量,价格为 on-demand 费率的固定 50%,并配有五分钟的 drain window。除此之外,证据未披露具体 GPU 型号、区域、可用规模、SLA 条款或抢占触发条件。
从机制看,preemptible 与五分钟 drain window 意味着任务必须可被中断并在有限时间内优雅退出,这更适合可切分、可重试、带检查点的训练或批式推理负载,而非长时不可中断的在线服务。可验证的下一信号是官方文档是否给出抢占通知方式、检查点与重调度接口,以及 drain window 是否可配置。
把同一 GPU 容量以固定 50% 折扣出售,反映供给方试图用价格分层把闲置或可回收容量变现,同时保留 on-demand 作为高保障档位。这是算力商品化与分层定价的延续,但证据仅覆盖单一厂商的定价声明,尚不足以判断行业整体价格走向。
对成本敏感的团队,50% 折扣直接降低单位算力支出,但需以工程改造换取:任务要支持检查点、重试与五分钟内退出。评估时应把抢占导致的重算与工程投入计入总成本,而非只看标价折扣。
若该模式被更多算力供应商跟进,可中断容量可能成为训练与批处理任务的默认低成本选项。可验证的下一信号是其他 GPU 云是否推出同类折扣档位,以及 Together 是否公布该档位的实际可用容量与抢占频率。