AI 工具 | | 约 5 分钟 | 1,916 字

Tinybox:售价 12 万的深度学习工作站

tinygrad 团队推出的高性能深度学习计算机,MLPerf 基准测试超越价格高出 10 倍的竞品

什么是 Tinybox

Tinybox 是由 tinygrad 团队出品的高性能深度学习专用计算机,定位为”最佳性价比的深度学习工作站”。已在 MLPerf Training 4.0 中与价格高出 10 倍的竞品进行了基准测试并取得了优势。

三款型号对比

规格Red v2Green v2Blackwell ExaBox
FP16 算力778 TFLOPS3,086 TFLOPS~1 EXAFLOP
GPU4x RX 9070 XT4x RTX PRO 6000720x RDNA5 AT0 XL
GPU 显存64 GB384 GB25,920 GB
GPU 显存带宽2,560 GB/s7,168 GB/s1,244 TB/s
系统内存128 GB192 GB23,040 GB
磁盘容量2 TB NVMe4 TB RAID + 1 TB boot480 TB RAID
噪音< 50 dB65 dB @ 10 米
尺寸/重量12U, 60-90 磅20x8x8.5 ft, 20,000 磅混凝土基座
价格$12,000$65,000~$10M
状态现货现货2027 年发售

Red v2 配置详解

如果你只需要一台高性能深度学习工作站,Red v2 是最佳选择:

  • 4x AMD RX 9070 XT:共 778 TFLOPS FP16 算力
  • 128 GB 系统内存:204.8 GB/s 带宽
  • 2 TB NVMe:7.3 GB/s 读取带宽
  • Ubuntu 24.04:开箱即用
  • 噪音 < 50 dB:31 个低速风扇,办公室友好
  • 12U 机身:可落地或机架安装

tinygrad 软件加持

Tinybox 运行 tinygrad团队优化的 Ubuntu 24.04,驱动质量被评为”Good”(Red v2)或”Great”(Green v2)。

作为对比,同样使用 AMD 显卡的传统方案往往面临驱动问题,tinygrad 提供了开箱即用的解决方案。

购买信息

  • 发货:付款到账一周内发货,San Diego 自提或全球发货
  • 付款方式:仅支持电汇(wire transfer)
  • 电源:1600W,100V~240V 宽电压

性能对比

tinygrad 团队声称 Tinybox 在 MLPerf Training 4.0 基准测试中超越了价格高出 10 倍的竞品。这意味着:

方案算力价格每美元算力
Tinybox Red v2778 TFLOPS$12,000最高
竞品 A~800 TFLOPS~$120,000较低

目标用户

  1. 个人开发者/研究者:Red v2 适合需要大模型训练但不想要万元美元工作站的用户
  2. 中小团队:Green v2 提供 3 PFLOPS 级别的算力,适合团队共享
  3. 企业级:Blackwell ExaBox 面向需要百亿亿次算力的超大规模 AI 训练场景

总结

Tinybox 的出现代表了几个重要趋势:

  1. AMD ROCm 生态成熟:RX 9070 XT 搭配 Linux 驱动终于可用
  2. 性价比为王:tinygrad 选择 AMD 方案而非 NVIDIA,在性能和价格间找到平衡
  3. 软件定义硬件:tinygrad 团队既是软件也是硬件供应商,确保端到端优化

对于需要本地深度学习硬件的团队和个人,Tinybox 值得关注。

官网:tinygrad.org

评论

加载中...

相关文章

分享:

评论

加载中...