硬件
AMD新AI芯片直击NVIDIA软肋:你的桌面电脑
AMD Ryzen AI Halo面向本地AI开发,拥有128 GB统一内存,支持高达2000亿参数模型,在特定图像生成任务上比Apple M4 Pro快最多7.3倍。该平台同时支持Windows和Linux,与NVIDIA仅支持Linux的DGX Spark形成差异化。

每位AI开发者都清楚这笔账:租用云GPU,按token付费,账单节节攀升。AMD如今推出的新设备彻底颠覆了这一等式, , 一次性硬件购买,据公司自身模型测算,三年内成本仅相当于等效云API使用的六分之一。
Ryzen AI Halo平台基于Ryzen AI Max+ 395处理器,是AMD迄今对开发者桌面市场最激进的冲击。它具备128 GB LPDDR5x统一内存、60 FP16 TFLOPS GPU性能以及50 TOPS NPU。核心亮点是:可本地运行高达2000亿参数的模型,无需卸载至远程服务器。
AMD将其定位为AI开发者的工作站,专为厌倦云端循环的人群设计, , 那些在本地进行原型开发、微调模型并反复推理相同数据的人。其卖点是:与其按API调用付费,不如一次性购买芯片,后续只需支付电费。
针锋相对的基准测试
AMD公布的基准测试直指两大竞争对手。对比Apple M4 Pro,AMD声称Halo平台在Ace Step 1.5上快最多3.3倍,在Ace Step 1.5 XL上快最多7.3倍,两者均为图像生成工作负载。Stable Diffusion XL运行速度快4.5倍,热门开源模型Flux Schnell则快最多3.8倍。
对比NVIDIA DGX Spark,AMD的数据更为审慎但仍有冲击力。Halo系统在GLM 4.7 Flash(300亿参数模型)上领先14%,在GPT-OSS-120B上领先7%,在Qwen 3.5-122B上领先12%。这些并非碾压式胜利,但在迭代工作中开发者足以感知差异。

比原始速度可能更重要的因素是:AMD原生支持Windows和Linux。而NVIDIA DGX Spark仅支持Linux。对于依赖Windows特定工作流或企业IT策略的团队而言,这一差异可能直接决定购买选择。
云成本论据
AMD引用的6倍成本优势高度依赖于使用模式。公司建模了一个“持续使用场景”,开发者连续三年运行推理工作负载。在该模型中,前期硬件购买成本加电费远低于重复性云API账单。对于轻度使用场景,计算结果则倒向云租赁, , 没人会为每天五次推理调用购买工作站。
但当模型足够大以致云GPU内存成为瓶颈时,这一论据便更具说服力。在具备足够显存的云实例上运行1200亿参数模型,每小时成本高于大多数创业公司使用的标准T4或A10实例。此时,配备128 GB统一内存的本地硬件显得相当划算。
AMD还通过Ryzen AI Halo开发者中心应用预配置软件,支持Ollama、LM Studio、vLLM和PyTorch等框架的一键设置。公司提供的AI Playbooks为图像生成、编码助手和LLM微调提供引导工作流,降低了在新硬件上快速上手的难度, , 而此前AMD开发者设备在此处常遇挫折。
NVIDIA的生态护城河
尽管有这些基准测试和成本论据,AMD仍面临软件问题。NVIDIA的CUDA生态几乎是所有基础模型实验室的默认开发环境。竞争对手的进入门槛不仅在于硬件性能,更在于整套工具链, , 经过十多年打磨的训练框架、推理引擎、容器镜像和社区支持。
AMD的应对方案是ROCm,其开源GPU计算栈,现已支持Halo平台。AMD声称可为新生成式AI模型提供“首日支持”,预装开发者中心应用也有助于此。但CUDA的网络效应真实存在:凌晨2点调试奇异形状错误的开发者,更可能在Stack Overflow上找到CUDA的答案,而非ROCm。
AMD的举措并非在训练集群上击败CUDA, , 无人期待如此。其目标是赢得桌面端:开发者在上云前进行原型开发的那台机器。如果团队在AMD工作站上构建管道,仅将最终训练运行迁移至云GPU,AMD便捕获了日常使用的设备。
更大图景
AMD的Ryzen AI Halo恰逢云端AI经济性受到日益审视的时刻。那些基于廉价API推理的创业公司,正随着模型变大而目睹成本上升。一次性花费3000至5000美元的工作站(AMD尚未公布Halo系列最终定价,但可比Pro级设备处于该区间),对于每周运行上万次推理的团队而言开始变得合理。
该平台首先在美国上市,后续将推出支持192 GB内存的PRO版本(Ryzen AI Max+ PRO 495)。更大内存池将使本地推理接近3000亿参数的模型成为可能,而这一领域当前需要多GPU云节点。
AMD不会在一夜之间取代数据中心的NVIDIA。但它或许能先让10000名开发者的桌面上出现一台本地推理机器。
每天早晨用 3 分钟掌握科技要闻
每个工作日一封邮件,只讲真正重要的 AI 与科技动态。