SevenTnewS

AI推理

6 published articles

人工智能4 min read

AI基础设施与政策

Groq将未来押注于美国AI堆栈

Groq在计划发布当天表态支持白宫的AI行动计划,并将自己定位为美国AI堆栈的计算层。这份声明揭示了一家公司押注国家政策与廉价的本土推理将助力其进入全球市场。

2026-08-08

人工智能3 min read

推理基础设施

AI推理正成为一个位置问题:Groq在英国开设数据中心

Groq与Equinix在英国开设数据中心,GroqCloud开发者突破350万,生产级AI流量持续攀升。此举押注于推理如今是一个地理问题, , 延迟与位置决定实时AI可以在何处运行。

2026-08-08

人工智能5 min read

地理空间AI

Ai2的OlmoEarth平台将卫星推理转化为分布式系统问题

Ai2的OlmoEarth平台通过将工作分为CPU驱动的数据准备、GPU推理和CPU后处理,解决了地理空间推理独特的规模问题。一张覆盖整个大陆的野火风险地图实现了155倍加速,成本仅为每平方公里不到一美分。其架构、容错机制和路线图展示了团队如何将基础模型投入环境组织的运营。

2026-08-02

硬件与电子2 min read

GPU架构

AMD MI455X内存容量翻倍,Hugging Face测试确认请求吞吐量提升3倍

Hugging Face的早期结果显示,得益于432 GB的HBM4内存,AMD Instinct MI455X能够处理比MI300多三倍的并发请求。Transformers库在24种关键模型架构上达到99.5%的成功率。

2026-07-30

人工智能5 min read

AI硬件与基础设施

Groq与英伟达的交易比其7.5亿美元融资更重要

Groq与英伟达签署了推理技术的非独家授权协议,标志着其战略从硅片竞争转向为全球AI基础设施提供动力。该协议加上7.5亿美元融资和美国能源部的合作,将Groq定位为新兴的超级云服务商,而不仅仅是芯片制造商。

2026-07-16

人工智能Featured1 min read

Model Studio

Qwen3.7非高峰时段定价将API成本降低80%,美国开发者获得最佳时段

阿里云的Qwen3.7非高峰定价在覆盖美国和欧盟工作日的时段提供高达80%的API调用折扣。以下是它与GPT-5.5、Claude和Gemini的对比,以及哪些工作负载受益最大。

2026-05-20