Cerebras Systems 推出“全球最快” AI 推理服务，向 Nvidia 发起挑战

Cerebras Systems Inc. 是一家人工智能计算领域的初创公司，它宣布推出了号称世界上最快的AI推理服务，并且已经可以在云端使用。该公司的AI推理服务旨在满足那些对现有服务不满意的客户，提供更快、成本更低的推理服务。Cerebras的首席执行官Andrew Feldman表示，他们的目标是提供高速推理服务，以推动AI应用的新机遇。

Cerebras的旗舰产品是WSE-3处理器，它基于先进的5纳米工艺，拥有超过1.4万亿个晶体管，比前一代芯片多出许多。这款芯片的计算核心数量是Nvidia H100图形处理单元的52倍。WSE-3芯片的性能是WSE-2的两倍，峰值速度可达125 petaflops。

Cerebras推理服务的速度非常快，比使用Nvidia最强大的GPU的云推理服务快20倍。服务的价格也非常具有竞争力，每百万个token的价格仅为10美分，这为AI推理工作负载提供了100倍的性价比。

Cerebras推理服务特别适合执行”代理AI”工作负载，这些AI代理可以代表用户执行任务。此外，Cerebras还提供了三个不同层次的服务访问选项，包括一个免费的提供API访问和大量使用限制的选项，供希望尝试平台的用户使用。

Cerebras还宣布了与多家公司的战略合作伙伴关系，以提供加速AI开发所需的所有专业工具。其合作伙伴包括LangChain、LlamaIndex、Docker Inc.、Weights & Biases Inc.和AgentOps Inc.。Cerebras的推理API与OpenAI的Chat Completions API完全兼容，这意味着现有的应用程序只需几行代码就可以迁移到其平台上。

来源：siliconangle