SiMa Technologies Inc. 推出了一款名为 MLSoC Modalix 的新型系统级芯片（SoC），这是一款专为嵌入式边缘环境中的多模态人工智能（AI）工作负载设计的平台。这款芯片能够支持包括大型语言模型（如 OpenAI 的 GPT 系列）、卷积神经网络、变换器模型等在内的多种 AI 模型，旨在为工业机器人和其他边缘计算设备提供低延迟的 AI 工作负载处理能力。
MLSoC Modalix 芯片的特点是具有更高的处理能力，它提供多种配置选项，包括 25、50、100 和 200 TOPS（每秒一万亿次计算）的性能指标。芯片集成了 25 兆字节的内存池，允许直接在芯片上存储数据，而无需使用外部随机存取存储器。此外，芯片还采用了台湾半导体制造公司的六纳米工艺制造，并集成了四个矢量处理单元用于运行计算机视觉算法，以及视频编码和计算机视觉任务的模块。它还包含一个集成的 ISP 模块，可以与基于移动行业处理器接口的摄像头和以太网连接的摄像头进行接口，以及四个 PCIe Gen 5 通道用于数据的进出。
SiMa.ai 表示，MLSoC Modalix 将使开发者能够在边缘 AI 性能方面“突破极限”，仅在单个芯片上运行端到端的生成性 AI 应用管道。这将使得边缘 AI 应用更加强大，例如能够自主执行农业任务、工业维护和建筑检查的无人机，以及在执行自身常规维护检查的同时能够自动驾驶的自主车辆。其他用例包括医疗保健中的医学成像和机器人辅助手术，以及智能零售应用。
除了新芯片，开发者还可以使用 SiMa.ai 的低代码 AI 开发工具套件 Pallet，其中包括一个编译器，使 AI 模型能够在硬件上更高效地运行，以及一个分层的直接主动数据预取功能，确保底层模型能够实时访问数据。SiMa.ai 的创始人兼首席执行官 Krishna Rangasayee 表示，他们的第一代 MLSoC 芯片已经获得了显著的市场接受度，而 MLSoC Modalix 的推出，使得 SiMa.ai 能够提供从卷积神经网络到生成性 AI 以及两者之间的一切，具有行业领先的性能和能效。
来源：siliconangle
相关文章
粤公网安备44011102483711号