以色列初创公司NeuReality推出了其专门的NR1芯片，旨在解决一个关键瓶颈：在人工智能应用中图形处理单元（GPU）的低效使用。尽管现代专注于人工智能的GPU变得强大得多，但服务器中的中央处理单元（CPU）和网络接口卡（NIC）往往无法跟上。估计这种不匹配使得这些系统中的GPU仅以其潜在能力的30-50%闲置。
NR1芯片被定位为“人工智能推理背后的大脑”，它接管了GPU、CPU和网络之间的整个协调过程，显著加快了数据处理速度。至关重要的是，该芯片可以与任何加速器一起工作——无论是来自NVIDIA、AMD还是专门的解决方案。NeuReality声称NR1实现了几乎完全的GPU利用率。在公司的内部测试中，单个GPU运行生成性人工智能模型的性能比标准的x86服务器架构高出6.5倍，同时消耗相同的电力。
这项技术对以下领域特别有前景：
NeuReality还为DevOps和MLOps团队提供SDK和Kubernetes工具包，为游戏工作室和云服务的集成提供了简化的路径。随着人工智能在游戏开发中变得越来越重要——推动从内容生成到复杂玩家行为分析的一切——降低成本和加速计算变得至关重要。NR1体现了服务器解耦的趋势，将人工智能计算划分为一个单独的、高度优化的处理通道。
这对于使用生成性人工智能、多模态模型、图像处理（包括照片级真实图形）、语音合成和在大量游戏数据上进行机器学习的工作室尤其相关。NR1的到来突显了市场对能够在复杂人工智能任务中有效管理资源的专门解决方案日益增长的需求，特别是在操作规模扩大时。