苹果的MetalRT团队最近宣布他们已经在苹果芯片上成功开发出最快速的LLM解码引擎。这一突破性的技术让人们惊叹不已,为苹果芯片的性能再添新的辉煌。

这项新技术在M4-Max上实现了惊人的658 tok/s的解码速度,比原先的MLX快了整整19%。这意味着用户可以享受更加流畅和高效的解码体验,不再需要担心视频播放时出现卡顿或者延时的问题。

苹果MetalRT团队的成就真是令人瞩目,他们不断努力追求技术的突破和创新,为用户提供最优质的体验。相信在他们的努力下,苹果芯片的性能将会不断提升,为用户带来更多惊喜和便利。

如果你想了解更多关于苹果芯片上最快的LLM解码引擎的详情,不妨点击链接查看更多信息:https://www.runanywhere.ai/blog/metalrt-fastest-llm-decode-engine-apple-silicon。让我们一起期待苹果芯片的未来,享受更加强大和高效的科技带给我们的乐趣吧!

详情参考

了解更多有趣的事情:https://blog.ds3783.com/