DeepSparse 1.5发布,加速在CPU上进行的人工智能推断
近年来,人工智能技术得到了迅速发展,从语音识别、图像识别到机器翻译,这些应用给我们的生活带来了便利,也推动了人工智能领域的创新。但是,在进行人工智能推断时,我们需要使用强大的计算能力,这些能力通常需要使用专用的神经网络加速卡或者GPU才能实现。
现在,有好消息要传递,由 Yida Wang, Yang You, Raghavendra Kulkarni, Arjun K Bansal, Carl Pearson 的团队所设计的 DeepSparse 1.5 已经正式发布,该软件可以在CPU上运行的同时提供人工智能推断加速。这是一个令人兴奋的进展,它能够让更多的开发者使用老年的CPU来进行人工智能推断,从而更快地部署和推出人工智能应用。
DeepSparse 1.5可以有效地减少计算和内存使用,使其能够运行在底端CPU上。它采用了三大算法来实现高效计算,包括有序稀疏图形计算、稀疏核矩阵乘法和稀疏卷积。通过这些算法,DeepSparse 1.5能够将计算量减少了10倍,并减少了内存使用。
此外,DeepSparse 1.5还加入了RK3399、AM5728等主流芯片的支持,并能够在Linux和Windows上运行,这些特性将使得更多的开发者得以使用老年CPU来推断人工智能应用程序。
总的来说,DeepSparse 1.5的发布是一个令人兴奋的进展。它通过高效、简单和可扩展的算法,为人工智能推断提供了新的可能。除此之外,DeepSparse 1.5使得老旧的CPU也可以做出新意义的人工智能推断,这将进一步降低人工智能的门槛,为更多的开发者提供机会。
了解更多有趣的事情:https://blog.ds3783.com/