Microsoft的新CataPult V2服务器设计目标AI

2021-09-24 11:46:45来源:

多年来,微软一直在提供快速和准确的Bing结果,使用称为项目弹射器的实验服务器,现在已经收到了架构升级。

CataPult服务器使用名为FPGA(现场可编程门阵列)的可重编程芯片,这些芯片是提供更好的Bing结果的核心。FPGA可以快速得分,过滤,排名和测量Bing上文本和图像查询的相关性。

Microsoft现在重新设计了原始的CataPult服务器,该服务器用于调查FPGA在加速服务器中的角色。该建议的CataPult V2设计在绕过传统数据中心结构的机器学习中更加灵活,并扩大FPGA作为加速器的作用。

Microsoft本月早些时候在斯坦福德的Scaled Machine Learning会议上首次介绍了Catapult V2设计。

微软的数据中心驱动服务如Cortana和Skype Translator,并且该公司不断寻求升级服务器性能。微软也与英特尔一起使用以实现硅光子,其中光纤将取代铜线,以便在数据中心的服务器之间更快地通信。

CataPult v2扩展了FPGA的可用性,允许将它们连接到更大数量的计算资源。FPGA连接到DRAM,CPU和网络交换机。

FPGA可以加速本地应用程序,或者是大规模深度学习模型的处理资源。与Bing一样,FPGA可以参与评分结果和深度学习模型的培训。

新模型是原始弹射模型的大大改进,其中FPGA限于服务器内的较小网络。

CataPult V2设计可用于基于云的图像识别,自然语言处理和通常与机器学习相关联的其他任务。

CataPult V2还可以提供用于在机器学习装置中使用FPGA的蓝图。许多机器学习模型由GPU驱动,但FPGA的作用不太清晰。百度还在数据中心使用FPGA进行深度学习。

FPGA可以快速提供深度学习的结果,但如果没有正确编程,它们可以非常令人兴奋地振作。它们可以重新编程以执行特定的任务,但也使它们成为一维。GPU更灵活,可以处理多个计算,但FPGA可以在给定任务时更快。

许多大公司都对FPGA表示了兴趣。英特尔今年早些时候完成了167亿美元的Altera,FPGA供应商收购Altera。英特尔将在汽车,服务器,机器人,无人机和其他设备中放入Altera FPGA。

在Microsoft之外,用于机器学习的弹射器服务器安装在奥斯汀大学的德克萨斯高级计算中心。系统很小,带有32个双套接字英特尔Xeon服务器,它与64GB内存包装,以及Altera Stratix V D5 FPGA,具有自己的8GB DDR3内存缓存。


返回科技金融网首页 >>

版权及免责声明:凡本网所属版权作品,转载时须获得授权并注明来源“科技金融网”,违者本网将保留追究其相关法律责任的权力。凡转载文章,不代表本网观点和立场,如有侵权,请联系我们删除。


相关文章