NVIDIA需要聊天距离会话AI的一步

2022-05-31 10:46:13来源:

来自NVIDIA的新的人工智能(AI) - 从NVIDIA的演讲识别被配置为在Microsoft Bing中的语音助手搜索和新一代的聊天禁令。该技术可能导致聊天系统的开发,可以更像真正的人类。

NVIDIA声称新系统可以电源聊天,而不是现有的AI系统操作更现实。为实现这一目标,它表示新的NVIDIA平台已被优化以在庞大的数据集上运行查询。

根据NVIDIA的说法,聊天禁令,智能个人助理和搜索引擎非常困难,因为无法实时部署极大的AI模型,以人力级理解运行。为了克服这一限制,Nvidia表示,它向其AI平台增加了关键优化,它表示可以在超过两毫秒的时间内提供完整的AI推论。

“大型语言模型正在彻底改变AI的自然语言,”NVIDIA应用深度学习研究的副主席布莱恩卡坦佐罗说。“他们正在帮助我们解决异常困难的语言问题,让我们更接近真正对话AI的目标。”

Microsoft Bing的rangan Majumder,Group Program Manager表示:“与NVIDIA密切合作,Bing进一步优化了使用NVIDIA GPU的流行自然语言模型BERT的推理,其中一部分AIID AI基础设施,这导致了在去年在去年部署的排名搜索质量Bing的最大改进。

“与基于CPU的平台相比,我们通过Azure NVIDIA GPU实现了两倍的延迟减少和五次吞吐量改善,使Bing能够为全球所有客户提供更相关,具有成本效益,实时的搜索体验。 “

使用NVIDIA的T4 GPU运行其TensorRT库,新平台仅在Bert-Base Squad数据集中在Bert-Base Squad数据集中在NVIDIA表示的是许多实时应用的10毫秒处理阈值下的推断。


返回科技金融网首页 >>

版权及免责声明:凡本网所属版权作品,转载时须获得授权并注明来源“科技金融网”,违者本网将保留追究其相关法律责任的权力。凡转载文章,不代表本网观点和立场,如有侵权,请联系我们删除。


相关文章