性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台

4个月前 27观看

1月31日消息,据英伟达官方网站消息,DeepSeek R1 671b版本已作为英伟达NIM(Nvidia Inference Microservices)微服务的预览版在build.nvidia.com平台上发布。1Se喜好网-记录每日喜好的科技时尚娱乐生活

这一微服务基于单个英伟达HGX H200系统,能够实现每秒处理多达3872个token的高效性能。1Se喜好网-记录每日喜好的科技时尚娱乐生活

开发人员现可对该API进行测试与实验,预计不久后,此API将以可下载的NIM微服务形式,正式成为英伟达AI Enterprise软件平台的一部分。1Se喜好网-记录每日喜好的科技时尚娱乐生活

NIM,即Nvidia Inference Microservices,是一种云原生微服务技术,旨在简化生成式AI模型在云端、数据中心及GPU加速工作站上的部署流程。1Se喜好网-记录每日喜好的科技时尚娱乐生活

DeepSeek R1是幻方量化旗下AI公司DeepSeek所发布的大型模型,其在数学、代码编写、自然语言推理等多项任务上展现出的性能,足以与OpenAI的o1模型相媲美。1Se喜好网-记录每日喜好的科技时尚娱乐生活

性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台1Se喜好网-记录每日喜好的科技时尚娱乐生活

本文链接:http://www.xihao.site/showinfo-1-67387.html性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗