游客发表

性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台 对标达据英伟达官方网站消息

发帖时间:2025-02-22 15:00:52

快科技1月31日消息,对标达据英伟达官方网站消息,正式DeepSeek R1 671b版本已作为英伟达NIM(Nvidia Inference Microservices)微服务的上线预览版在build.nvidia.com平台上发布。

这一微服务基于单个英伟达HGX H200系统,英伟能够实现每秒处理多达3872个token的平台高效性能。

开发人员现可对该API进行测试与实验,对标达预计不久后,正式此API将以可下载的上线NIM微服务形式,正式成为英伟达AI Enterprise软件平台的英伟一部分。

NIM,平台即Nvidia Inference Microservices,对标达是正式一种云原生微服务技术,旨在简化生成式AI模型在云端、上线数据中心及GPU加速工作站上的英伟部署流程。

DeepSeek R1是平台幻方量化旗下AI公司DeepSeek所发布的大型模型,其在数学、代码编写、自然语言推理等多项任务上展现出的性能,足以与OpenAI的o1模型相媲美。

性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台

    热门排行

    友情链接