英伟达:DeepSeekR1现正式上线英伟达NIM平台

新闻资讯
英伟达:DeepSeekR1现正式上线英伟达NIM平台

【英伟达:DeepSeek R1 现正式上线英伟达 NIM 平台】财联社 1 月 31 日电,据英伟达网站,DeepSeek R1 671b 已作为英伟达 NIM 微服务预览版在 build.nvidia.com 上发布。DeepSeek R1 NIM 微服务在单个英伟达 HGX H200 系统上每秒最多可处理 3872 个 token。开发人员可以对 API 进行测试和实验,预计该 API 不久将作为英伟达 AI Enterprise 软件平台的一部分,以可下载的 NIM 微服务形式推出。

喜欢的

也许您对下面的内容还感兴趣:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50