據(jù)英偉達(dá)官方網(wǎng)站消息，DeepSeek R1 671b版本已作為英偉達(dá)NIM（Nvidia Inference Microservices）微服務(wù)的預(yù)覽版在build.nvidia.com平臺(tái)上發(fā)布。

這一微服務(wù)基于單個(gè)英偉達(dá)HGX H200系統(tǒng)，能夠?qū)崿F(xiàn)每秒處理多達(dá)3872個(gè)token的高效性能。

開發(fā)人員現(xiàn)可對(duì)該API進(jìn)行測(cè)試與實(shí)驗(yàn)，預(yù)計(jì)不久后，此API將以可下載的NIM微服務(wù)形式，正式成為英偉達(dá)AI Enterprise軟件平臺(tái)的一部分。

NIM，即Nvidia Inference Microservices，是一種云原生微服務(wù)技術(shù)，旨在簡(jiǎn)化生成式AI模型在云端、數(shù)據(jù)中心及GPU加速工作站上的部署流程。

DeepSeek R1是幻方量化旗下AI公司DeepSeek所發(fā)布的大型模型，其在數(shù)學(xué)、代碼編寫、自然語(yǔ)言推理等多項(xiàng)任務(wù)上展現(xiàn)出的性能，足以與OpenAI的o1模型相媲美。

關(guān)注公眾號(hào)：拾黑（shiheibook）了解更多

友情鏈接：

關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場(chǎng)：https://www.ijiandao.com/
安全、綠色軟件下載就上極速下載站：https://www.yaorank.com/