得益于能夠理解上下文和原因以生成高質量內容和高精度答案的突破性基礎模型的不斷涌現，生成式 AI 正在徹底改變各行各業的幾乎每個用例。
NVIDIA 不斷優化和發布社區、合作伙伴和 NVIDIA 構建的模型。本周發布的版本包含兩個系列，即 Phi-3 和 Granite Code，這兩個系列都是 NVIDIA AI 基礎模型 的一部分。
Phi-3 語言模型
Microsoft 的 Phi-3 系列包含專為在不影響計算效率的情況下實現最佳性能而設計的小型語言模型 (SLM).其強大的推理和邏輯能力使其成為內容生成、總結、問答和情感分析任務的理想選擇。
Phi-3 語言系列在 NVIDIA API 目錄 中包括以下內容：
- 請查看 Phi-3-medium 示例。
- Phi-3 – 小（具有 短 和 長 上下文）
- 請訪問 Phi-3-mini。
Phi-3 Vision 模型
Phi-3 系列還包括 Phi-3 Vision，這是一個 42 億的多模態模型，旨在處理和解釋文本和視覺數據。該模型支持高達 128000 個令牌，能夠理解和分析圖像中廣泛而復雜的視覺元素，如圖表、圖形和表格等。
Granite Code
Granite Code?由 IBM 發布的模型是一個開放式編程模型，旨在協助完成各種編碼任務。這些模型使用 116 種編程語言進行訓練，可以生成代碼示例、識別和修復錯誤，并為代碼段提供說明。
這些模型在編碼基準測試方面展示了先進的性能，并根據許可數據進行訓練，因此適合企業使用。
已針對性能進行優化
這些模型針對延遲和吞吐量進行了優化，借助 NVIDIA TensorRT-LLM。它們還加入了由 NVIDIA Omniverse 提供的 NVIDIA NIM 微服務，以簡化性能優化的部署和 NVIDIA AI 基礎模型 的自定義模型。通過 NIM，10 – 100 倍的企業應用開發者能夠更方便地為 AI 轉型做出貢獻。
NVIDIA 正在與領先的模型構建商合作，在完全加速的堆棧上為其模型提供支持。其中包括以下熱門模型：
- Meta Llama 3 70B
- Llama 3 8B
- 我們支持的模型包括 Gemma 2B。
- 我們提供了 Mixtral 8X22B 模型。
- 還有更多
開始使用
要在企業應用程序中體驗、自定義和部署這些模型，請參閱我們的 API 目錄，以獲取更多信息。
借助免費的 NVIDIA Cloud Credits，您可以開始大規模測試模型，并通過將應用程序連接到在完全加速堆棧上運行的 NVIDIA 托管 API 端點來構建概念驗證 (POC)。
?
