William Hill – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Tue, 04 Jun 2024 03:12:27 +0000
zh-CN
hourly
1
196178272 -
借助由 NVIDIA RTX GPU 優化的 Firebase Genkit 強效助力生成式 AI 開發
http://www.open-lab.net/zh-cn/blog/supercharge-generative-ai-development-with-firebase-genkit-optimized-by-nvidia-rtx-gpus/
Mon, 20 May 2024 05:03:14 +0000
http://www.open-lab.net/zh-cn/blog/?p=10110
Continued]]>
在 Google I/O 2024 大會上，Google 宣布了 Firebase Genkit，這是一個新的開源框架，旨在供開發者使用諸如 Google Gemini 和 Google Gemma 等技術。借助 Firebase Genkit，您可以構建集成智能代理、自動化客戶支持、使用語義搜索的應用，并將非結構化數據轉換為見解。此外，Genkit 還包含開發者 UI，使您能夠在本地開發者環境中對 AI 功能進行原型設計、開發和測試。 Google 與 NVIDIA 合作，共同優化 Google Gemma 模型的推理性能。此外，NVIDIA RTX 專業 GPU 和NVIDIA GeForce RTX GPU 也可以提高推理性能，從而提高開發者的工作效率，使您的解決方案更加流暢。 借助 Firebase Genkit，您可以通過在 NVIDIA GPU 上本地運行…
Source
]]>
10110
-
NVIDIA TensorRT 10.0 升級可用性、性能和 AI 模型支持
http://www.open-lab.net/zh-cn/blog/nvidia-tensorrt-10-0-upgrades-usability-performance-and-ai-model-support/
Tue, 14 May 2024 07:01:41 +0000
http://www.open-lab.net/zh-cn/blog/?p=10008
Continued]]>
NVIDIA 今天宣布最新發布的 NVIDIA TensorRT，一個用于高性能深度學習推理的 API 生態系統。該系統包括推理運行時和模型優化兩大組件，為生產應用程序提供低延遲和高吞吐量的優化解決方案。 這篇文章概述了此版本的關鍵功能和升級，包括更容易的安裝、更高的可用性、改進的性能以及更多本地支持的人工智能模型。 得益于更新的 Debian 和 RPM 元包，使用 TensorRT 10.0 變得更加容易上手。例如，使用或命令便可為 C++ 或 Python 安裝所有相關的 TensorRT 庫。 此外，Debug Tensors 是一個新添加的 API，用于在構建時將張量標記為調試張量。這樣可以更容易地識別圖形中出現的任何問題。在運行時，每次寫入張量的值時，都會使用值、類型和維度調用一個用戶定義的回調函數。 TensorRT 10.0…
Source
]]>
10008
人人超碰97caoporen国产