Kanika Atri – NVIDIA 技術博客

全球五大洲電信運營商正建立 NVIDIA 賦能的主權人工智能基礎設施

Fri, 30 May 2025 08:40:52 +0000

AI 正在成為各行各業創新的基石，將創造力和生產力提升到新的水平，并從根本上重塑我們的生活和工作方式。AI 工廠是一種新型基礎設施，可大規模制造智能，并為許多人認為的下一次工業革命奠定基礎。 AI 工廠代表著傳統云計算架構向專為 AI 工作負載設計和優化的加速計算基礎設施的重置。這種架構轉變為新參與者 (包括有時被稱為“新云”的專業 AI 工廠提供商) 創造了機會。這些參與者通過向研究人員、初創公司和企業提供高性能、以 GPU 為中心的 AI 云服務來訓練模型、微調和推理，從而取得了快速的成功。新云提供商的成功推動了 AI 的普及，將強大的新 LLM 和 AI 模型帶給數百萬人。它還表明，從醫療健康到汽車，各行各業對 AI 工廠的需求是前所未有的，而且服務水平低下。對 AI 工廠的巨大需求為電信服務提供商帶來了新的商機。麥肯錫最近的研究表明，到 2030 年，

Source

]]>

借助 NVIDIA ARC-Compact 在基站部署 AI-RAN

Sun, 18 May 2025 06:39:09 +0000

無線網絡是現代連接的支柱，通過全球數百萬個蜂窩基站為數十億 5G 用戶提供服務。AI-RAN 的機遇和優勢正在推動電信網絡和生態系統向 AI 原生無線網絡轉型。該公司的使命是創建一個智能網絡結構，連接智能手機、攝像頭、機器人和 AI 智能體等數千億 AI 賦能的端點。這需要將 AI 嵌入到無線電信號處理中，以實現 X 因子性能和效率提升，并加速基站以提供 AI 流量，使 AI 推理盡可能接近用戶。 AI-RAN 通過將當前基于 ASIC 的單用途 5G/RAN 純系統發展為多用途商用現成 (COTS) 系統，能夠在同一平臺上托管 AI 和 RAN 工作負載、適用于 RAN 算法的 AI 以及 AI-on-RAN 應用，使其成為可能。這一轉型有望為電信運營商帶來諸多好處，包括支持新的 AI 服務、創造新的收入、提高網絡利用率、頻譜效率、能效和性能。AI-RAN 通過 100%

Source

]]>

AI-RAN 上線，為電信公司帶來新的 AI 機遇

Tue, 12 Nov 2024 08:05:42 +0000

AI 正在以新的方式改變行業、企業和消費者體驗。生成式 AI 模型正在轉向推理，代理 AI 正在實現新的成果導向型工作流，而物理 AI 則使攝像頭、機器人、無人機和汽車等終端能夠實時做出決策并進行交互。所有這些用例的共同點是，需要普遍、可靠、安全和超快的連接。電信網絡必須為這種新型 AI 流量做好準備，此類流量可以直接通過前向回傳無線接入網，也可以從公有云或私有云作為由企業應用生成的完全獨立的 AI 推理流量進行回傳。本地無線基礎設施提供了處理 AI 推理的理想場所。這是一種新的電信網絡方法，即 AI-RAN 。基于傳統 CPU 或 ASIC 的 RAN 系統專為 RAN 使用而設計，目前無法處理 AI 流量。AI-RAN 支持基于 GPU 的共同基礎設施，可同時運行無線和 AI 工作負載，從而將網絡從單一用途的基礎設施轉變為多用途的基礎設施，

Source

]]>