• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • 數據中心/云端

    全球五大洲電信運營商正建立 NVIDIA 賦能的主權人工智能基礎設施

    AI 正在成為各行各業創新的基石,將創造力和生產力提升到新的水平,并從根本上重塑我們的生活和工作方式。AI 工廠是一種新型基礎設施,可大規模制造智能,并為許多人認為的下一次工業革命奠定基礎。

    AI 工廠代表著傳統云計算架構向專為 AI 工作負載設計和優化的加速計算基礎設施的重置。這種架構轉變為新參與者 (包括有時被稱為“新云”的專業 AI 工廠提供商) 創造了機會。這些參與者通過向研究人員、初創公司和企業提供高性能、以 GPU 為中心的 AI 云服務來訓練模型、微調和推理,從而取得了快速的成功。

    新云提供商的成功推動了 AI 的普及,將強大的新 LLM 和 AI 模型帶給數百萬人。它還表明,從醫療健康到汽車,各行各業對 AI 工廠的需求是前所未有的,而且服務水平低下。

    對 AI 工廠的巨大需求為電信服務提供商帶來了新的商機。麥肯錫最近的研究表明,到 2030 年,電信公司可以解決的全球 GPU 即服務 (GPUaaS) 市場規模可能在每年 350 億美元到 700 億美元之間。

    主權 AI 基礎設施:國家當務之急

    隨著人工智能成為經濟增長和創新的核心,各國日益認識到構建自己的主權 AI 基礎設施的戰略重要性。“計算鴻溝是新的數字鴻溝”這一概念與世界各地的技術領導者和決策者產生了強烈的共鳴。AI 超級計算系統現在被認為是關鍵的國家基礎設施,對于以下目標至關重要:

    • 使國內 AI 發展與國家優先事項保持一致
    • 創造新的高技能工作和經濟機會
    • 推動各行各業的生產力提升
    • 確保一個國家在全球 AI 經濟中的競爭力
    • 培育國家 AI 創新生態系統,包括初創公司、企業以及學術和研究機構
    • 在醫療健康、教育和連接等領域大規模提供高效的市民服務

    主權 AI 基礎設施使各國能夠根據其獨特的文化、道德和經濟重點來塑造 AI 發展,反映當地價值觀,并應對特定的區域挑戰。另一個關鍵驅動因素是在地理邊界內保留對本地數據的控制、處理和所有權,包括遵守當地安全政策和法規。

    電信公司:值得信賴的主權 AI 提供商

    隨著每個國家 地區都希望構建自己的 AI 基礎設施,電信公司已成為非常適合的提供商。這并非偶然,而是源于電信公司擁有的一些內在優勢:

    • 值得信賴的國家基礎設施:電信公司已成為安全合規的國家數字和連接基礎設施的支柱。他們與政府和企業建立了深厚的信任,成為托管敏感國家 AI 基礎設施的天然合作伙伴。
    • 訪問數據中心和光纖連接:電信公司已將大量數據中心設施作為其核心業務的一部分,從而在上市時間和成本效益方面占據優勢。電信公司可以利用現有的空間和電力資源,快速實現現有 AI 數據中心的現代化,而不是從零開始建造新設施 (這需要數年的時間和巨大的資本投資) 。這些數據中心已經通過高速光纖網絡 (另一種核心電信功能) 進行連接。
    • 在管理復雜系統方面的專業知識:電信公司在管理大規模任務關鍵型網絡方面的經驗很好地轉化為運營 AI 工廠,而運營 AI 工廠需要相似的規模、可靠性、安全性和性能水平。
    A black background with white logos of 18 global telcos that are building sovereign AI infrastructure with NVIDIA, including Cassava, Fastweb, FPT, Iliad/Scaleway, IOH, Reliance Jio, KDDI, Kazakhtelecom, Ooredoo, Singtel, SoftBank Corp., Swisscom, TELUS, Telconet, Telenor, Tata Communications, Viettel, and YTL.
    圖 1。至少有 18 家電信運營商在構建主權 AI 基礎設施。

    業界已認識到這些優勢,在過去 18 個月中,18 家電信公司推出了由 NVIDIA 提供支持的 AI 工廠。這不是一次性現象,而是一個大趨勢。今年,更多電信運營商正準備推出類似計劃,為傳統上以連接為重點的行業創造新的增長向量。

    電信公司構建的主權 AI 基礎設施示例

    由 NVIDIA 提供支持的 18 家電信公司主導的 AI 工廠現已遍布五大洲:北美、南美、歐洲、亞洲和非洲。

    • 在日本,SoftBank Corp. 和 KDDI 已宣布進行重大投資,以建立大規模 AI 數據中心,并與合作伙伴合作開發自主開發的日語大語言模型和企業 AI 解決方案。
    • 在東南亞,印尼的 Indosat Ooredoo Hutchison 建立了該國首個主權 AI 工廠,為企業提供公民服務、醫療健康應用和基于印尼語的開源 LLM。新加坡的新加坡電信推出了 RE:AI,這是新加坡首個主權 AI 工廠,將為整個地區的企業、政府機構、研究人員和學術界提供 AI 云服務。它旨在通過普及 AI 來支持新加坡的國家 AI 戰略 2.0。YTL AI Cloud 是一家由電信公司主導的主權 AI 工廠,支持馬來西亞實現數字經濟目標。FPT 已在越南和日本推出 AI 工廠,提供 NVIDIA GPU 加速計算平臺和 20 余款即用型 AI 應用,助力企業和初創公司加速主權 AI 的開發和采用。在印度,Tata Communications 正在為制造、醫療健康、零售和金融服務等行業提供 AI 云基礎設施。
    • 總部位于卡塔爾的 Ooredoo總部位于卡塔爾的 Ooredoo 正在中東和周邊國家 地區投資建設 AI 工廠。其目標是為阿爾及利亞、科威特、馬爾代夫、阿曼、突尼斯和卡塔爾的政府、企業和初創公司提供 GPUaaS 和本地化 AI 生態系統開發。
    • 在歐洲,Iliad Group 旗下子公司 Scaleway 通過高端 GPU 擴展了其在母國法國的 AI 云容量,以支持初創公司和企業。Telenor 在北歐推出了一個主權、安全和可持續的 AI 工廠,容納內部和外部租戶。從小型集群開始,Telenor 現在正準備擴展其新的數據中心。Swisscom 正在構建瑞士 AI 平臺,該平臺正在投資瑞士首個 NVIDIA SuperPOD。在意大利,Fastweb 推出了 NeXXt AI 工廠,為意大利 AI 模型提供支持,并為教育、金融和工業領域提供 AI 服務。
    • 在拉丁美洲,厄瓜多爾領先的電信運營商 Telconet 部署了一個 AI 工廠,通過 AI 改善城市安全,支持各種用途的實施,并將新一代 GPU 引入該地區。

    電信驅動的主權 AI 工廠的發展勢頭繼續增強,最近有幾項公告宣布將該運動引入北美、非洲和中亞。

    TELUS:加拿大旗艦主權 AI 工廠

    TELUS 已成為首家加入 NVIDIA 云合作伙伴計劃的北美服務提供商,旨在為加拿大帶來一個全面的主權 AI 工廠。該計劃將為加拿大企業、初創公司和研究人員提供先進的 AI 基礎設施,幫助他們開發更智能的 AI 產品、簡化運營并保持競爭力,同時維護數據主權。

    TELUS 的 AI 工廠將部署在其可持續數據中心,這些數據中心由 99% 的可再生能源提供動力支持,首個集群預計將于今年夏天在魁北克推出。通過與 NVIDIA 和 Hewlett Packard Enterprise 密切合作,TELUS 正在實施完全兼容的 NCP 參考架構和軟件堆棧,以確保最佳性能和安全性。

    Cassava Technologies:泛非 AI 基礎設施

    • 將 AI 用例融入非洲企業市場
    • 面向區域初創公司的初創加速計劃
    • 通過 NVIDIA 深度學習培訓中心 (DLI) 提升技能
    • 創建非洲 LLM,助力本地化服務
    • 開發用于應對農業、醫療健康、教育和移動支付領域區域挑戰的用例

    Kazakhtelecom:中亞的 AI 催化劑

    哈薩克斯坦啟動了一項廣泛的國家 AI 計劃,包括開發面向關鍵行業的國家 LLM 和 AI 應用。為了支持本地基礎設施的形成,Kazakhtelecom 正在啟動一個由 NVIDIA GPU 和 NVIDIA AI Enterprise 提供支持的商業 AI 工廠。它計劃在今年夏天推出。該平臺將作為云服務提供,確保全國公共機構、私營企業、初創公司和大學能夠使用安全的 AI 基礎設施。這將為航空公司、銀行、建筑、采礦以及石油和天然氣等關鍵行業提供先進的 AI 模型和應用。

    多樣化用途推動電信 AI 工廠發展

    隨著電信賦能 AI 工廠的成熟,出現了一些主要的用戶和用例類別。隨著規模的擴大,大多數提供商都會涵蓋以下幾個領域:

    用戶 推動需求的 AI 工作負載示例
    國家 開發能夠反映當地語言和文化背景的國家 LLM 醫療健康、農業和教育等關鍵部門的 AI 用例由 AI 提供支持的公民服務,簡化政府互動和司法流程支持學校、大學、科研機構和其他組織的 AI 教育支持 AI 創新沙盒、工具和
    企業 使企業能夠構建自己的特定模型將代理式 AI 和推理功能集成到企業工作流醫療健康、制造、金融服務和零售垂直行業是帶來各種 AI 工作負載的突出租戶
    模型創建者 創建新 AI 模型的初創公司開展基礎研究的公共或私營機構
    內部電信公司 * 客戶服務、網絡運營 (BSS/ OSS) 工作負載,由生成式 AI/ 代理式 AI 加速,例如數字人、現場運營 AI 智能體等。* 適用于員工使用、內部聊天機器人和企業 IT 工作負載的授權 LLM 集中式網絡工作負載

    在最初的產能建設結束后,由于需求不斷增長,許多電信 AI 工廠提供商已經開始投資擴展。這一成熟的增長向量促使許多電信公司創建專門的子公司或互補品牌,將其定位為 AI 服務提供商,以及作為連接提供商的關鍵作用。從首次對話到首次部署的過程通常在一年內完成,這反映了這些電信公司在利用 AI 機會方面的發展速度。他們大多數也是 NVIDIA Cloud 合作伙伴,從價值實現時間的角度提供獨特的優勢,而不僅僅是上市時間。

    NVIDIA NCP:電信 AI 工廠藍圖

    A stack diagram showing NVIDIA NCP reference architecture, including NVIDIA-certified systems, compute, network, storage, and software with electricity and data as inputs; and intelligence, tokens and business outcomes as outputs.
    圖 2。電信公司正在采用 NVIDIA NCP 參考架構來提供全棧 AI 基礎設施解決方案,為客戶和內部運營提供 AI 服務。

    這些由電信公司提供支持的 AI 工廠的核心是 NVIDIA 的云合作伙伴計劃,該計劃提供了一個全面的參考架構,其中包括:

    用于優化性能和效率的全棧技術平臺

    • NVIDIA AI Enterprise 軟件套件,提供企業級 AI 工具和框架
    • 預訓練模型、應用藍圖和 NIM 微服務,可訪問 900 多個 SDK 和 AI 模型,從而加速開發
    • 簡化大規模 AI 訓練和推理工作流
    • 適用于多租戶環境的全面安全功能

    NVIDIA 生態系統支持需求生成的強大功能

    • 大型合作伙伴生態系統,包括全球系統集成商、獨立軟件供應商、應用程序提供商和數據平臺
    • 覆蓋 250 個國家 地區的 600 萬開發者
    • 連接 27000 家 NVIDIA 初創加速計劃初創公司
    • 營銷支持,以提高知名度并提供進入市場的合作機會

    提升技能的教育和支持

    • NVIDIA DLI 培訓計劃助力培養國內 AI 人才
    • 面向不同利益相關者 (從學生到開發者) 的專門課程
    • 通過編程馬拉松激發本地創新

    這種全面的方法使電信公司能夠快速建立自己的 AI 云提供商地位,同時確保互操作性、性能和成本效益。

    下一步是什么:借助 AI 工廠進行縱向擴展,借助 AI-RAN 進行橫向擴展

    雖然 AI 工廠最初的重點主要集中在訓練大型模型上,但未來的兩個關鍵發展方向與電信提供商的戰略優勢一致:

    • 推理機會 – 隨著基礎模型的廣泛部署,對推理基礎設施的需求正在爆炸式增長。電信公司擁有分布式邊緣數據中心,非常適合創建更接近最終用戶的推理引擎,從而降低延遲并提高 AI 應用的性能。
    • RAN 與 AI 的融合 – AI-RAN 已成為無線網絡的下一次演進。它使 AI 和 5G 工作負載能夠在通用的加速計算基礎設施上運行,同時還能利用 AI 提高無線網絡的性能和效率。這意味著無線接入網現在可以成為 AI 推理中心。

    這為電信公司帶來了下一個巨大機遇,而這也是他們唯一有能力實現的目標 — — 在全國范圍內構建 AI 電網。AI 網格利用集中式 AI 工廠處理訓練和推理等計算密集型 AI 工作負載,同時利用分布式 AI-RAN 數據中心處理邊緣 AI 工作負載,包括推理。除了 NVIDIA Cloud Functions 等功能之外,NVIDIA 還為 AI 工廠和 AI-RAN 提供了一個連貫一致的參考架構,這是一種無服務器 API,可以在 AI 工廠和 AI – RAN 基礎設施中無縫編排供需。

    隨著對 AI 的空前需求,電信公司可以通過構建由 NVIDIA 提供支持的 AI 網格來保持領先地位,該網格可以縱向擴展和橫向擴展,使 AI 盡可能接近最終用戶。SoftBank Corp. 和 IOH 正在通過構建 AI 工廠和 AI-RAN,以及與 NVIDIA 和合作伙伴合作開發新的 AI 應用,開辟 AI 電網之路。他們正在共同構建 RAN-Ready AI 基礎設施,以在其國家 地區創建、分發和使用智能。

    通過利用 NVIDIA 的 NCP 參考架構和生態系統,電信提供商正在成為連接和 AI 服務提供商,創造一個良性循環。隨著國內 AI 應用的涌現,對 AI 基礎設施的需求也在增長,隨著基礎設施的擴展,越來越多的開發者和企業可以參與 AI 經濟。通過這一循環,電信公司不僅在構建數據中心,還在為包容性主權 AI 經濟奠定基礎,并在每個國家 地區的智能革命中起飛輪。

    探索 NVIDIA 加速的主權 AI 工廠,并向行業領導者了解更多信息:

    ?

    0

    標簽

    人人超碰97caoporen国产