人工智能正在影響著每一個行業，從改善客戶服務和簡化供應鏈到加速癌癥研究。當企業投資人工智能以保持領先于競爭時，他們往往難以找到成功的戰略和基礎設施。許多人工智能項目正在快速發展，這使得大規模生產尤其具有挑戰性。
我們相信開發規模化的產品級 AI 。
首先考慮 MLOps
MLOps 是人工智能賦能工具和一套最佳實踐的組合，用于從培訓到部署的自動化、精簡、擴展和監控 ML 模型。
開發高效 MLOps 平臺的最佳實踐
理想的 MLOps 平臺是一個全面的解決方案，它支持整個機器學習生命周期，從數據準備和模型開發到模型部署和監控。它應該提供工具和技術的無縫集成，使組織能夠輕松地構建、部署和管理機器學習模型。
開發大規模人工智能開發和部署的 MLOps 平臺涉及幾個關鍵步驟：
- 確定目標。
- 識別工具和技術。
- 建立模型開發工作流。
- 自動化管道。
- 監控和管理模型。
- 實施安全和治理。
- 測試并完善平臺。
- 持續監控生產中模型的性能和準確性。
確定目標
明確定義您希望通過 MLOps 平臺實現的目標。這可能包括改進模型開發工作流、確保模型質量、自動化模型部署和管理，或者這些的組合。
確定工具和技術
確定要用于 MLOps 管道不同階段的工具和技術：版本控制、持續集成、持續交付和監控。
建立模型開發工作流
定義模型開發過程，并創建一個集成了所選工具和技術的工作流。模型開發工作流包括數據預處理、模型訓練、測試和驗證等階段。
自動化管道
使用 Jenkins 、 Travis CI 或 CircleCI 等工具自動化模型開發流程，可以更容易地復制模型開發過程，減少部署模型所需的時間和工作量，并有助于確保一致性和質量。
監控和管理模型
為您的模型實施一個監控和管理系統，包括模型性能的日志記錄和監控、模型工件的版本控制，以及用于推出和更新模型的系統。
實施安全和治理
實施安全措施，確保敏感數據得到保護，并根據法規和政策開發、部署和管理模型。
測試和完善平臺
測試 MLOps 平臺，以確保其按預期工作，并根據用戶的反饋進行改進。持續監控和評估平臺，以確保其繼續滿足組織的需求。
持續監控生產中模型的性能和準確性
持續監控和評估生產中模型的性能和準確性，以改進模型開發過程和 MLOps 平臺。
真正的 MLOps
有了真正的 MLOps 平臺，企業就有了簡化人工智能開發到大規模部署的基礎。
對于任何企業或組織而言，一個完整、集成的 MLOps 平臺都應使作為數據科學家、 ML 工程師、 DevOps 、 AI 從業者、產品經理、法規遵從性、安全性等角色的各種角色能夠高效協作。
大規模加速 MLOps
盡管對端到端 MLOps 平臺的好處很多，需求也越來越大，但大規模部署 MLOps 仍面臨挑戰。 MLOps 生態系統是一個不斷發展的細分市場，由多個獨立的軟件供應商組成，構建自己的 MLOps 基礎設施可能會讓人望而生畏。
NVIDIA 和 MLOps
NVIDIA 與領先的 MLOps 解決方案提供商合作，通過認證和與 NVIDIA AI 解決方案的集成，簡化加速 AI 的開發和部署。
NVIDIA 針對 MLOps 的加速計算解決方案包括 NVIDIA DGX systems ，一個專門構建的人工智能基礎設施組合，以及 NVIDIA AI Enterprise ，端到端、安全、云原生的人工智能軟件套件，為每個組織優化、驗證和支持，以在人工智能方面表現出色，以及一個廣泛的全棧軟件庫，包括人工智能解決方案工作流、框架、預訓練模型、，以及基礎設施優化。
在 GTC 2023 ，了解 NVIDIA 如何與領先的 MLOps 解決方案提供商合作，以確保 NVIDIA AI 平臺加速的可靠、高性能端到端 AI 解決方案。
How to Develop AI Workflows and MLOps Infrastructure at Scale
在本次會議中，一個專家小組討論了快速構建 AI 支持的應用程序、各自的工作流和全棧 MLOps 基礎設施的基礎知識。
- Manish Harsh ，全球 DevRel ， MLOps 集成和合作伙伴， NVIDIA
- Yaron Haviv ， Iguazio 聯合創始人兼首席技術官
- Aparna Dhinakaran ， Arize AI 聯合創始人兼首席產品官
- Shelbee Eigenbrode ， Amazon Web 服務（ AWS ）首席 ML 專家解決方案架構師
- Tina Naro ， ClearML 產品營銷總監
?
