AI ??? ?? ? ????? ??? ????, ?? ?? ??(LLM)?? ???? AI, ?? AI? ????? ? ??? ?? ??? ??? ???? ?? ??? ? ?? ??? ?????. ?? ??? ????? ??? ??? ???? ?? ???? ???.
NVIDIA? ?? ??? PCIe Gen6? ???? ???? ??? ???? ??? ??? ??? SuperNIC, NVIDIA ConnectX-8 SuperNIC? ?? ??? ??? ? ?? ? ????? ????. ?? AI ???? ?? ??? ConnectX-8? ??? ??? ??????? ? ?? ???? ????, ?? ??? ?? ???? ??????.
PCIe Gen6 ?? ??
PCIe ?? ???, ?? GPU? 8? ?? ??? ?????? GPU ? ?? ???? ????? ?? ??? GPU ??? ????? PCIe ???? ?????. ??? ?? ??? ??? PCIe ???? ??? ??? ?????, ??? ????? ??? ??? ????.
ConnectX-8? ?? ??? ???? ?? 48??? PCIe Gen6 ??? PCIe Gen6 ???? ??? ??????. ?? ?? GPU ?, ??? GPU? NIC ?? ??? ??? ??? ???? ??? ? ?? ??? PCIe ???? ???? ????. ??? ?? ?? ?? ?? ??? ????, AI ???? ? ??? ?? ????? ??? ?? ??? ??? ? ????.
??, ConnectX-8? PCIe Gen6? ???? ??? ??? GPU, CPU, I/O ???? ???? ??? ??? ??? ??? ? ????. ??? ??? ???? ?? ??? ??? PCIe Gen6 ??? ???? ??? ??? ? ?? ???? ?? ??? ? ????.
NVIDIA RTX PRO ??? ?? ?????? ???? ???
ConnectX-8 SuperNIC? ?? ?? ??? ?????, NVIDIA HGX B300? NVIDIA GB300 NVL72 ???? ???? ????. COMPUTEX 2025?? ??? ConnectX-8? ? ?? ??? ????? ???? NVIDIA RTX PRO ??? ???? ???, ?? 8?? NVIDIA RTX PRO 6000 Blackwell Server Edition GPU? ??? ? ????.
?? 1? ? ?? ?? ????? ?????. ??? ??? ??? PCIe ???? ???? ???? ????, ?? ??? PCIe Gen6 ???? ??? NVIDIA ConnectX-8 SuperNIC? ??? NVIDIA RTX PRO ??? ???? ?????.
?? ????? ?? ??? CPU ? ?, GPU ?? ?(NVIDIA L40 ?), NIC ?? ?? ?????. ? NIC? NVIDIA ConnectX-7 ? ?? NVIDIA BlueField-3 DPU ? ?? ????, GPU ? ? GPU? NIC ? ??? ?? ??? PCIe ??? ? ??? ? ?? ??? ?????. ?? ?? ??? ????? ?? ?? ?????.
?? ???? ??? ?? PCIe ??? ?? ConnectX-8 SuperNIC? ?????. ? ??? PCIe Gen6 ???? 800Gb/s ???? ??? ??? ???, ????? ?? ???? ????. ? ??? GPU ? ?? NIC ?? ????, NVIDIA RTX PRO 6000 Blackwell GPU? ?? 400Gb/s? ???? ???? ?????? ??? ???? ?? ????.
? ??? GPU? ???? ???? ? ?? ?? IO ??? ????, GPU, NIC, ?? ?? ? ??? ?? ??? ??????. ? ??, ? NVIDIA RTX PRO ?? ???? NCCL all-to-all ??? ?? ? ? ????, ?? GPU ? ?? ?? ??? ??? ?? ??? ? ??? ???? AI ??? ??? ???? ?? ?????.
?? 1? ????, ?? 2? ?? ????? ? ??? ???? ???? ??? ? ?? ?? GPU ?? ???? ???? ??? ?????? ?????.
1. ? CPU ??? ????? GPU ? ??: ?? ????? ? ???? CPU ? ??? ??? ?? ???? ?? 25GB/s ??? ???? ??? ????. ??, ???? CX8 ?? ????? NCCL? ?? ???? ????? ?? ????? ??? ???? ? ?? GPU ? ???? GPU? ?? 50GB/s? IO ???? ??? ? ????.
2. GPU? NIC ? ??: ???? ????? GPU? 2:1 ??? NIC? ???, ? GPU? 50GB/s? ???? ?????. ?? GPU? ??? ???? PCIe Gen5? Gen6? ???? ?????.
3. ??? PCIe ???? ?? GPU ? ??: PCIe Gen6? ??? ?????? Gen5 ?? ? ?? ???? ???, ??? PCIe ???? ?? GPU ? ??? ?? ??? ?? ?????.
PCIe ??? ??? SuperNIC? ?? ??? ConnectX-8? ?? ??? ???? ? ???, ?? ??? ???? ????? ? ?? ????. ? ??, ???? ? ?? ?? ????? ?? ????? ??????. NVIDIA? ???? ??? ???? ? ? ??? ??? ???? ??? ????? ? ??? ????, ?????(TCO)? ??? ? ? ??? ???.
PCIe ?? AI ???? ??
NVIDIA ConnectX-8? PCIe ?? ???? ???? ??? ???? ????. PCIe Gen6 ???? ??? SuperNIC? ??? ??? ??? ??????, ?? ??? ????? ?? ?? ???, ?? AI ??? ??? ???? ?? ??? ?????. ? ??, ???? ? ???? ?? ?????, ?????(TCO)? ????? ??? ?? ???? ?????.
??, ConnectX-8 SuperNIC? ?? GPU ?? ????? ?? ??? ??? ?? ??? ???.
COMPUTEX 2025??? ASRock Rack, ASUS, Compal, Foxconn, GIGABYTE, Inventec, MiTAC, MSI, Pegatron, QCT, Supermicro, Wistron, Wiwynn ? ?? ????? ????? ConnectX-8 SuperNIC? ??? NVIDIA RTX PRO ??? ?? ???? AI ??? ????? ???? ????. ??? ???? ??? ???? ??? ?? ?? ???, COMPUTEX 2025?? ???? NVIDIA ??? ? CEO ?? ?? ???? ?????.
NVIDIA Spectrum-X ????? ConnectX-8 SuperNIC? ?? ??? ????, ?? AI ???? ??? ?????? ? ?? ??? ‘NVIDIA SuperNIC? ??? ??? AI ????’ ??? ??? ???.
