Inference

2023? 9? 12?

?? ?? ????? ??? ????? TensorRT-LLM???

??? ?? ??(LLM)? ???? ??? ??? AI? ??? ??? ????. ??? ? ??? ??? ?? ???? ?? ???? ????…
5 MIN READ
2023? 5? 17?

CV-CUDA? AI ?? ??? ??? ?? ??? ?? ? ?? ??

AI ?? ??? ??? ??? ??? ???? ?? ??????? ??? ???? ????. ??? ?? ???? ??? ??, ??? ??…
7 MIN READ
2023? 4? 28?

NVIDIA Faster Transformer? ?? KoGPT? ?? ???

?????? ??? ?? ??? ?? AI ?? ???? ? ???? ?? AI R&D? ??? ???? ????. ??? ??(NLP)? ??…
4 MIN READ
2023? 4? 19?

AI? ?? ??? ???? ?? MLPerf ?? v3.0?? ??? ?? ??

?? ?? ???? ??? ??????? ??? AI ??? ???? ??? ???? ? ???? ???, ?? ???? ??? ?? ??????…
9 MIN READ
2022? 8? 19?

Torch-TensorRT? ?? PyTorch?? ?? ?? ?? 6? ????

?? ? ?? ?? ??? ???? NVIDIA TensorRT? PyTorch? ??? ??? Torch-TensorRT? ?? ?????.
5 MIN READ
2022? 8? 5?

NVIDIA TensorRT? ?? ??? ?? ??? ???? INT8 ??? ?? FP32 ??? ??

? ??? ??? ?? ? ???? ???? ??? ???? ????. ??? ????? ??? ??? ?? ?? ??, ?? ? ???…
10 MIN READ
2022? 3? 25?

2022 GTC ??? ???: AI ?????, ?? ???, ?? ?

GTC 2022?? NVIDIA? ????? ??? ?? AI ??????? ????, ??? ?? ??? ?? ???? ???…
3 MIN READ
2022? 2? 3?

NVIDIA Riva? ???? ??? AI ?????? ????

???? ??? ???? “????? ?? ??”? ?? ??? ?? ???. ?? ?? ??? ??? “????? ?? ?? 29,032?????”…
3 MIN READ