?? ?? ?? PDF ??? ????, ? ??? ???, ???, ??, ? ? ??? ??? ???? ??? ?? ???? ?????. ? ??? ???? ??? ?? ??? ? ?? ??? ??? ??? ? ????.
??? AI? ?? ?? ??(RAG)? ???? ???? ??? ???? ??? ??? ?? ??? ??? ??? ??? ? ?? ???? ????? ??? ? ????.
??? ?? ?????? ???? ??? ??? ???? ???? ???? ????? ???? ?? ??? ?? ???? ??? ??? ??? ??? ? ??? ??? ???. ???? ? ??? ????? ? ?? ?? ? ?? ????.
? ?????? ???? PDF ??? ?? Blueprint? NVIDIA NeMo Retriever? NVIDIA NIM ???????? ???? ??? ?? ?? ?? ?? ? ???? ??? ? ????.
??? ?? ??? ?? ??
PDF?? ??? ???? ??? ???? ??? ?????. ?? ??, PDF?? ??? ??? ???? ? ???? ???, ?, ??, ??, ?????? ???? ?? ? ????. ?? ??? ???? ? ? ??? ? ??? ??? ??? ?? ????.
??? ??? ???? ?? ?????? ???? ?? ??? ?? NVIDIA NIM ???????? ??? ? ????:
- PDF ?? NIM ???????
- nv-yolox-structured-image: PDF?? ??, ?? ? ?? ???? ?? ?? ??? ?? ?? ?????.
- ???(Deplot): ?? ??? ???? ?? ?????? ?? ?? pix2struct ?????.
- CACHED: ????? ??? ??? ???? ? ???? ?? ?? ?????.
- PaddleOCR: ?? ???? ???? ???? ?? ?? ??(OCR) ?????.
- NVIDIA NeMo Retriever NIM ???????
- nv-embedqa-e5-v5: ??? ??-?? ??? ???? ?? ???? ?? ??? ?????.
- nv-rerankqa-mistral4b-v3: ??? ?? ?? ??? ?? ??? ???? ?? ?? ??? ?? ???? ?? ?????.
??? ??? ???? ??-?? ??? ?? ??? ??? ?????.
PDF? RAG? ?? ???? Retrieval Blueprint
PDF? ?? ???? ?? ????? ???? ? ?? ?? ??? ????．
- ???? ???? ??? ??? ?????.
- ??? ??? ???? ?? ????? ?????.
???? ???? ??? ?? ??
?????? ?????? ??? ????? ???? ??? ??? ? ??? ???. ???? ?? ??? ?????:
?? PDF? ?? ???? ??(???, ???, ??, ?, ?? ? ?? ?????)? ?????. ???? ???? JSON?? ???? ???? ???? ???? ??? ? ???? ???? ??????.
???? ??? ??? ??? ?????? ?????. NIM ???? ???? ???? ????? ??? ???? ?????:
- nv-yolox-structured-image: PDF?? ??? ?? ?????.
- DePlot, CACHED, PaddleOCR: ???? ??? ?????. DePlot? ???? ???? CACHED? ???? ?? ??? ?? ?????? ?????.
- PaddleOCR: ?? ?? ??? ????? ??? ??? ??? ?????.
?????, ??? ??? ????? ???? VectorStore? ?????. ??? ??? ??? ??? ?? ???? ??? ??? ??? ?????. ?? ?? NIM ???????? ????? NeMo Retriever? ??? ????? ???? VectorStore? ?????.
??? ??? ???? ?? ???? ??
???? ??? ???? ??? ??? ??? ??????? ?? ??? ??????. ?? ??? ?? ???? ??????:
- NIM ???????? ????? NeMo Retriever? ??? ??? ?????, ? ??? VectorStore?? ?? ??? ??? ???? ?? ???? ?? ??? ???? ? ?????.
- NeMo Retriever ??? NIM ???????? ?? ???? ??? ??? ??? ???? ? ????? ??? ???? ???? ?? ??? ??? ??? ??? ??? ???.
- ?? ???? ?? ??? ???? LLM NIM ???????? ??? ???? ???? ??? ?? ??? ?????.
? ???????? ??? ???? ??? ???? ?? ??? ???? ???? ???? ??? ?? ??? ??????? ??? ?? ??? ????? ??? ??? ? ????.
?? ???? ??????? RAG ????? ??
NIM ???????? ???? ???? ?? RAG ?????? ??? ? ?? ? ?? ? ?? ??? ??? ??????.
???? ? ?? ?? ??? ????:
- ?? ??: NVIDIA NIM ???????? ???? ?? ?? ??? ?? ?? ????? ???? ?????? ?????? ???? ??? ?? ? ??? ??? ???? ?? ?????? ?? ??? ??? ? ??? ?????. NIM ???????? ?????? ?????, ??? ?? ?? ?? API ? Helm ??? ?? ?????.
- ?? ??: NIM? NVIDIA AI ?????? ?????? ?? ???? ???? ?? ??? ??????? ??? ???? ?? ? ?? ??? ????? ?????? ???? ???? ? ?? ??? ?????. ?? 2? ? ?? ? ?? ????? ????? ??? ???? ???? ??? ?????.
???, ??, ?? ??? ????? ?? ??? PDF ??? ??? ?? ???? PDF ?? ??? ??(NIM-On: nv-yolox-structured-image-v1, DePlot, CACHED, PaddleOCR, nv-embedqa-e5-v5, nv-rerankqa-mistral-4b-v3, ?? ?? ?? ??: 2xA100 GPU?? NIM-Off: NIM-Off).
???, ?? ? ?? ??? ????? ?? ??? PDF ??? ???? ??? ?? ???? PDF ?? ?? ??? ?, NIM-On: nv-yolox-structured-image-v1, DePlot, CACHED, PaddleOCR, nv-embedqa-e5-v5, nv-rerankqa-mistral-4b-v3? NIM-Off: ?? ?? ??? ????? CPU?? ???? ?? ??????.
NIM ???????? API ???, ?? ??, ?? ?? ? AI? ????? ???? ??? ?? ??????? ??????? ??? ??? ???? NVIDIA AI ?????? ????? ?????(?? 3).
?????? ????? ????? ??
??? ??? ???? ??? ??? ? ??? NVIDIA? Box, Cloudera, Cohesity, DataStax, Dropbox, Nexla? ??? ??? ? ???? ??? ???? ???? ????.
Cloudera
Cloudera? ?????? AI ?? ?? ???? Priyank Patel? “?? ?? ???? ???? Cloudera AI Inference ???? NVIDIA NIM ???????? ?????, ???? Cloudera?? ???? ????? ??? ?? ???? RAG ?? ??? ???? ??? ??? ???? ? ?? ??”? ?????.
“NVIDIA?? ??? ?? ??? ?????, ???? ? ?? ??? AI? ???? ?? ??? AI ??? ??? ??? ? ????.”
Cohesity
“AI ??????? ?? ?? ???? ???? ??? ????? ??? ?? ? ????? ??? ??? ?? ??? ????? ???? ???? ???.”?? Cohesity? ??? ? AI ?? CTO? Greg Statton? ????.
“NeMo Retriever ???? PDF ?????? ?? ??? ??? ?? ? ????? ??? AI ?????? ???? ??? ?? ???? ??? ???? ?? ?? ????? ??? ? ????. ? ?????? Cohesity Gaia? ?? ???? ??? ??? ??? ?? ??? ???? ?? ??? ??? ?? ??? ??? ? ????.”
Datastax
“AI ??????? ?? ?? ?? ????? ??? ????? ??? ?? ?? ? ??? ???? ??? ???? ???? ???.”?? Datastax? ?? ?? ???? Ed Anuff? ????.
“Datastax? NVIDIA? ???? ?? ???? ??? ??? ???? PDF? NeMo Retriever ??? ?? ?????? DataStax AstraDB ? DataStax ??????? ??????? ?? ??? ??? ??? ?? ?? ?? ??? ??? ? ??? ???? ????.”?? ?????.
Dropbox
“??? ??? ?? ?? ???? ???? ??? ???? ??? ???? ????? ?? ? ????.”?? Dropbox? ?? ???? Manik Singh? ????.
“Dropbox? ??? ??? ??? ????? ??? ? ??? ??? ??? AI ??? ???? ??? ???? ?? ???? NeMo Retriever ???? PDF ?? ?????? ???? ????.”
Nexla
“??? AI ??? ????? ????? ???? ?? ???? ? ?????. ??? ??? Nexla? ???/??? ?? ETL ???? NVIDIA NIM? ?????? ? ??? ??? ? ???, ?? ?? Sharepoint, SFTP, S3, ???? ????, Dropbox ? ?? ???? ??? ??? ?? ???? ????? ??? ? ?? ???? ????.”?? Nexla? CEO ? ?? ??? Saket Saurabh? ????.
“Nexla? ??? ??, ?? ??, ??, ?? ???? ??? ?? ?? ??? ?? ???? ? ???? ????? ?? ???? NIM? ???? ??? AI ???? ???? ? ??? ?? ????.”?? Saurabh? ????.
????
NVIDIA API ????? ??? ??? ?? ???? PDF ?? ?????? ??? ???. ?? ???? ???? ?? ?? ??, ?????? ??, ??? ?? Helm ??? ???? ? ????? Blueprint? ?? ?????.
? ?? ????? ?? RAG ??????? ????, ??? ?????, ??? ??? ?? ???? NVIDIA ? LlamaIndex ??? ????? ???? ? ?? ????? ?????.
?? ???
GTC ??: ???? ?? ??? ?? ?? ??? ???
GTC ??: ??? AI ??: ???? ??-?? ??? ?? ??? ?????? ???? ?? ??
NGC ????: NVIDIA ?? QA E5 ??? v5
NGC ????: NVIDIA ?? QA Mistral 7B ??? v2
NGC ????: Snowflake Arctic ???? ?? ???
SDK: NeMo Retriever
