Nemotron Labs: AI 에이전트가 문서를 실시간 비즈니스 인텔리전스로 전환하는 방법

NVIDIA, AI 기반 문서 처리 솔루션으로 기업 경쟁력 강화 NVIDIA가 최신 오픈 모델, 데이터셋, 훈련 기법을 활용하여 기업들이 전문화된 AI 시스템 및 애플리케이션을 구축하도록 지원하는 ‘Nemotron Labs’ 블로그 시리즈를 통해 기업들의 문서 처리 혁신을 선도하고 있습니다. 이번 시리즈는 투명한 연구 코파일럿부터 확장 가능한 AI 에이전트까지, 오픈 스택을 활용하여 실제 비즈니스 가치를 창출하는 실질적인 방안을 제시합니다. 오늘날 기업들은 보고서, 프레젠테이션, PDF, 웹 페이지, 스프레드시트 등 다양한 문서에 숨겨진 귀중한 인사이트를 발굴하는 데 어려움을 겪고 있습니다. 기존에는 수동으로 파일을 검토하고, 데이터를 스프레드시트로 복사하며, 대시보드를 구축하고, 중요한 세부 정보를 놓치기 쉬운 기본적인 검색 또는 템플릿 기반 OCR(광학 문자 인식) 도구를 사용하는 방식에 의존해왔습니다. 이러한 문제를 해결하기 위해 NVIDIA는 AI 기반 워크플로우인 ‘지능형 문서 처리(Intelligent Document Processing)’를 선보입니다. 이는 AI 에이전트와 RAG(검색 증강 생성)와 같은 기술을 활용하여 문서 내의 테이블, 차트, 이미지, 텍스트 등 풍부한 형식의 정보를 해석하고, 멀티모달 콘텐츠를 다른 멀티 에이전트 시스템이나 사람이 쉽게 활용할 수 있는 인사이트로 전환합니다. NVIDIA Nemotron 오픈 모델과 GPU 가속 라이브러리를 통해 기업들은 연구, 금융 서비스, 법률 워크플로우 등 다양한 분야에서 활용할 수 있는 AI 기반 문서 인텔리전스 시스템을 구축할 수 있습니다. 이러한 오픈 모델, 데이터셋, 훈련 레시피는 MTEB, MMTEB, ViDoRe V3와 같은 다국어 및 멀티모달 검색 모델 평가 벤치마크에서 우수한 성과를 거두었습니다. 이를 통해 팀들은 검색 및 질의응답과 같은 작업에 최적화된 모델을 선택할 수 있습니다. 문서 처리, 비즈니스 인텔리전스를 간소화하다 복잡한 레이아웃에서 의미를 추출하고, 방대한 파일 라이브러리에 맞춰 확장하며, 답변의 출처를 정확히 제시할 수 있는 문서 인텔리전스 시스템은 높은 수준의 정확성이 요구되는 환경에서 매우 유용합니다. 이러한 시스템은 다음과 같은 이점을 제공합니다. - 풍부한 문서 콘텐츠 이해: 단순한 텍스트 스크래핑을 넘어 차트, 테이블, 그림, 혼합 언어 페이지의 정보를 포착하고, 구조, 관계, 맥락을 인식하여 인간처럼 문서를 대합니다. - 대량의 변화하는 데이터 처리: 대규모 문서 컬렉션을 병렬로 수집 및 처리하고, 지식 기반을 지속적으로 최신 상태로 유지합니다. - 정확한 정보 검색: AI 에이전트가 쿼리에 가장 관련성이 높은 구절, 테이블 또는 단락을 정확히 찾아내어 정밀하고 정확한 답변을 제공하도록 돕습니다. - 답변의 근거 제시: 특정 페이지나 차트에 대한 인용을 제공하여 투명성과 감사 가능성을 높이며, 이는 규제가 엄격한 산업에서 매우 중요합니다. 결과적으로, 정적인 문서 아카이브에서 벗어나 비즈니스 인텔리전스, 고객 경험, 운영 워크플로우를 직접 지원하는 살아있는 지식 시스템으로 전환됩니다. 문서 인텔리전스의 실제 적용 사례 NVIDIA Nemotron RAG 모델, Nemotron Parse 및 가속 컴퓨팅을 기반으로 구축된 지능형 문서 처리 시스템은 이미 다양한 산업 분야에서 조직들이 문서에서 인사이트를 얻는 방식을 변화시키고 있습니다. Justt: AI 기반 차지백 관리 및 분쟁 최적화 금융 서비스 분야에서 결제 분쟁은 판매자에게 상당한 수익 손실과 운영 복잡성을 야기합니다. 이는 분쟁 처리에 필요한 증거가 주로 비정형화된 형식으로 존재하기 때문입니다. 거래 기록, 고객 커뮤니케이션, 정책 문서는 종종 시스템 전반에 걸쳐 파편화되어 있어 대규모로 처리하기 어렵고, 분쟁 처리를 느리고 수동적이며 비용이 많이 들게 만듭니다. Justt.ai는 차지백 라이프사이클 전반을 대규모로 자동화하는 AI 기반 플랫폼을 제공합니다. 이 플랫폼은 결제 서비스 제공업체 및 판매자 데이터 소스에 직접 연결하여 거래 데이터, 고객 상호 작용 및 정책을 수집한 후, 카드 네트워크 및 발급사 요구 사항에 맞는 분쟁별 증거를 자동으로 구성합니다. Nemotron Parse로 구동되는 플랫폼의 AI 기반 분쟁 최적화 기능은 예측 분석을 적용하여 어떤 차지백을 처리할지 또는 수락할지, 그리고 각 응답을 최대 순 회수율을 위해 어떻게 최적화할지를 결정합니다. HEI Hotels & Resorts와 같은 선도적인 호텔 운영업체는 이 플랫폼을 사용하여 모든 숙박 시설의 분쟁 처리를 자동화하고, 고객 관계를 유지하면서 수익을 회수하고 있습니다. 문서 중심 인텔리전스와 의사 결정 자동화를 결합함으로써 판매자는 불법적인 차지백으로 인한 상당한 수익 손실을 회수하는 동시에 수동 검토 노력을 줄일 수 있습니다. Docusign: 계약 인텔리전스 확장 Docusign은 지능형 계약 관리 분야의 글로벌 리더로서, 180만 명 이상의 고객과 10억 명 이상의 사용자를 위해 매일 수백만 건의 거래를 처리합니다. 계약은 모든 비즈니스의 기반이지만, 계약에 포함된 중요한 정보는 종종 수많은 문서 페이지 속에 묻혀 있습니다. 이 정보를 추출하기 위해 Docusign은 PDF와 같은 복잡한 문서에서 테이블, 텍스트 및 메타데이터를 고품질로 추출하여 조직이 의무, 위험 및 기회를 더 빠르게 이해하고 조치할 수 있도록 해야 했습니다. Docusign은 Nemotron Parse를 평가하여 대규모 계약에 대한 심층적인 이해를 높이고 있습니다. NVIDIA GPU에서 실행되는 이 모델은 고급 AI와 레이아웃 감지 및 OCR을 결합합니다. 이 시스템은 복잡한 테이블을 안정적으로 해석하고 필요한 정보가 포함된 테이블을 재구성할 수 있습니다. 이를 통해 수동 수정의 필요성이 줄어들고, 가장 복잡한 계약도 고객이 기대하는 속도와 정확성으로 처리될 수 있도록 보장합니다. 이러한 기반을 통해 Docusign은 계약 저장소를 구조화된 데이터로 전환하여 계약 검색, 분석 및 AI 기반 워크플로우를 지원함으로써, 계약을 조직과 팀이 가시성을 높이고 위험을 줄이며 더 빠른 의사 결정을 내리는 데 도움이 되는 비즈니스 자산으로 만들 것입니다. Edison Scientific: 방대한 문헌 규모의 연구 Edison Scientific의 Kosmos AI Scientist는 연구자들이 복잡한 과학 환경을 탐색하고, 문헌을 종합하며, 연결고리를 식별하고, 증거를 발굴하도록 돕습니다. Edison은 전통적인 정보 처리 방식이 종종 제대로 처리하지 못하는 방정식, 테이블 및 그림을 포함한 대량의 PDF에서 구조화된 정보를 빠르고 정확하게 추출할 방법을 필요로 했습니다. NVIDIA Nemotron Parse 모델을 PaperQA 파이프라인에 통합함으로써 Edison은 연구 논문을 분해하고, 핵심 개념을 색인화하며, 특정 구절에 기반한 응답을 생성하여 과학자들의 처리량과 답변 품질을 모두 향상시킬 수 있습니다. 이 접근 방식은 방대한 연구 자료를 가설 생성 및 문헌 검토를 가속화하는 대화형 쿼리 가능 지식 엔진으로 전환합니다. Nemotron Parse의 높은 효율성은 비용 효율적인 대규모 서비스 제공을 가능하게 하여, Edison 팀이 전체 멀티모달 파이프라인을 활용할 수 있도록 합니다. NVIDIA 기술로 지능형 문서 처리 애플리케이션 설계하기 강력하고 도메인 특화된 문서 인텔리전스 파이프라인은 데이터 추출, 임베딩 및 재순위 지정(reranking)을 처리하는 동시에 데이터를 안전하게 유지하고 규정을 준수하는 기술을 필요로 합니다. - 추출: Nemotron 추출 및 OCR 모델은 멀티모달 PDF, 텍스트, 테이블, 그래프 및 이미지를 신속하게 수집하여 레이아웃과 의미론을 보존하면서 구조화된 기계 판독 가능한 콘텐츠로 변환합니다. - 임베딩: Nemotron 임베딩 모델은 구절, 개체 및 시각적 요소를 문서 검색에 최적화된 벡터 표현으로 변환하여 의미론적으로 정확한 검색을 가능하게 합니다. - 재순위 지정: Nemotron 재순위 지정 모델은 후보 구절을 평가하여 가장 관련성 높은 콘텐츠가 대규모 언어 모델(LLM)의 컨텍스트로 제시되도록 보장하며, 답변 충실도를 높이고 환각(hallucinations)을 줄입니다. - 파싱: Nemotron Parse 모델은 문서 의미론을 해독하여 정확한 공간적 근거와 올바른 읽기 흐름으로 텍스트와 테이블을 추출합니다. 레이아웃 변동성을 극복하여 비정형 문서를 LLM 및 에이전트 워크플로우의 정확성을 향상시키는 실행 가능한 데이터로 전환합니다. 이러한 기능들은 NVIDIA NIM 마이크로서비스 및 파운데이션 모델로 패키징되어 NVIDIA GPU에서 효율적으로 실행되며, 팀들이 민감한 데이터를 선택한 클라우드 또는 데이터 센터 환경 내에 유지하면서 개념 증명(proof of concept)부터 프로덕션까지 확장할 수 있도록 합니다. 가장 효과적인 AI 시스템은 NVIDIA Nemotron과 같은 프론티어 모델과 오픈 소스 모델을 혼합하여 사용하며, LLM 라우터가 각 작업을 분석하고 이에 가장 적합한 모델을 자동으로 선택합니다. 이 접근 방식은 컴퓨팅 비용을 관리하고 효율성을 개선하면서 성능을 강력하게 유지합니다. NVIDIA Nemotron으로 시작하기 RAG 기능을 갖춘 문서 처리 파이프라인을 구축하는 방법에 대한 단계별 튜토리얼에 액세스할 수 있습니다. Nemotron RAG가 다양한 산업에 맞춰진 전문 에이전트를 어떻게 지원하는지 탐색해 보세요. 또한, GitHub 및 Hugging Face에서 사용 가능한 Nemotron RAG 모델과 NVIDIA NeMo Retriever 오픈 라이브러리, 그리고 Hugging Face의 Nemotron Parse를 실험해 보세요. 12개 이상의 업계 선도 AI 데이터 플랫폼 제공업체가 신뢰하는 NVIDIA Blueprint for Enterprise RAG를 통해 구축하는 개발자 커뮤니티에 참여하세요. build.nvidia.com, GitHub 및 NGC 카탈로그에서 지금 이용 가능합니다. 에이전트 AI, NVIDIA Nemotron 등에 대한 최신 정보를 얻으려면 NVIDIA AI 뉴스 구독, 커뮤니티 참여, LinkedIn, Instagram, X 및 Facebook에서 NVIDIA AI 팔로우를 통해 최신 정보를 받아보세요.