H2O.ai, NVIDIA Nemotron 및 NVIDIA NIM 마이크로서비스를 엔터프라이즈 AI에 도입

H2O.ai, 엔비디아 기술 통합으로 기업 AI 솔루션 강화 H2O.ai가 엔비디아의 최신 AI 모델인 Nemotron과 NIM 마이크로서비스, 그리고 GPU 가속 기반의 NVIDIA AI Blueprints를 기업 및 정부 고객에게 제공하며 엔터프라이즈급 AI 배포를 확대하고 실제 적용 사례를 선보이고 있습니다. 이번 협력을 통해 H2O.ai는 NVIDIA AI Factory for Government 레퍼런스 디자인의 일부로 참여하며, AI 파일럿 프로젝트를 실제 운영 단계로 신속하고 안전하며 비용 효율적으로 전환할 수 있도록 지원합니다. 특히, H2O.ai는 NVIDIA GTC DC에서 공개된 NVIDIA AI Factory for Federal Government 백서에 핵심 파트너로 소개되며, 안전하고 주권적인 AI 배포 분야에서의 리더십을 강조했습니다. 이번 협력은 세 가지 주요 통합으로 이루어집니다. 첫째, 예측적 위험 분석을 위한 Flood Intelligence Blueprint를 출시합니다. 이 레퍼런스 디자인은 NVIDIA NeMo Agent Toolkit, 오픈 소스 NVIDIA Nemotron 모델, NVIDIA NIM 마이크로서비스, 그리고 H2O.ai의 h2oGPTe 및 H2O Driverless AI 플랫폼을 활용하여 실시간 홍수 위험 예측, 평가 및 완화를 지원합니다. 이 청사진은 NOAA, USGS, Open-Meteo 등 공신력 있는 날씨 및 수문 데이터를 멀티 에이전트 AI 시스템과 통합하여 정부, 유틸리티 기업, 보험사, 긴급 구조대 등이 극한 기상 현상에 대비하고 대응할 수 있도록 돕습니다. 이 Blueprint는 build.nvidia.com을 통해 제공되며, NVIDIA와 H2O.ai가 AI를 기후 복원력 및 공공 안전에 어떻게 적용하는지 보여줍니다. 둘째, NVIDIA NIM을 활용한 LLM Ops를 가속화합니다. H2O.ai는 NVIDIA NIM 마이크로서비스를 활용하여 LLM Ops를 가속화하고, 기업 AI 워크플로우 전반에 걸쳐 모델 온보딩, 테스트 및 확장을 간소화합니다. 성능 평가 결과, NVIDIA NIM은 오픈 소스 런타임에 비해 설정 시간, 운영 오버헤드 및 실행당 비용을 크게 절감하는 것으로 나타났습니다. NIM을 엔터프라이즈 AI 스택에 통합함으로써 H2O.ai는 조직이 대규모 생성 AI를 도입할 때 더 빠른 가치 실현과 인프라 복잡성 감소를 달성할 수 있도록 지원합니다. 셋째, h2oGPTe에 Llama Nemotron Super 1.5를 통합합니다. H2O.ai는 세계 최고 성능의 오픈 소스 추론 모델인 NVIDIA의 최신 Nemotron Super 추론 모델을 자사의 엔터프라이즈 h2oGPTe 플랫폼에 직접 통합했습니다. H2O.ai h2oGPTe는 또한 FedRAMP High 및 동등한 보안 표준을 충족하도록 설계되어, 연방 기관이 재난 대응, 인프라 복원력 및 기타 고영향 도메인을 지원하는 미션 크리티컬 환경 내에서 NVIDIA Nemotron 모델과 같은 멀티 LLM 생태계를 통합하고 운영할 수 있도록 합니다. NVIDIA AI Factory for Government 검증 설계는 표준화된 아키텍처, 최적화된 리소스 오케스트레이션 및 정책 기반 자동화를 통해 배포를 간소화하여 통합 복잡성을 줄이는 동시에 온프레미스 및 하이브리드 인프라 전반에 걸쳐 결정론적 성능, 보안 보증 및 운영 일관성을 보장합니다. 128,000 토큰 컨텍스트 창을 특징으로 하며 NVIDIA Hopper GPU에 최적화된 Nemotron은 고급 추론 정확도, 거버넌스 및 규정 준수를 갖춘 엔터프라이즈 코파일럿 및 멀티 스텝 AI 에이전트를 지원합니다. 이 통합은 고객 지원, 지식 관리, 의사 결정 인텔리전스 및 규제 운영과 같은 엔터프라이즈 워크플로우 전반에 걸쳐 즉각적인 가치를 제공하며, 대규모 엔터프라이즈급 추론에 대한 새로운 기준을 설정합니다. 이러한 통합은 미국 기관 전반에 걸쳐 신뢰할 수 있고 안전한 AI 채택을 가속화하기 위한 청사진인 NVIDIA AI Factory for Federal Government 백서에 H2O.ai가 포함된 것을 기반으로 합니다. 이 인정은 공공 부문 내에서 H2O.ai의 주권 AI 및 AI for Good 이니셔티브에 대한 기여를 강조합니다. H2O.ai의 창립자이자 CEO인 Sri Ambati는 "NVIDIA와의 협력은 기술을 넘어 신뢰, 속도, 영향력에 관한 것입니다. Nemotron 추론, NIM 마이크로서비스, 그리고 Flood Intelligence Blueprint를 결합함으로써 우리는 기업과 정부에 AI를 더 빠르게 배포하는 방법뿐만 아니라 책임감 있고 확장 가능하게 배포하는 방법을 보여주고 있습니다. NVIDIA AI Factory 레퍼런스 디자인의 일부로서, 우리는 산업과 사회 모두에 봉사하는 주권적이고 신뢰할 수 있는 AI의 기반을 구축하고 있습니다."라고 말했습니다. NVIDIA의 엔터프라이즈 소프트웨어 부사장인 John Fanelli는 "전 세계의 기업과 정부는 운영에 지능을 도입하고 생산성을 높이기 위해 AI 코파일럿 및 지능형 에이전트 채택에 박차를 가하고 있습니다. NVIDIA와 H2O.ai는 NVIDIA Nemotron 오픈 추론 모델의 성능과 NIM 마이크로서비스의 단순성을 h2oGPTe에 직접 제공함으로써 전 세계가 AI를 더 빠르게 배포할 수 있도록 지원하고 있습니다."라고 덧붙였습니다. Flood Intelligence Blueprint는 현재 build.nvidia.com에서 이용 가능합니다. Llama Nemotron Super 1.5 통합 및 NIM 기반 워크플로우는 엔터프라이즈 배포를 위해 h2oGPTe 플랫폼 내에서 이용 가능합니다. H2O.ai는 2025년 10월 27일부터 29일까지 NVIDIA GTC DC에서 이러한 통합을 선보일 예정이며, H2O.ai 부스(#259)에서 Flood Intelligence Blueprint의 라이브 시연도 포함됩니다. 2012년에 설립된 H2O.ai는 AI의 민주화를 목표로 합니다. 세계 최고의 에이전트 AI 기업으로서 H2O.ai는 생성 AI와 예측 AI를 융합하여 기업 및 공공 부문 기관이 자체 개인 데이터에 대해 목적별 GenAI 애플리케이션을 개발할 수 있도록 지원합니다. 주권 AI(안전하고 규정을 준수하며 인프라 유연성이 뛰어난 배포)에 중점을 둔 H2O.ai는 데이터 개인 정보 보호 및 제어에 대한 최고 표준에 부합하는 솔루션을 제공합니다. H2O.ai의 오픈 소스 기술은 Fortune 500대 기업의 절반 이상을 포함하여 전 세계 20,000개 이상의 조직에서 신뢰하고 있습니다. H2O.ai는 AT&T, Commonwealth Bank of Australia, Singtel, Chipotle, Workday, Progressive Insurance, NIH와 같은 회사의 AI 혁신을 지원합니다. H2O.ai의 파트너에는 NVIDIA, Dell Technologies, Deloitte, Ernst & Young (EY), Snowflake, AWS, Google Cloud Platform (GCP), VAST Data 및 MinIO가 있습니다. H2O.ai의 AI for Good 프로그램은 비영리 단체, 재단 및 커뮤니티가 교육, 의료 및 환경 보존을 발전시키는 것을 지원합니다. 전 세계 2백만 명의 데이터 과학자로 구성된 활기찬 커뮤니티를 통해 H2O.ai는 모든 사용자를 위한 가치 있는 AI 애플리케이션을 공동으로 만드는 것을 목표로 합니다. H2O.ai는 Commonwealth Bank, NVIDIA, Goldman Sachs, Wells Fargo, Capital One, Nexus Ventures 및 New York Life를 포함한 투자자로부터 2억 5,600만 달러를 유치했습니다.