NVIDIA BlueField-4, 차세대 AI를 위한 AI 네이티브 스토리지 인프라 신규 클래스 지원

NVIDIA, AI 시대 위한 차세대 스토리지 솔루션 공개 NVIDIA가 CES에서 AI 네이티브 스토리지 인프라스트럭처인 'NVIDIA Inference Context Memory Storage Platform'을 발표했습니다. 이 플랫폼은 NVIDIA BlueField-4 데이터 프로세서를 기반으로 하며, 대규모 AI 추론 환경을 가속화하고 확장하는 데 초점을 맞추고 있습니다. 새로운 스토리지 프로세서 플랫폼은 특히 에이전트 기반 AI 시스템을 위해 설계되었습니다. 이러한 시스템은 방대한 양의 컨텍스트 데이터를 처리해야 하며, 이를 위해 빠르고 효율적인 장단기 메모리 기능이 필수적입니다. NVIDIA Inference Context Memory Storage Platform은 AI 에이전트의 장기 기억 능력을 확장하고, 여러 AI 시스템 클러스터 간에 컨텍스트를 고속으로 공유할 수 있도록 지원합니다. 이를 통해 초당 처리 토큰 수를 최대 5배까지 늘리고 전력 효율성을 크게 향상시킬 수 있습니다. 또한, NVIDIA Spectrum-X 이더넷 기술을 통해 멀티턴 AI 에이전트의 컨텍스트 메모리가 확장되어 응답성이 향상되고 GPU당 처리량이 증가하며, 에이전트 기반 추론의 효율적인 확장을 지원합니다. 젠슨 황 NVIDIA 창립자 겸 CEO는 "AI는 컴퓨팅 스택 전체를 혁신하고 있으며, 이제는 스토리지까지 변화시키고 있습니다"라며, "AI는 더 이상 단발성 챗봇이 아니라 물리적 세계를 이해하고, 장기적인 관점에서 추론하며, 사실에 기반하고, 도구를 사용하여 실제 작업을 수행하고, 단기 및 장기 기억을 모두 유지하는 지능형 협력자가 되고 있습니다. BlueField-4를 통해 NVIDIA와 우리의 소프트웨어 및 하드웨어 파트너들은 AI의 다음 프론티어를 위한 스토리지 스택을 재창조하고 있습니다"라고 말했습니다. NVIDIA Inference Context Memory Storage Platform은 키-값(KV) 캐시 용량을 증대시키고, 랙 규모 AI 시스템 클러스터 간 컨텍스트 공유를 가속화합니다. 또한, 멀티턴 AI 에이전트를 위한 지속적인 컨텍스트는 응답성을 개선하고 AI 팩토리 처리량을 증가시키며, 장기 컨텍스트 및 멀티 에이전트 추론의 효율적인 확장을 지원합니다. BlueField-4 기반 플랫폼의 주요 기능은 다음과 같습니다. - 장기 컨텍스트, 멀티턴 에이전트 추론에 필요한 규모와 효율성을 제공하는 클러스터 수준 KV 캐시 용량 - 기존 스토리지 대비 최대 5배 향상된 전력 효율성 - NVIDIA DOCA 프레임워크와 NVIDIA NIXL 라이브러리, NVIDIA Dynamo 소프트웨어와의 긴밀한 통합을 통해 초당 토큰 수를 극대화하고, 첫 토큰 응답 시간을 단축하며, 멀티턴 응답성을 개선하는 스마트하고 가속화된 KV 캐시 공유 - NVIDIA BlueField-4에 의해 관리되는 하드웨어 가속 KV 캐시 배치 기능으로 메타데이터 오버헤드를 제거하고 데이터 이동을 줄이며, GPU 노드로부터의 안전하고 격리된 액세스 보장 - 고성능 네트워크 패브릭 역할을 하는 NVIDIA Spectrum-X 이더넷을 통한 효율적인 데이터 공유 및 검색으로 RDMA 기반 AI 네이티브 KV 캐시 액세스 지원 AIC, Cloudian, DDN, Dell Technologies, HPE, Hitachi Vantara, IBM, Nutanix, Pure Storage, Supermicro, VAST Data, WEKA 등 스토리지 혁신 기업들이 BlueField-4를 활용한 차세대 AI 스토리지 플랫폼 구축에 참여하고 있습니다. 해당 솔루션은 2026년 하반기에 출시될 예정입니다.