ARM, DPUs: 전용 데이터 칩이 까다로운 작업을 처리

데이터 처리 장치(DPU), 또는 인프라 처리 장치(IPU)가 클라우드 컴퓨팅의 이면에 숨겨진 복잡하고 시간 민감한 보안 작업들을 처리하며 업계의 새로운 성장 동력으로 떠오르고 있습니다. 패킷 검사, 하이퍼바이저 관리와 같은 작업들은 영상 스트리밍이나 인공지능(AI) 알고리즘의 효율적인 작동을 위해 필수적입니다. 기존 서버 환경에서는 네트워크, 스토리지, 보안 관련 작업들이 서버 CPU 자원의 최대 30%까지 소모할 수 있었습니다. 하지만 이러한 작업에 최적화된 전용 프로세서, 즉 DPU를 사용하면 CPU는 핵심적인 컴퓨팅 작업에 집중할 수 있게 됩니다. 이는 결과적으로 총 소유 비용(TCO) 절감 효과로 이어집니다. 최근 DPU 시장에서는 주목할 만한 움직임들이 나타나고 있습니다. 지난 7월, Marvell Technologies는 Arm Neoverse N2 코어와 TSMC의 5나노미터 공정을 기반으로 한 OCTEON 10 DPU 제품군을 발표했습니다. 이 제품은 이전 세대 대비 3배의 성능 향상과 와트당 4배의 성능을 제공할 것으로 기대됩니다. Intel 역시 최근 마운트 에반스(Mount Evans)라는 코드명의 IPU를 공개했습니다. 이 IPU는 16개의 Arm Neoverse N1 프로세서와 기타 가속기들을 하나의 칩으로 통합한 것으로, 미국의 주요 클라우드 서비스 제공업체와 협력하여 개발되었습니다. (10월 27일 업데이트: Intel은 Google이 해당 클라우드 파트너임을 공식 발표했습니다.) Intel은 FPGA 기반의 IPU도 개발 중에 있습니다. NVIDIA는 자사의 멜라녹스(Mellanox) 기술과 16개의 Arm Cortex-A78 프로세서를 탑재한 Bluefield-3 DPU를 발표했으며, 이는 기존 프로세서 300개의 코어를 대체할 수 있는 성능을 자랑합니다. Bluefield-3 샘플은 2022년 1분기에 출시될 예정이며, 후속 모델인 Bluefield-4는 대역폭을 800Gbps로 두 배 확장할 계획입니다. 이러한 DPU의 중요성을 인지하고 VMWare, Dell, Pensando Systems, Palo Alto Networks, Canonical, Supermicro, NetApp 등 다수의 기업들이 DPU를 활용한 제품 출시 및 기술 개발에 박차를 가하고 있습니다. DPU와 IPU는 클라우드 네트워크의 제어 지점 역할을 수행하며, 보안 및 컴포저빌리티(composability) 측면에서 혁신적인 발전을 이끌고 있습니다. 특히, 시스템 보안의 핵심 요소로서 안전한 소프트웨어 부팅, 위협 탐지, 모든 네트워크 트래픽에 대한 심층 패킷 검사 등 클라우드 규모에서 필수적인 기능들을 효율적으로 수행할 수 있게 합니다. DPU와 유사한 시스템 개발은 약 10년 전부터 시작되었습니다. 2014년, Amazon Web Services(AWS)는 스토리지 작업 가속화를 위한 Arm 기반 칩 설계 스타트업인 Annapurna Labs와 협력하기 시작했습니다. AWS는 이듬해 Annapurna를 인수했고, 2017년에는 하이퍼바이저 관리, 가상 사설 클라우드, 탄력적 블록 스토리지, 고성능 네트워킹 등 광범위한 작업을 처리하는 Nitro System을 선보였습니다. Nitro System은 Nitro Cards, Nitro Security Chip, Nitro Hypervisor의 세 가지 주요 구성 요소로 이루어져 있습니다. 이후 Nitro System은 AWS의 현대적인 EC2 인스턴스, AWS Outposts, Mac 인스턴스 등 다양한 서비스의 기반이 되었습니다. AWS CTO인 Dr. Werner Vogels는 Nitro System이 고객 경험을 향상시킬 뿐만 아니라 AWS의 혁신 역량을 강화한다고 언급했습니다. Nitro System 출시 이후 AWS에서 제공되는 인스턴스 수는 4배 증가했습니다. 그는 "문제를 기회로 보느냐, 아니면 그대로 받아들이느냐에 따라 문제 해결 방식이 크게 달라질 수 있다. 우리는 기존 하이퍼바이저의 한계를 새로운 아키텍처를 창조할 기회로 삼았다"고 그의 블로그 'All Things Distributed'에서 밝혔습니다. "이제 Nitro System을 통해 고객들은 더 나은 성능, 강화된 보안, 그리고 더 폭넓은 인스턴스 유형을 선택할 수 있게 되었다. 우리는 여기서 멈추지 않을 것이다." DPU는 AWS Nitro와 같은 스마트NIC(SmartNIC) 및 FPGA의 진화된 형태로, 클라우드 운영에서 관리 작업을 오프로드하기 위해 통합되었습니다. DPU는 단순한 오프로드 장치가 아니라, 호스트 OS와 독립적으로 자체 운영체제(OS)를 부팅하고 자체 메모리와 스토리지를 관리하는 전용의 동등한 프로세서입니다. 또한, 프로그래밍 가능한 패킷 처리 기능(예: P4 언어 지원)과 더불어 보안 부팅, 고속 네트워킹, 저전력 고성능 범용 코어를 통합합니다. 이러한 작업들을 별도의 도메인으로 분리함으로써 성능 향상뿐만 아니라 클라우드 제공업체들이 수행할 수 있는 작업의 범위를 확장합니다. CPU를 CEO에 비유한다면, DPU는 COO에 해당합니다. 현재 DPU의 주요 소비자는 하이퍼스케일 클라우드 제공업체이지만, 이 기술은 향후 엔터프라이즈 데이터센터 및 고성능 컴퓨팅 연구소로도 확산될 것으로 예상됩니다. VMWare는 Project Monterey를 통해 ESXi 하이퍼바이저를 DPU로 이전하고 있으며, 이를 통해 특화된 하드웨어의 이점을 활용하여 향상된 가상화 서비스를 제공할 계획입니다. 이는 엔터프라이즈 및 통신 시장에서 클라우드 네이티브 소프트웨어의 채택을 가속화할 것입니다. Project Cassini와 Arm SystemReady는 개발자, 하드웨어 제조업체 및 고객들에게 스택 전반에 걸친 상호 운용성을 위한 원활한 경로를 제공합니다. DPU 기술은 앞으로 다른 시장과 사용 사례로도 점차 확대될 가능성이 높습니다. 고성능 로보틱스나 자율 주행과 같은 새로운 애플리케이션의 AI 및 머신러닝(ML), 보안 요구사항은 설계자들이 제품 설계에 특화된 데이터 처리 기술을 채택하도록 유도할 수 있습니다. 또한, 디바이스 아키텍처는 더욱 복잡해질 것입니다. 예를 들어, NVIDIA의 Bluefield-4는 초당 100경 회 연산(quadrillion operations per second)을 달성하기 위해 여러 개의 CPU와 GPU를 포함할 예정입니다. 향후 신경망 처리 장치(NPU)가 DPU의 일부로 통합될 가능성도 있습니다. 이 분야는 앞으로 면밀히 주시할 가치가 있습니다.