ARM, 특수 처리(Specialized Processing)에 대한 여덟 가지 질문(과 답변)

ARM, 반도체 미래 '특화 프로세싱'으로 열다 [서울=뉴스핌] 김태훈 기자 = 반도체 업계의 미래는 '특화 프로세싱(Specialized Processing)'에 달려 있다는 분석이 나왔습니다. 이는 시스템 설계 및 소프트웨어 개발 전반에 걸쳐 성능 향상을 이끌 핵심 동력으로 주목받고 있습니다. 특화 프로세싱은 '이종 컴퓨팅(Heterogeneous Computing)'이라고도 불리며, 다양한 종류의 프로세서 코어를 창의적으로 조합해 성능을 극대화하는 개념입니다. 예를 들어, 고성능 CPU와 효율성을 높인 CPU를 하나의 시스템온칩(SoC)에 통합하여 성능 대비 전력 효율을 최적화하는 방식입니다. 더 나아가 데이터센터 설계 패러다임을 CPU 중심에서 CPU, DPU, FPGA, GPU 등 다양한 프로세서의 혼합 중심으로 전환하는 것을 의미하기도 합니다. 이러한 특화 프로세싱의 가장 큰 이점은 전반적인 성능 향상과 함께 애플리케이션별 맞춤형 성능을 제공한다는 점입니다. 전통적인 서버 CPU도 AI 학습이 가능하지만, 병렬 처리에 강점을 가진 GPU가 해당 작업에 더 적합합니다. 마찬가지로 데이터 처리 장치(DPU)는 네트워킹, 스토리지, 보안 작업을 CPU보다 훨씬 효율적으로 처리할 수 있습니다. 실제로 NVIDIA의 Bluefield-3 DPU 하나는 이러한 작업에서 최대 300개의 전통적인 CPU 코어와 동일한 성능을 발휘할 수 있습니다. 이는 클라우드 제공업체에게 상당한 비용 절감 효과를 가져다줍니다. DPU로 전환하면 CPU 코어를 확보하여 수익 창출이 가능한 다른 작업에 할당할 수 있습니다. 또한, 더 적은 에너지와 랙 공간으로 더 많은 작업을 처리할 수 있어 운영 비용을 절감할 수 있습니다. 이는 곧 고객에게 탄소 배출량 및 비용 절감이라는 지속가능성 목표 달성을 지원하며, 장기적인 상업적 관계를 강화하는 데 기여합니다. 특화 프로세싱은 엣지 컴퓨팅에서도 필수적입니다. 엣지 디바이스는 기존 데이터센터 서버나 데스크톱 PC와 달리 높은 수준의 견고성이 요구됩니다. 콘텐츠 제공업체는 엣지 서버를 도심 곳곳에 설치하여 대역폭과 에너지 소비를 줄이고 영화 스트리밍과 같은 데이터 집약적인 작업을 개선할 수 있습니다. 이러한 경제적 모델이 성공하기 위해서는 엣지 서버가 낮은 발열, 작은 공간 차지, 그리고 최소한의 인적 개입으로 운영되어야 합니다. 5G 통신에서도 특화 프로세싱의 역할은 중요합니다. 5G 무선 장치에서 수행되는 빔포밍과 같은 레이어 1 기능은 향후 5년 내에 현재 대비 150배의 처리 능력 향상을 요구할 것으로 예상됩니다. 하지만 이는 기존의 5와트(W) 전력 제약 안에서 이루어져야 합니다. 전통적인 설계 방식으로는 이러한 성능 향상을 제약 조건 내에서 달성하기 어렵습니다. 5G 시대에는 수십 개의 무선 장치를 관리하는 멀티코어 서버급 장치가 보편화될 것입니다. 특화 프로세싱은 선택이 아닌 필수입니다. 데이터센터의 전력 소비량은 2000년부터 2005년까지 약 90% 증가했습니다. 이에 따라 데이터센터 운영자들은 폐열을 관리하고 냉각 부하를 줄이기 위한 다양한 방법을 모색했습니다. 가상화와 워크로드 통합은 전력 사용 효율성을 높이는 데 기여했으며, 무어의 법칙은 합리적인 전력 범위 내에서 성능을 지속적으로 향상시켰습니다. 2010년부터 2020년까지 데이터센터 워크로드와 IP 트래픽은 각각 8배, 12배 증가했지만, 전력 소비량은 6% 증가에 그쳤습니다. 이는 넷플릭스, 페이스북, 세일즈포스, 틱톡, AWS와 같은 거대 기업들이 성장하는 동안 전력 소비량은 거의 증가하지 않았음을 의미합니다. 특화 프로세싱의 역사는 오래되었습니다. PC 초창기에는 수학 보조 프로세서가 활발히 사용되었으나 CPU에 통합되었습니다. 오늘날의 특화 프로세싱은 2006년에 본격적으로 시작되었다고 볼 수 있습니다. 당시 정수 및 부동 소수점 연산 벤치마크의 연간 성능 향상률은 각각 17%와 25%로 둔화되었고, 데나드 스케일링도 한계에 도달했습니다. 이러한 상황에서 NVIDIA는 2006년 8월 고성능 컴퓨팅을 겨냥한 첫 그래픽 카드인 GeForce 8800을 출시했습니다. 당시 서버에 GPU를 탑재하는 것은 새로운 개념이었지만, 곧 GPU 기반 슈퍼컴퓨터들이 Top500 목록 상위권을 차지했습니다. 현재 Top500 목록의 약 3분의 2가 GPU를 활용하고 있습니다. 이러한 특화 개념은 다른 시장으로도 확산되었습니다. 모바일 GPU 선두 주자였던 Falanx는 2006년 ARM에 인수되었고, ARM은 2007년 2월 첫 Mali GPU를 출시했습니다. 2011년에는 고성능 코어와 에너지 효율 코어를 결합하여 최적의 성능 균형을 이루는 big.LITTLE 기술을 선보였습니다. 이 기술은 현재 소비자 기기에서 가장 널리 사용되는 이종 처리 아키텍처가 되었습니다. 또한, 2011년에는 서버 CPU인 Graviton 개발에 핵심적인 역할을 한 Annapurna Labs가 설립되었습니다. 특화 프로세싱으로의 전환이 비용 부담이 될 수 있다는 우려도 있습니다. 범용 프로세서는 설계 및 제조 비용을 광범위하게 분산할 수 있다는 장점이 있습니다. 하지만 단위 비용당 성능 향상률은 지속적으로 감소하고 있습니다. 이는 PC 및 스마트폰 교체 주기 연장으로 이어져 시장 성장 둔화를 야기할 수 있습니다. 이러한 특화 프로세싱은 자동차, 사물인터넷(IoT) 등 모든 시장에서 활용될 것이며, 새로운 제품 카테고리에서도 등장할 것입니다. 컴퓨팅 스토리지(Computational Storage)는 이미지 인식과 같은 작업을 데이터가 저장된 곳에 더 가깝게 수행하기 위해 소형, 고효율 프로세서를 SSD에 직접 통합하는 기술입니다. 이는 성능 향상뿐만 아니라 전력 소비를 획기적으로 줄일 수 있습니다. 일부 추정에 따르면 시스템 전력 소비의 62%가 데이터를 저장 장치에서 메모리, CPU로 이동시키고 다시 되돌리는 과정에서 발생합니다. 컴퓨팅 스토리지는 이러한 데이터 이동 거리를 단축시킵니다. 미래에는 스티브 퍼버(Steve Furber)가 개발 중인 1000만 개의 ARM CPU를 포함하는 단일 칩 SpiNNaker와 같이, 가장 어려운 AI 작업을 위한 이벤트 기반 처리 개념을 활용하는 칩이 등장할 수 있습니다. 또한, FPGA와 유사한 기술이 프로세서에 통합되어 기기 제조업체가 원격으로 하드웨어 업그레이드를 수행할 수 있게 될 수도 있습니다. ARM의 'Total Compute' 전략은 반도체 설계자, OEM, 개발자가 최대한의 성능을 끌어낼 수 있도록 지원하는 총체적인 시스템 기반 접근 방식입니다.