Arm TechCon 2019: Arm Neoverse, AI 엣지에 더 가까워지다

Arm, 5G·AI·IoT 융합 시대 '엣지 컴퓨팅' 강화 나선다

Arm이 인공지능(AI), 5G 네트워크, 사물인터넷(IoT) 등 5세대 컴퓨팅 기술의 융합이 가속화되면서 발생하는 데이터 폭증과 새로운 데이터 소비 모델에 대응하기 위해 엣지 컴퓨팅 역량 강화에 집중하고 있습니다.

Arm은 현재 IoT가 초기 단계를 넘어 고성능 지능형 영상 센서부터 자율주행 기계까지 다양한 고성능 엔드포인트로 진화하고 있다고 설명했습니다. IoT의 성장으로 인한 글로벌 디지털 전환은 클라우드로 향하는 데이터의 양을 폭발적으로 증가시키고 있으며, 이는 기존의 다운스트림 분산에 최적화된 네트워크 인프라에 균열을 일으키고 있습니다. 이에 따라 전 세계 인터넷 인프라 전반에 걸쳐 컴퓨팅 분산의 필요성이 시급해졌으며, Arm Neoverse 컴퓨팅 솔루션에 대한 수요도 증가하고 있습니다.

Arm은 이러한 도전에 생태계 파트너들과 함께 대응하며, Neoverse가 달성할 수 있는 비전을 현실로 만들어가고 있다고 밝혔습니다.

AI, 클라우드를 넘어 엣지로 확산… 'Zeus' 플랫폼 기대

현재 대부분의 AI 연산은 대규모 데이터셋과 전용 컴퓨팅 자원이 집중된 클라우드에서 이루어지고 있습니다. 특히 머신러닝(ML) 모델 학습에 이러한 경향이 두드러집니다. 하지만 실제 의사결정이 필요한 시점 근처에서 모델을 적용하는 추론(inferencing) 단계에서는 클라우드 중심 AI 모델이 어려움을 겪습니다. 수천 마일을 이동해 데이터센터에서 모델 비교를 거친 데이터는 상당한 지연 시간을 발생시키며, 결과가 도착했을 때 이미 유용성을 잃을 수 있습니다.

이러한 문제를 해결하기 위해 Arm은 AI 연산을 클라우드에서 엣지로 분산해야 한다고 강조합니다. Arm과 생태계 파트너들은 클라우드 및 인프라를 위한 Arm Neoverse 플랫폼과 AI 가속 기술부터 모든 엔드포인트 요구사항을 충족하는 AI 기반 Arm CPU, NPU, GPU에 이르기까지 다양한 솔루션을 통해 인터넷의 모든 계층에서 AI를 구현할 수 있는 유리한 위치에 있다고 설명했습니다.

Arm은 여기에 만족하지 않고, 차세대 Armv8-A 아키텍처에 bfloat16 데이터 형식을 추가하여 AI 기반 CPU의 학습 및 추론 성능을 크게 향상시킬 예정입니다. 또한, 내년에 출시될 Neoverse 'Zeus' 플랫폼에도 bfloat16 지원을 통합할 계획입니다.

엣지 컴퓨팅에서의 AI 역할 확대 및 'AI Edge' 시장 전망

의사결정 수요가 엣지로 이동함에 따라 AI는 두 가지 중요한 역할을 수행하게 됩니다. 첫째, 데이터 내 정보를 기반으로 시기적절한 의사결정을 내리는 것입니다. 둘째, 대규모 데이터를 올바른 위치로 전달하는 데 필요한 트래픽 관리부터 패킷 검사까지 모든 과정을 지원하는 것입니다. 이는 기존 컴퓨팅 시스템으로는 처리하기 어려운 학습 및 추론 문제입니다.

전통적으로 인터넷의 경계에 위치했던 네트워크 브릿지가 지능형 컴퓨팅 플랫폼으로 빠르게 진화하면서, Arm은 이를 'AI Edge'라고 명명하고 2025년까지 300억 달러 규모의 컴퓨팅 실리콘 시장을 형성할 것으로 전망합니다.

엣지에서 AI를 수행하면 클라우드로의 백홀(backhaul) 트래픽이 크게 줄어들고, 지연 시간이 단축되며, 신뢰성, 효율성, 보안성이 향상되는 이점이 있습니다. 전 세계 기기 배포에서 얻은 인사이트를 바탕으로 모델이 실시간으로 진화해야 하는 시대에 이는 단순한 부가 기능이 아닌 필수 요소입니다.

'AI Edge' 구현의 핵심, Project Cassini

'AI Edge' 애플리케이션의 성공적인 배포를 위해서는 다양한 전력 및 성능 요구사항을 충족하는 솔루션 제공이 중요합니다. Arm은 단일 공급업체의 솔루션으로는 모든 요구를 충족할 수 없다고 보고 있습니다. 'AI Edge'는 AI 중심적일 뿐만 아니라 클라우드 네이티브, 가상화(VM 또는 컨테이너) 지원, 멀티테넌시(다중 사용자 지원)를 갖추어야 하며, 무엇보다 보안이 중요합니다.

현재 인프라 엣지를 구성하는 솔루션들은 매우 다양한 생태계에서 나오고 있으며, 이러한 새로운 요구에 빠르게 적응하고 있습니다. Arm은 이러한 'AI Edge' 전환을 지원하기 위해 다양한 엣지 생태계 전반에 걸쳐 클라우드 네이티브 경험을 보장하는 산업 이니셔티브인 Project Cassini를 발표했습니다.

Project Cassini는 생태계 파트너들과 협력하여 인프라 엣지를 대상으로 클라우드 네이티브 소프트웨어 스택을 표준화된 플랫폼 보안 아키텍처(PSA) 프레임워크 내에서 원활하게 배포할 수 있는 플랫폼 표준 및 참조 시스템을 개발할 것입니다. 이 PSA 프레임워크는 이제 인프라 엣지까지 확장됩니다.

특히 Project Cassini 내에서 Arm과 생태계 파트너들은 보안 강화에 집중하고 있습니다. Arm은 2년 전 제품 수준의 IoT 보안 구축에 드는 비용, 시간, 위험을 줄이기 위한 PSA를 발표했으며, Project Cassini는 이를 인프라 엣지로 확장하여 모든 근본적인 보안 요구사항을 표준화하는 것을 목표로 합니다.

1조 개의 IoT 기기 시대, Arm의 지속적인 투자

2035년까지 예상되는 1조 개의 IoT 기기는 전례 없는 규모의 인프라 및 아키텍처 과제를 제시합니다. Arm은 이러한 과제에 대응하기 위해 기술을 지속적으로 발전시켜 나갈 것입니다. 엣지 컴퓨팅 측면에서는 지능형 의사결정을 모든 인프라 스택 지점에서 지원하기 위한 하드웨어, 소프트웨어, 도구 개발에 계속해서 막대한 투자를 할 것입니다. 또한, 클라우드부터 엣지, 엔드포인트 장치에 이르기까지 프로세서 수준 및 네트워크 전반에 걸쳐 이기종 컴퓨팅(heterogeneous compute)을 활용할 것입니다.

Arm은 Arm Neoverse E1 및 Arm Neoverse N1 프로세서가 차세대 인프라를 위한 세계적 수준의 성능, 보안 및 확장성을 제공한다고 강조했습니다.