ARM, SiMa.ai, 고성능 저전력 엔드포인트 AI 목표 설정

ARM, 엣지 AI 기기 성능 혁신 이끈다…MLSoC 플랫폼으로 미래 AI 워크로드 대비 ARM은 수년에서 수십 년까지 이어질 수 있는 엣지 AI 기기의 수명 주기를 고려할 때, 미래의 더욱 복잡하고 까다로운 머신러닝(ML) 알고리즘을 처리할 수 있는 능력이 중요하다고 강조했습니다. 현재 대부분의 엣지 AI 기기는 와트당 약 4~5 테라 연산(TOPs) 성능을 제공하지만, 이는 클라우드 수준의 AI 컴퓨팅 성능과는 비교할 수 없는 수준입니다. SiMa.ai는 이러한 성능 격차를 줄이고 엣지 AI의 성능 기준을 재정의하겠다는 목표로 시작했습니다. 클라우드와 유사한 성능을 엣지 AI 기기에서 구현하기 위해서는 전력 소비를 획기적으로 줄이거나, 와트당 TOPs 성능을 대폭 향상시켜야 합니다. 이러한 목표를 달성하기 위해 SiMa.ai는 와트당 10 TOPs를 목표로 하는 MLSoC™(Machine Learning System on Chip) 플랫폼을 개발했습니다. 5와트의 내장 전력으로 최대 50 TOPs의 ML 가속 성능을 구현할 수 있으며, 이는 기존에 클라우드 성능을 요구했던 AI 워크로드를 패시브 냉각 방식의 엣지 AI 기기에서 처리할 수 있게 합니다. SiMa.ai의 MLSoC는 고객이 과거에 생성한 워크로드뿐만 아니라 아직 식별되지 않은 미래의 워크로드까지 처리할 수 있도록 설계되었습니다. 데이터센터와 달리 엣지 AI 기기는 실리콘에 새겨지는 순간 하드웨어 구성이 고정되므로, 미래 지향적인 설계가 필수적입니다. 이러한 과제를 해결하기 위해 SiMa.ai는 ARM의 전통적인 컴퓨트 IP와 자체 ML 가속기, 전용 비전 가속기를 결합했습니다. 저전력 컴퓨팅 분야의 선두 주자인 ARM IP는 안전한 MLSoC 구축을 위한 명확한 선택이었습니다. 고객의 애플리케이션 요구사항을 면밀히 분석한 결과, 성능부터 소프트웨어 툴체인까지 고객의 니즈를 충족하는 ARM Cortex-A65 CPU를 선택했습니다. SiMa.ai의 MLSoC는 자연어 처리(NLP)와 같은 다양한 ML 워크로드를 처리할 수 있지만, 초기에는 컴퓨터 비전 애플리케이션에 최적화되었습니다. 컴퓨터 비전은 이미 교통 카메라부터 셀카 편집에 이르기까지 다양한 엣지 AI 활용 사례의 핵심이며, 향후 고품질 감시, 군중 제어, 열 감지 등 더욱 복잡한 애플리케이션에서 그 중요성이 커질 것으로 예상됩니다. 비전 가속기와 ML 가속기를 결합함으로써 MLSoC는 여러 센서로부터의 센서 융합과 같은 복잡한 워크로드도 처리할 수 있습니다. 이는 소비자용 자율 주행 차량부터 산업용 IoT 환경의 자율 로봇에 이르기까지 자율 시스템에서 중요한 역할을 수행할 수 있도록 합니다. 또한, 항공우주 및 국방 분야에서도 MLSoC의 활용 가능성을 보고 있습니다. 이러한 복잡한 자율 워크로드는 50 TOPs 이상의 성능을 요구합니다. 따라서 MLSoC는 모듈식으로 설계되어, 여러 ML 가속기 모자이크를 독자적인 인터커넥트로 결합하여 5와트에서 50 TOPs부터 40 와트에서 400 TOPs까지 성능을 확장할 수 있습니다. 현재 레벨 5 자율 주행 차량 프로토타입이 약 4킬로와트의 전력을 소비하는 것을 고려할 때, 이는 전력 소비를 최대 100배 줄이고 물리적 하드웨어 공간을 크게 줄이며 능동 냉각의 필요성을 감소시킬 수 있습니다. 또한, 수백만 대가 보급될 엣지 AI 기기의 전력 소비를 줄이는 것은 중요한 과제입니다. 많은 OEM 및 고객들은 2030년 또는 그 이전에 탄소 중립을 달성하기 위해 전력 프로파일을 낮추는 데 큰 관심을 가지고 있습니다. 이는 저전력 솔루션을 설계해야 하는 강력한 동기 부여가 됩니다. 개발자를 위한 도구 제공 SiMa.ai는 MLSoC가 엣지 및 엔드포인트 기기에서 저전력 AI를 구현하는 데 핵심적인 역할을 할 것이라고 믿습니다. 하지만 단순히 특정 TOPs 성능을 달성하도록 벤치마킹된 솔루션 라이선스를 제공하는 것만으로는 충분하지 않습니다. 현재 시장에 나와 있는 많은 솔루션은 ResNet-50과 같은 벤치마크를 기반으로 성능을 광고하지만, 초당 프레임 수나 와트당 TOPs는 실제 환경, 즉 고객의 워크로드 하에서 달성 가능할 때만 의미가 있습니다. 고객들은 개발 속도, 즉 시장 출시 속도를 가장 중요하게 생각합니다. 약속된 성능을 달성하기 위해 수개월의 개발 주기를 거치기보다는, 솔루션 라이선스를 취득한 후 간단하고 포괄적인 도구를 사용하여 자체적인 차별점을 추가하기를 원합니다. SiMa.ai는 내년 초 MLSoC 테이프아웃을 계획하고 있으며, 내년 말까지 엔지니어링 샘플 및 고객 샘플을 제공할 예정입니다. 현재 고객들과 긴밀히 협력하여 애플리케이션을 정의하고 하드웨어에 매핑하고 있으며, 소프트웨어 개발 키트(SDK)는 고객에게 미리 제공될 예정입니다. 이를 통해 고객들은 실리콘이 출시되기 전에 개발 흐름을 익히고 애플리케이션을 개발하며 시뮬레이션을 실행할 수 있어, 실리콘 출시 후에는 즉시 컴파일 및 실행이 가능합니다. MLSoC가 ARM 기술을 기반으로 하므로, 고객들은 차세대뿐만 아니라 그 이후의 고성능, 저전력 AI 기기를 구축하는 데 필요한 소프트웨어, 도구 및 지속적인 지원을 확신할 수 있습니다. ARM 기술로 비즈니스를 혁신하십시오. ARM 기술은 가장 작은 센서부터 가장 큰 데이터센터까지 확장되며, 혁신적인 애플리케이션과 비즈니스 모델의 기반이 되는 전력 효율적인 지능을 제공합니다. ARM 솔루션에 대해 더 자세히 알아보고 시장 출시 여정을 시작하십시오.