ARM, 클라우드 AI, 엣지 AI, 엔드포인트 AI. 무엇이 다를까요?

Arm, AI 시대 컴퓨팅 스펙트럼 3대 축 '클라우드, 엣지, 엔드포인트' 분석 인공지능(AI)의 대부분은 데이터를 통해 학습하는 머신러닝(ML)이라는 하위 범주에 속합니다. 학습 데이터의 양이 많을수록 AI는 더 많은 의미를 추론하고 유용성을 높일 수 있습니다. 소비자 기기부터 헬스케어, 물류, 스마트 제조에 이르기까지 AI 애플리케이션에서는 매일 수십만 기가바이트의 데이터가 생성됩니다. 이처럼 방대한 데이터가 생성될 때 핵심적인 고려사항은 데이터를 어디서 처리할 것인가입니다. Arm은 컴퓨팅 스펙트럼을 클라우드, 엣지, 엔드포인트의 세 가지 범주로 정의합니다. 이 각각의 범주에서 ML을 활용해 데이터를 처리할 수 있지만, 가장 적합한 범주를 선택하는 것은 단순히 컴퓨팅 성능이 가장 높은 곳으로 가는 것만큼 간단하지 않습니다. 성능은 데이터에서 추론된 학습 결과가 유용하게 유지되도록 하는 여러 요인 중 하나일 뿐입니다. 클라우드 AI는 강력한 클라우드 데이터 센터 내에서 AI를 처리하는 것을 의미합니다. 오랫동안 클라우드 AI는 방대한 양의 데이터를 처리하는 데 있어 명백한 컴퓨팅 플랫폼 선택지였습니다. 엣지와 엔드포인트에서 데이터를 클라우드 서버로 옮겨 초고효율로 처리하는 개념이 없었다면 AI는 오늘날과 같은 성숙 단계에 이르지 못했을 것입니다. 특히 즉각적인 응답이 필요하지 않은 과거 데이터를 기반으로 머신러닝(ML) 알고리즘을 훈련하는 경우, AI의 대부분의 무거운 작업은 신뢰성, 비용 효율성, 컴퓨팅 집중도 때문에 항상 클라우드에서 수행될 가능성이 높습니다. 오늘날 많은 소비자 스마트 기기는 '지능'을 위해 클라우드에 의존합니다. 예를 들어, 스마트 스피커는 기기 내 지능의 환상을 주지만, 기기 내에서 가능한 유일한 AI는 트리거 단어('키워드 스포팅')를 감지하는 것입니다. 클라우드 AI는 ML을 사용하여 복잡한 문제를 해결하는 데 있어 논란의 여지가 없습니다. 그러나 ML의 사용 사례가 미션 크리티컬하고 실시간 애플리케이션을 포함하도록 확장됨에 따라 이러한 시스템은 의사 결정 속도에 따라 성패가 갈릴 것입니다. 데이터가 기기에서 데이터 센터까지 수천 마일을 이동해야 할 때, 데이터가 수신, 계산 및 응답될 때까지 여전히 유용할 것이라는 보장은 없습니다. 안전이 중요한 자동화, 차량 자율 주행, 의료 영상 및 제조와 같은 애플리케이션은 몇 밀리초밖에 되지 않은 데이터에 대한 거의 즉각적인 응답을 요구합니다. 클라우드에 데이터 처리를 요청할 때 발생하는 지연 시간은 많은 경우 데이터의 가치를 0으로 만들 수 있습니다. 이러한 이유로 많은 기업들이 이제 클라우드를 넘어 컴퓨팅 인프라의 다른 곳에서 AI를 처리하는 것을 고려하고 있으며, 컴퓨팅을 데이터에 더 가깝게 이동시키고 있습니다. 엣지 AI는 데이터의 가치 실현 또는 무효화 시간이 밀리초 단위로 측정될 수 있는 세상에서 클라우드로 데이터를 전송할 때 발생하는 지연 시간이 사물 인터넷(IoT)의 가장 매력적인 사용 사례 중 상당수를 훼손할 위협을 가합니다. 엣지 AI는 AI 및 ML 처리를 클라우드에서 네트워크 엣지에 있는 강력한 서버, 즉 사무실, 5G 기지국 및 연결된 엔드포인트 장치에 매우 가까운 기타 물리적 위치로 이동시킵니다. AI 컴퓨팅을 데이터에 더 가깝게 이동시킴으로써 지연 시간을 제거하고 데이터의 모든 가치를 유지할 수 있습니다. 네트워크 브리지 및 스위치와 같은 기본 장치는 엔드포인트와 클라우드 간의 게이트웨이에 데이터 센터 수준의 하드웨어를 추가하는 강력한 엣지 서버로 대체되었습니다. Arm Neoverse와 같은 새로운 플랫폼에 의해 구동되는 이러한 강력한 새로운 AI 지원 엣지 서버는 컴퓨팅을 증가시키면서 전력 소비를 감소시키도록 설계되어 도시, 공장, 농장 및 환경을 계측하여 효율성, 안전성 및 생산성을 향상시킬 수 있는 엄청난 기회를 창출합니다. 엣지 AI는 데이터와 네트워크 인프라 자체 모두에 이익을 줄 수 있습니다. 네트워크 수준에서는 네트워크 예측 및 네트워크 기능 관리를 위해 데이터 흐름을 분석하는 데 사용될 수 있으며, 엣지 AI가 데이터 자체에 대한 결정을 내릴 수 있도록 함으로써 클라우드로의 백홀 트래픽을 크게 줄이고, 지연 시간을 무시할 수 있으며, 전반적인 보안, 신뢰성 및 효율성을 개선할 수 있습니다. 엣지 AI의 또 다른 주요 기능은 센서 융합입니다. 여러 센서의 데이터를 결합하여 프로세스, 환경 또는 상황에 대한 복잡한 그림을 생성하는 것입니다. 산업 애플리케이션에서 기계 고장 시점을 예측하기 위해 공장 내 여러 센서의 데이터를 결합하는 작업을 수행하는 엣지 AI 장치를 생각해 보십시오. 이 엣지 AI 장치는 각 센서 간의 상호 작용과 한 센서가 다른 센서에 어떻게 영향을 미칠 수 있는지 학습하고 이 학습을 실시간으로 적용해야 합니다. 민감한 데이터를 엣지 이상으로 이동시키지 않는 데에는 중요한 보안 및 복원력 이점도 있습니다. 중앙 집중식 위치로 이동하는 데이터가 많을수록 해당 데이터의 무결성이 손상될 기회가 더 많이 발생합니다. 컴퓨팅의 특성이 변화함에 따라 엣지는 다양한 전력 및 성능 요구 사항을 가진 다양한 시스템을 지원하는 데 점점 더 중요한 역할을 하고 있습니다. 기업을 위해 대규모 서비스 수준 계약을 이행하려면 엣지는 클라우드 네이티브 소프트웨어 원칙을 채택해야 합니다. Arm은 안전한 Arm 엣지 생태계 전반에 걸쳐 클라우드 네이티브 소프트웨어 경험을 제공하기 위한 개방적이고 협력적인 표준 기반 이니셔티브인 Project Cassini를 통해 이를 지원하고 있습니다. 엔드포인트 AI는 Arm이 네트워크 엣지에 연결된 센서부터 스마트폰 및 그 이상에 이르는 물리적 장치를 엔드포인트 장치로 정의합니다. 엔드포인트에서 너무 많은 데이터가 생성되므로, 데이터를 어디로도 이동시키지 않고 수집한 데이터를 처리하도록 엔드포인트 장치를 지원함으로써 데이터에서 얻는 통찰력을 극대화할 수 있습니다. 스마트폰은 강력한 내부 하드웨어 덕분에 오랫동안 엔드포인트 AI의 비옥한 테스트베드였습니다. 스마트폰 카메라는 거친 셀카를 찍는 것에서 생체 인식 인증을 위한 보안 수준으로, 그리고 실시간으로 셀카에 배경 흐림(또는 토끼 귀)을 추가하는 계산 사진 촬영을 위한 강력한 수준으로 발전했습니다. 이 기술은 이제 더 작은 IoT 장치로 확산되고 있습니다. 이를 'AIoT'라고도 합니다. 2020년 2월, Arm은 가장 작은 Arm 기반 IoT 장치에도 AI를 추가하는 솔루션을 발표했습니다. Arm Cortex-M55 CPU와 Arm Ethos-U55 마이크로 신경망 처리 장치(microNPU)는 Arm 기반 사물 인터넷(IoT) 솔루션의 성능을 거의 500배 향상시키는 동시에 Arm 기술이 알려진 에너지 효율적이고 비용 효율적인 이점을 유지합니다. 이 기술은 Arm 기반 컴퓨팅의 이점을 IoT의 가장 어려운 환경에 가져오는 데 도움이 될 것입니다. TinyML은 엔드포인트 AI 또는 AIoT의 신흥 하위 분야로, 쌀알 크기의 마이크로컨트롤러를 포함하고 몇 밀리와트의 전력을 소비하는 가장 작은 엔드포인트 장치에서도 ML 처리를 가능하게 합니다. 물론 엔드포인트 AI도 한계가 있습니다. 이러한 장치는 엣지 AI 및 클라우드 AI 장치에 비해 성능, 전력 및 저장 공간 측면에서 훨씬 더 제약이 있습니다. 또한 엣지에서의 센서 융합이 가능하게 하는 다른 데이터 스트림의 '탑다운' 시야 없이는 전체 그림을 파악하기 어렵기 때문에, 하나의 엔드포인트 AI 센서에서 수집된 데이터는 그 자체로는 제한적인 가치를 가질 수 있습니다. 클라우드 AI, 엣지 AI, 엔드포인트 AI는 각각 강점과 한계를 가지고 있습니다. Arm의 다양한 이기종 컴퓨팅 IP는 전체 컴퓨팅 스펙트럼을 확장하여 어떤 AI 워크로드든 가장 적합한 곳에 지능형 컴퓨팅 파워를 배치함으로써 효율적으로 처리할 수 있도록 솔루션을 제공합니다. 가장 중요한 것은 Arm 기술이 클라우드에서 엣지, 엔드포인트에 이르기까지 AI 처리에 사용되는 데이터가 안전하게 유지되도록 보장한다는 것입니다. Arm Platform Security Architecture (PSA)는 업계 모범 사례를 기반으로 하드웨어 및 펌웨어 수준 모두에서 보안이 일관되게 설계될 수 있도록 하는 플랫폼을 제공하며, PSA Certified는 장치 제조업체가 IoT 장치가 안전하게 구축되었음을 보증합니다. Arm 프로세서 내에서 Arm TrustZone 보안 기술은 IoT 보안을 단순화하고 PSA 원칙을 준수하는 장치를 구축하기 위한 이상적인 플랫폼을 제공합니다. AI는 변화를 주도하고 혁신을 추진하며 흥미로운 새로운 가능성을 창출하고 있습니다. Arm은 AI의 빠른 개발을 지원하도록 설계된 솔루션으로 미래를 향한 길을 개척하고 있습니다. Arm이 개발을 가속화하는 데 필요한 하드웨어, 소프트웨어, 도구 및 전략적 파트너를 어떻게 결합하는지 알아보십시오.