ARM, AI 혁명을 가능하게 할 우리가 필요로 하는 7가지 하드웨어 발전

ARM, AI 시대 하드웨어 혁신 7가지 방향 제시

인공지능(AI)이 사회 전반에 미칠 긍정적 영향은 아무리 강조해도 지나치지 않습니다. 하지만 AI의 보편적인 적용은 여전히 도전 과제입니다. 알고리즘 학습에는 막대한 전력, 시간, 컴퓨팅 능력이 소요되며, 의료 영상이나 로보틱스와 같은 응용 분야에서는 추론 과정 또한 더욱 까다로워질 것입니다. Applied Materials는 프로세서, 소프트웨어, 재료 과학, 시스템 설계, 네트워킹 등에서 획기적인 발전이 없다면 AI가 현재 5%에서 최대 25%까지 전 세계 전력 소비를 차지할 수 있다고 추정합니다.

현재 컴퓨팅 및 AI 기술 개발은 크게 두 가지 방향으로 나아가고 있습니다. 바로 초규모 시스템(extreme-scale systems)과 엣지/보편적인 대규모 분산 시스템(edge/pervasive massively distributed systems)입니다. 이 두 가지 방향은 유사하면서도 상이한 도전 과제를 안고 있습니다. 하드웨어 관점에서 볼 때, 개선이 필요한 주요 영역은 다음과 같습니다.

1. 특화된 프로세싱(Specialized Processing)

컴퓨팅 아키텍처는 2006년 중요한 전환점을 맞았습니다. 무어의 법칙(Moore’s Law)과 데나드 스케일링(Dennard scaling)을 통한 성능 향상이 점점 더 비싸지고 어려워졌습니다. 동시에 보조 프로세서(co-processors)가 다시 주목받기 시작했습니다. NVIDIA는 2006년 서버용 GPU인 G80을 출시했으며, 같은 시기에 AI 프로세서 개발 노력도 시작되었습니다. 이후 GPU는 AI 고성능 컴퓨팅(HPC) 분야에서 보편화되었습니다. 현재 Google, Qualcomm, Amazon, Facebook, Samsung 등 50개 이상의 기업이 AI 프로세서를 개발하고 있으며, 네트워크, 스토리지, 보안을 위한 데이터 처리 장치(DPU)는 클라우드 및 엑사스케일 컴퓨터의 필수 요소가 되고 있습니다. 향후 3년 이상은 다양한 AI 애플리케이션에 최적화된 조합을 찾는 것이 핵심 과제가 될 것입니다. 클라우드 기반 머신러닝(ML) 학습에는 엑사스케일 컴퓨터의 웨이퍼 스케일 프로세서나 칩렛이 더 적합할까요? 아니면 대규모 분산 시스템의 기기에서 어느 정도 수준의 학습이 이루어져야 할까요? 클라우드 및 엣지 AI를 위한 핵심 기술은 상당 부분 확보되었지만, AI 전용 아키텍처와 지능형 ML 기반 동적 시스템 구성 및 최적화가 더욱 필요합니다.

2. 데이터 근처 처리(Near Data Processing)

컴퓨터에서 사용되는 에너지의 60% 이상은 스토리지, 메모리, 처리 장치 간 데이터 이동에 소모됩니다. 이러한 데이터 이동을 줄이거나 제거하면 전력 소비를 크게 줄이고 지연 시간을 단축할 수 있습니다. 랜덤 액세스 메모리(RAM)에 소형 전용 처리 장치를 통합하는 메모리 내 처리(Processing-in-Memory)는 데이터센터 및 일반적인 엑사스케일 컴퓨팅에 유용할 것입니다. 엣지에서는 센서 내에서 데이터를 처리하거나, 최소한 원격 장치로 스트리밍 또는 전송되기 전에 데이터를 처리할 수 있다면 데이터 전송 및 저장량을 대폭 줄일 수 있습니다. 엣지의 지능형 엔진이 판단한 경우에만 의미 있는 이벤트나 데이터만 원격 서비스로 전송될 것입니다. 특화된 프로세싱과 마찬가지로 이는 단기적인 혁신입니다.

3. 비-CMOS 프로세서(Non-CMOS Processors)

저렴하고 통합하기 쉬운 유연한 트랜지스터 및/또는 기판으로 제작된 프로세서는 식량 낭비 감소, 누수 감지, 재활용 촉진 등에 기여할 것입니다. 이러한 태그 중 일부는 단순히 원시 데이터를 전송하는 스마트 센서가 되겠지만, 점점 더 많은 태그가 머신러닝을 활용하여 데이터 트래픽을 줄이고 통신의 '가치'를 높일 것입니다. Arm Research는 PragmatIC Semiconductor와 협력하여 작년에 이러한 작업을 위한 센서가 포함된 저가형 인쇄 신경망인 PlasticArm을 선보였습니다. 프로세서 설계, EDA 도구, 제조 장비, 소프트웨어 모두 더욱 개발 및 통합되어 인쇄 전자 서비스 플랫폼으로 제공될 필요가 있습니다. 킬러 애플리케이션을 발굴하는 것이 이 분야의 다음 단계와 개발 속도를 결정할 것입니다.

4. 이벤트 기반/임계값 처리(Event-Based/Threshold Processing)

Prophesee는 각 픽셀이 독립적으로 작동하는 이벤트 기반 이미지 프로세서를 개발했습니다. 데이터는 동기화된 주기 대신 변경이 발생할 때만 업데이트되어 인간의 눈과 유사하게 작동합니다. 이는 캡처되는 데이터 양을 대폭 줄여 초당 10,000프레임의 속도를 가능하게 합니다. 에너지 소비, 지연 시간, 컴퓨팅 오버헤드가 모두 절감되면서 이미지 해상도는 향상됩니다. 예를 들어, 다운힐 스키 경주 이미지를 촬영할 때, 불필요한 하늘 업데이트를 제거하여 개별 스키어의 신체 역학을 세밀하게 포착할 수 있습니다. 자동차 사고 재구성도 더 정확해질 수 있습니다. 컴퓨터 비전을 넘어 이벤트 기반 센서 장치는 진동 분석, 음성 인식 및 기타 데이터 집약적인 애플리케이션의 컴퓨팅을 간소화하는 데 사용될 수 있습니다. 임계값 또는 일련의 이벤트가 달성된 후 스마트워치나 의료 제공업체에 생체 신호에 대한 의미 있는 이벤트만 전달하는 스마트 문신을 상상해 보십시오. 작은 컴퓨팅 시스템으로 특정 시스템 상태, 인간 감정의 특정 이벤트 특성 또는 특정 인지 질병의 편차 예측을 실시간으로 모니터링할 수 있습니다.

5. 뉴로모픽 프로세서(Neuromorphic Processors)

인간의 뇌 구조에서 영감을 받아 인공 스파이킹 신경망 또는 더 일반적으로 전자 부품을 설계하는 것이 가능합니다. Carver Mead는 1980년대에 뉴로모픽 프로세서에 대한 이론을 처음 제시했습니다. 하지만 오늘날에도 스파이킹 신경망 시뮬레이션에 최적화된 1천만 코어 프로세서 플랫폼인 SpiNNaker 1 및 SpiNNaker 2와 같은 실험 칩 몇 개만이 존재합니다. 뉴로모픽 컴퓨팅은 매우 유망해 보이지만, 모델 학습, ML 개발 운영 도구 및 기타 기술의 획기적인 발전이 계속 필요합니다. 또한 다양한 사용 사례에 맞는 하드웨어가 필요합니다. 웨이퍼 크기 칩셋은 저전력 지향 애플리케이션에 적합하지 않을 것입니다. 뉴로모픽 연구는 주로 엑사스케일 시스템을 대상으로 했지만, 초저전력 키워드 감지, 자율 주행 차량의 이벤트 감지 또는 기타 데이터 스트리밍 처리 사용 사례에 에너지를 집중하는 것이 합리적일 수 있습니다. 이를 통해 더 빠른 발전을 이루고 획기적인 개념을 확장할 수 있습니다. 뉴로모픽의 미래 킬러 애플리케이션은 엑사스케일 시스템이 아닌 저전력 지향 엣지 컴퓨팅에 있을 수 있습니다.

6. 극한 환경 냉각(Extreme Ambient Cooling)

데이터센터는 기계식 냉각 부하를 줄이기 위해 폐광산, 지하 방공호, 도시 항구 등에 설치되었습니다. 액체 냉각 또한 다시 주목받고 있습니다. 극저온 컴퓨팅은 극저온 온도에서 발생하는 물리적 현상의 이점을 활용하도록 특별히 설계된다면 와트당 상당한 성능 향상을 제공할 수 있습니다. 핵심은 재료에서 장치, 시스템에 이르는 설계 최적화를 탐색하는 것입니다. 데이터센터 또는 엑사스케일 컴퓨팅 시스템의 대규모 애플리케이션을 위해 기술을 현실화하려면 산업계의 노력이 필요하지만, 초기 조사는 매우 유망하며 더 깊이 탐구할 가치가 있습니다.

7. 제로 컴퓨트 아키텍처(Zero Compute Architectures)

더 나아가 생물학적 영감을 받은 모델을 탐색하면, 장거리 암묵적 기억이 자동차 후진 주행이나 책 읽기와 같이 복잡한 작업을 효율적으로 수행할 수 있도록 하는 방식을 재현할 수 있습니다. 이는 단계별 프로세스를 비교적 자동화된 절차로 통합함으로써 가능합니다. 컴퓨팅 세계에서는 시스템이 학습되거나 경험된 함수에 의존하여, 한 번 수행된 계산 집약적인 작업을 건너뛸 수 있습니다. 높은 수준에서 제로 컴퓨트 시스템은 애플리케이션이 새롭거나 학습된 것인지 인식하는 메커니즘, 학습된 작업을 실행하는 프로세스, 향후 재사용을 위한 학습된 함수 라이브러리를 포함할 것입니다. 물론 이것이 진정한 제로 컴퓨트가 아닌 '거의 제로 컴퓨트'라고 주장할 수도 있습니다. 그럼에도 불구하고 엄청난 수의 계산을 줄일 수 있습니다. 인간과 마찬가지로, 작업을 기계적으로 수행하는 것과 모든 프로세스를 비판적으로 검토하는 것 사이의 절충점을 고려해야 합니다. 그러나 대량의 알려진 작업과 재계산 사이의 균형이 맞는다고 가정하면, 엑사스케일 지능형 시스템이 컴퓨팅 세계를 알려진 것과 알려지지 않은 것으로 분할하고 방대한 수의 단순한 시스템에 답을 분배하는 것을 상상할 수 있습니다. 물론 이것은 시작에 불과합니다. AI가 확산됨에 따라 하드웨어 수준에서 더 많은 성능과 효율성에 대한 요구도 증가할 것입니다. ML의 미래는 엣지로 이동하고 있습니다.