Arm, 컴퓨팅을 데이터에 더 가깝게 이동

Arm, IoT 데이터 가치 극대화를 위한 '컴퓨팅 근접화' 전략 발표 Arm이 사물인터넷(IoT) 데이터의 가치를 극대화하기 위해 데이터가 생성되는 지점과 최대한 가까운 곳에 컴퓨팅 파워를 배치하는 전략을 추진하고 있다고 밝혔습니다. 이를 위해 Arm은 엔드포인트, 엣지, 컴퓨테이셔널 스토리지라는 세 가지 핵심 영역에 집중하고 있습니다. 데이터를 생성 지점 가까이로 컴퓨팅을 이동시키는 것은 많은 IoT 활용 사례에서 데이터의 가치가 밀리초(ms) 단위로 결정되기 때문에 매우 중요합니다. 응급 의료부터 가스 흐름 모니터링, 교통 충돌 예측에 이르기까지, 통찰력을 추출하는 데 지연이 발생하면 그 가치가 급격히 감소하거나 제로가 될 수도 있습니다. 전통적으로 이러한 가치를 추출하는 데 필요한 컴퓨팅 파워는 강력한 클라우드 데이터센터에서만 가능했습니다. 하지만 데이터가 엔드포인트에서 클라우드까지 수천 마일을 이동하는 과정에서 발생하는 지연은 데이터의 가치를 크게 제한할 뿐만 아니라 전체 인프라에 부담을 주고 에너지 소비(및 비용)를 증가시킵니다. 궁극적으로 이는 특정 활용 사례의 성공 여부를 좌우할 수 있습니다. 더욱이 온라인에 연결되는 IoT 센서의 수가 증가함에 따라 하루에 수천 기가바이트(GB)의 데이터가 상향 전송될 것으로 예상됩니다. Arm은 IoT가 데이터를 통해 더 나은 세상을 만들고자 하는 목표를 달성하기 위해서는 업계가 이전보다 훨씬 더 데이터에 가까운 곳으로 컴퓨팅을 이동시키는 데 노력을 집중해야 한다고 인식하고 있습니다. 이는 종종 엔드포인트 장치 자체에서 강력한 컴퓨팅을 가능하게 하는 것을 의미합니다. 다른 경우에는 엣지, 컴퓨테이셔널 스토리지 또는 네트워크 인프라의 다른 곳 등 가장 적합한 위치에 컴퓨팅을 배치하는 것입니다. 엔드포인트: 데이터는 엔드포인트에서 시작됩니다. 산업용 센서, 자동차, 스마트폰, 보안 카메라, 웨어러블 기기 및 기타 수백 가지 엔드포인트 장치 범주에서 지속적으로 방대하게 생성됩니다. 엔드포인트 장치에 자체 데이터를 처리할 수 있는 능력을 부여함으로써 데이터의 '시간-가치(time-to-value)'를 최소화하고 따라서 가장 큰 통찰력을 얻을 수 있습니다. Arm Cortex 프로세서와 Arm Ethos ML 프로세서는 이러한 프로세스를 전통적인 워크로드부터 정교한 엔드포인트 AI 및 ML 알고리즘에 이르기까지 가장 제한적인 IoT 장치에서도 가능하게 하여 데이터에 더 가까운 컴퓨팅을 제공합니다. 이를 통해 엔드포인트에서 센서 데이터를 조작하는 새로운 방법도 가능해집니다. Arm은 이를 '센서 융합(sensor fusion)'이라고 부릅니다. 이는 장치 내의 여러 센서 데이터(또는 다른 근처 장치의 데이터 또는 클라우드의 덜 시간 민감한 데이터)를 집계하고 더 깊은 의미를 추론하는 능력입니다. 예를 들어, 산업용 전기 모터의 건강 상태를 모니터링하는 IoT 장치는 전통적으로 RPM의 변동을 모니터링할 수 있습니다. 기계가 극심한 부하를 받는 산업 응용 분야에서는 이러한 고장이 거의 즉시 발생하여 상당한 기계 손상을 초래할 수 있으며, 이를 예측하는 데는 시간이 매우 중요합니다. 최신 AI 기반 장치는 RPM 데이터와 전압, 진동, 사운드 센서 데이터를 실시간으로 결합하는 센서 융합을 사용하여 고장이 발생하기 훨씬 전에 이를 예측할 수 있습니다. 엣지: 고성능 엣지 컴퓨팅을 데이터에 더 가깝게 배치함으로써 가장 복잡한 데이터 워크로드도 최대한 신속하게 처리할 수 있습니다. 엔드포인트 장치와 비교적 가까운 물리적 거리에 위치하는 엣지 서버(예: 셀 타워 기지국)는 지연 시간을 거의 제로로 줄이고 중요한 '시간-가치'를 유지하면서 데이터 개인 정보를 최대화하고 에너지 비용을 절감합니다. 분석 회사인 Omdia는 엣지를 엔드포인트까지의 왕복 시간(RTT)이 20ms 이하인 모든 위치로 정의하며, 엣지 서버 출하량이 2024년까지 두 배로 증가할 것으로 예측합니다. 엣지 서버는 데이터 흐름을 처리할 뿐만 아니라 데이터를 처리하는 데에도 점점 더 중요한 역할을 하고 있습니다. 대부분의 경우, 이 새로운 성능의 엣지 서버 물결은 클라우드 데이터센터에서 발견되는 컴퓨팅 파워의 상당 부분을 포함하고 있지만, 엔드포인트에 훨씬 더 가깝습니다. 또한 여러 IoT 장치의 데이터를 집계하여 센서 융합의 이점을 확장할 수 있습니다. 예를 들어, 위에서 언급한 전기 모터 예시에서 공장을 관리하는 엣지 서버는 여러 모터 장치의 데이터를 집계하여 패턴을 파악하고 연쇄적인 이벤트 실패를 실시간으로 더 잘 예측할 수 있습니다. 또 다른 예는 자동차 번호판을 기록하는 ANPR/ALPR 교통 카메라입니다. 카메라 자체는 엔드포인트 AI를 사용하여 비디오 프레임을 분석하고 번호판을 식별하여 비디오 데이터가 아닌 번호판 정보만 엣지 서버로 보낼 수 있습니다. 여기서 AI 엣지 서버는 수백 개의 다른 근처 교통 카메라에서 번호판 데이터를 집계하고 도난 차량 데이터베이스와 비교하여 차량이 주를 이동하는 것을 추적하고 차량의 궤적을 예측하며 법 집행 기관에 검문소 위치를 제안할 수 있습니다. 컴퓨테이셔널 스토리지: 그러나 위의 예는 자체적인 장애물을 가지고 있습니다. 많은 IoT 장치와 마찬가지로 엔드포인트 교통 카메라와 엣지 서버에는 스토리지 장치가 포함됩니다. 카메라는 이 장치를 사용하여 원시 교통 비디오를 저장하고, 엣지 서버는 번호판 정보, 통신해야 하는 카메라 정보 및 기타 운영 데이터를 저장하는 데 사용합니다. 이 두 경우 모두 외부 스토리지를 사용하는 모든 컴퓨팅 장치의 경우, 데이터 처리 속도는 스토리지에 저장하고 스토리지에서 불러오는 속도에 의해 제한됩니다. 기존 컴퓨팅 시스템에서는 CPU가 스토리지에서 데이터 블록을 요청해야 합니다. 이 데이터 블록이 메모리로 이동한 후에야 CPU는 필요한 특정 데이터 요소에 액세스할 수 있습니다. 이는 CPU가 특정 데이터 요소를 찾는 과정에서 스토리지에서 메모리로 대량의 데이터를 검색하게 될 수 있습니다. 이 병목 현상은 스토리지 장치 자체에 강력한 컴퓨팅을 추가하여 데이터에 그 어느 때보다 가까운 컴퓨팅을 제공하는 컴퓨테이셔널 스토리지 모델에서 해결됩니다. 컴퓨테이셔널 스토리지는 스토리지 장치를 더 스마트하게 만듭니다. 기존 스토리지 장치에는 이미 스토리지 기능을 제어하는 CPU가 포함되어 있지만, 컴퓨테이셔널 스토리지는 스토리지 장치 자체에서 직접 데이터를 처리하는 것과 같은 비스토리지 워크로드를 처리할 수 있는 기능을 추가합니다. 이를 통해 메인 컴퓨팅 장치는 더 이상 데이터 블록을 요청할 필요가 없습니다. 대신 데이터에 대한 작업을 요청하고 계산된 결과만 반환됩니다. ALPR 교통 카메라의 경우, 특정 문자로 시작하는 모든 번호판을 요청하는 것과 같을 수 있습니다. 스토리지 장치 내의 컴퓨팅은 데이터를 정렬하고 관련 결과만 메인 컴퓨팅 장치로 다시 보내므로 데이터 처리량을 크게 줄이고 처리 시간을 단축합니다. 또한 보안이 확보된 상태에서 드라이브에서 직접 데이터를 처리할 수 있도록 하여 암호화되지 않은 데이터 이동을 줄임으로써 데이터가 가능한 한 안전하게 유지되도록 합니다. 많은 경우 컴퓨테이셔널 스토리지 CPU에서 수행되는 컴퓨팅은 전통적인 성격을 띱니다. 그러나 ML 워크로드를 네이티브로 CPU에서 또는 NPU(신경망 처리 장치)를 통해 실행하는 것도 완전히 가능합니다. 위의 예시를 계속하면, 이는 스토리지 장치가 특정 문자로 시작하는 모든 번호판을 식별할 수 있도록 할 수 있지만, 파란색 세단에 한해서만 가능할 수 있습니다. 더 많은 지능을 추가할수록 추론이 더 복잡해지고 데이터에서 더 많은 가치를 추출할 수 있습니다. 지연 시간 감소, 마일에서 마이크론까지: 엣지 컴퓨팅은 잠재적으로 수천 밀리초 동안 상향 전송되는 데이터를 처리하는 데 걸리는 시간을 줄입니다. 엔드포인트 컴퓨팅은 컴퓨팅을 장치 자체에 배치하여 이를 더욱 줄입니다. 컴퓨테이셔널 스토리지는 데이터가 계산되는 지점과 저장되는 지점 사이의 최종 병목 현상을 제거합니다. 이러한 각 기술은 동일한 핵심 이점을 공유합니다. 컴퓨팅을 데이터에 더 가깝게 배치함으로써 지연 시간 감소, 추론 속도 향상, 가치 증대, 오버헤드 감소, 에너지 효율성 향상, 개인 정보 보호 강화라는 이점을 얻습니다. Arm은 이러한 근본적인 가치에 전체 IP 포트폴리오에 걸쳐 투자해 왔습니다. 이를 통해 IoT에서 매일 생성되는 엄청난 양의 데이터가 낭비되지 않도록 보장하고, 데이터의 '시간-가치'를 극대화하며, 실제 통찰력을 도출할 수 있습니다.