ARM, TinyML로 가장 작은 ARM 기기에 AI 탑재

ARM, 쌀알 크기 칩에 AI 심는다…‘타이니ML’로 IoT 혁신 가속화 ARM이 초소형 마이크로컨트롤러에 인공지능(AI)을 구현하는 ‘타이니ML(TinyML)’ 기술을 통해 사물인터넷(IoT) 시장 혁신을 주도하고 있습니다. 타이니ML은 쌀알 크기만 한 칩에서 극소량의 전력(수 밀리와트)만으로 머신러닝(ML) 연산을 처리하는 기술로, 기존의 작고 전력 소모가 적은 기기에 지능을 부여합니다. ARM, 구글, 퀄컴 등 주요 기업들의 지원을 받는 타이니ML은 이미 ARM 칩 기반의 수십억 개 기기가 활용되고 있는 IoT 분야에 혁신을 가져올 잠재력을 지니고 있습니다. 특히 소비자, 의료, 자동차, 산업 등 다양한 분야에서 더 깊은 통찰력과 효율성을 제공할 것으로 기대됩니다. 타이니ML이 마이크로컨트롤러를 겨냥하는 이유는 명확합니다. ARM Cortex-M 계열과 같은 마이크로컨트롤러는 이미 어디에나 사용되고 있어 ML 구현에 이상적인 플랫폼입니다. 이들은 실시간 계산을 빠르고 효율적으로 수행하며, 안정적이고 반응성이 뛰어납니다. 또한 전력 소모가 매우 적어 배터리 교체가 어렵거나 불편한 장소에도 배포가 가능합니다. 무엇보다 가격이 저렴하여 거의 모든 곳에 활용될 수 있다는 장점이 있습니다. 시장 분석 기관 IDC에 따르면, 2018년 281억 개의 마이크로컨트롤러가 판매되었으며, 2023년에는 연간 출하량이 382억 개로 증가할 것으로 전망됩니다. 타이니ML은 마이크로컨트롤러 상에서 IoT 기기들이 생성하는 방대한 양의 데이터를 분석하고 이해하는 새로운 기술을 제공합니다. 특히 딥러닝 기법을 활용하여 소리 감지, 이미지 캡처, 움직임 추적 등 센서 데이터를 처리하고 의미를 파악할 수 있습니다. 머신러닝 연산의 복잡성을 줄이기 위해 데이터 과학자들은 부동소수점 연산을 단순한 8비트 연산으로 대체하는 등의 변화를 시도했습니다. 이러한 변화를 통해 훨씬 효율적으로 작동하고 처리 및 메모리 자원을 훨씬 적게 요구하는 머신러닝 모델이 탄생했습니다. 타이니ML 기술은 새로운 기술과 헌신적인 개발자 커뮤니티 덕분에 빠르게 발전하고 있습니다. 불과 몇 년 전만 해도, 제약된 ARM Cortex-M3 마이크로컨트롤러에서 특정 단어를 감지하면 시스템을 깨우는 음성 인식 모델을 15KB의 코드와 22KB의 데이터만으로 실행하는 능력을 축하했습니다. 이후 ARM은 임베디드 및 IoT 기기에서 ML 추론을 가속화하도록 특별히 설계된 마이크로NPU인 Ethos-U55와 Ethos-U65를 출시했습니다. Ethos-U55는 AI 기능이 탑재된 Cortex-M55 프로세서와 결합하여 현재의 인상적인 성능을 훨씬 뛰어넘는 ML 성능 향상과 에너지 효율성 개선을 제공할 것입니다. 타이니ML의 잠재적 활용 사례는 거의 무한합니다. 개발자들은 이미 타이니ML을 활용하여 교통 체증을 줄이기 위해 신호등을 조절하는 반응형 신호등, 서비스 필요 시점을 예측하는 산업 기계, 해충 발생을 감지하는 작물 모니터링 센서, 재고 부족 시 재주문을 요청하는 매장 선반, 개인 정보를 보호하면서 생체 신호를 추적하는 의료 모니터 등 다양한 새로운 아이디어를 탐구하고 있습니다. 타이니ML은 클라우드로 데이터를 주고받기 위해 혼잡한 인터넷 연결에 의존할 필요성을 줄여 엔드포인트 기기를 더욱 일관되고 안정적으로 만들 수 있습니다. 클라우드와의 상호 작용을 줄이거나 제거하면 에너지 사용량 감소, 데이터 처리 지연 시간의 현저한 감소, 그리고 이동하지 않는 데이터는 공격에 훨씬 덜 노출된다는 보안상의 이점을 포함한 주요 이점을 얻을 수 있습니다. 마이크로컨트롤러에서 추론을 수행하는 이러한 타이니ML 모델은 현재 클라우드에서 이루어지는 더 정교한 추론을 대체하기 위한 것이 아니라, 특정 기능을 클라우드에서 엔드포인트 장치로 가져오는 역할을 합니다. 이를 통해 개발자는 필요할 때만 클라우드 상호 작용을 활용할 수 있습니다. 타이니ML은 또한 개발자에게 문제를 해결할 수 있는 강력한 새 도구 세트를 제공합니다. ML은 규칙 기반 시스템이 식별하기 어려운 복잡한 이벤트를 감지할 수 있게 하여, 엔드포인트 AI 장치가 새로운 방식으로 기여할 수 있도록 합니다. 또한 ML을 통해 버튼이나 스마트폰 대신 음성이나 제스처로 장치를 제어할 수 있으므로, 엔드포인트 장치를 더욱 견고하게 만들고 더 까다로운 운영 환경에 배포할 수 있습니다. 업계 관계자들은 타이니ML의 가치를 빠르게 인식하고 지원 생태계를 구축하는 데 신속하게 움직였습니다. 열정적인 취미 활동가부터 숙련된 전문가에 이르기까지 모든 수준의 개발자는 이제 쉽게 시작할 수 있는 도구에 접근할 수 있습니다. 필요한 것은 노트북, 오픈 소스 소프트웨어 라이브러리, 그리고 노트북을 몇 달러에 불과한 여러 저렴한 개발 보드 중 하나에 연결하는 USB 케이블입니다. 실제로 2021년 초, 라즈베리 파이는 시장에서 가장 저렴한 개발 보드 중 하나인 라즈베리 파이 피코를 출시했습니다. 이 보드는 RP2040 SoC, 즉 놀랍도록 강력한 듀얼 ARM Cortex-M0+ 프로세서로 구동됩니다. RP2040 MCU는 TensorFlow Lite Micro를 실행할 수 있으며, 앞으로 몇 달 안에 이 보드를 위한 다양한 ML 사용 사례를 볼 수 있을 것으로 예상됩니다. ARM은 마이크로컨트롤러 아키텍처가 IoT의 중심에 있고 온디바이스 추론의 잠재력을 보기 때문에 타이니ML의 강력한 지지자입니다. ARM과 구글의 협력은 개발자가 전력 효율적인 환경에서 엔드포인트 머신러닝을 더욱 쉽게 배포할 수 있도록 하고 있습니다. ARM CMSIS-NN 라이브러리와 구글의 TensorFlow Lite Micro (TFLu) 프레임워크의 조합은 데이터 과학자와 소프트웨어 개발자가 임베디드 프로그래밍 전문가가 되지 않고도 ARM 하드웨어 최적화를 활용할 수 있도록 합니다. 또한 ARM은 ML 애플리케이션을 배포할 때 프로토타입에서 생산까지 개발자를 지원하는 새로운 도구에 투자하고 있습니다. 타이니ML은 초기 영향력 있는 인물들의 공이 컸습니다. 타이니ML의 "창시자"이자 구글의 TensorFlow Lite Micro 기술 리더인 Pete Warden, 저비용의 확장 가능한 Python 기반 머신 비전 모듈인 OpenMV를 개발한 ARM Innovator Kwabena Agyeman, 그리고 데이터 수집, 모델 학습 및 모델 최적화를 포함하는 완전한 타이니ML 파이프라인을 제공하는 Edge Impulse의 창립 타이니ML 엔지니어이자 개발자인 ARM Innovator Daniel Situnayake 등이 있습니다. 또한 센서 동작을 기반으로 엔드포인트에서 소프트웨어 모델을 생성하는 NanoEdge AI 도구를 제공하는 Cartesiam.ai와 같은 ARM 파트너들도 타이니ML의 가능성을 한 단계 끌어올리고 있습니다. ARM은 또한 사람들이 연결하고, 아이디어를 공유하고, 참여하는 데 도움을 주기 위해 밋업을 조정하는 오픈 커뮤니티인 TinyML Foundation의 파트너입니다. 영국, 이스라엘, 시애틀 등 지역별 타이니ML 밋업과 글로벌 타이니ML 서밋 시리즈가 있습니다. 더 자세한 정보는 TinyML Foundation 웹사이트에서 확인할 수 있습니다.