토비 뉴게바우어, 페르미 주주 가치 극대화를 위한 임시 주주총회 소집

ARM, 모바일 기기에서의 생성형 AI 시대를 열다 생성형 인공지능(AI), 특히 최근 주목받는 대규모 언어 모델(LLM)이 이제 스마트폰과 같은 모바일 기기에서도 현실화되고 있습니다. 이는 이미지 및 동영상 생성, 문맥 이해 등 복잡한 AI 연산이 클라우드를 거치지 않고 기기 자체에서 처리되는 것을 의미합니다. ARM은 이러한 '엣지 AI'를 구현하는 핵심 기술로, 최신 플래그십 스마트폰부터 ARM CPU에서 직접 구동되는 LLM까지 다양한 혁신을 주도하고 있습니다. 최신 AI 기반 스마트폰, ARM 기술로 무장 현재 시장에는 ARM의 v9 CPU 및 GPU 기술을 기반으로 한 고성능 AI 스마트폰들이 출시되고 있습니다. 대표적으로 MediaTek Dimensity 9300을 탑재한 vivo X100 및 X100 Pro, 삼성 갤럭시 S24, 구글 픽셀 8 등이 있습니다. 이들 기기는 ARM의 성능과 효율성을 결합하여 AI 혁신을 위한 전례 없는 기회를 제공합니다. 실제로 ARM의 CPU 및 GPU 성능은 지난 10년간 2년마다 AI 처리 능력을 두 배씩 향상시켜 왔습니다. 이러한 추세는 앞으로도 지속될 것이며, ARM의 견고한 소비자 기술 로드맵을 통해 더욱 발전된 AI 성능과 기술, 기능이 제공될 것입니다. 이는 훈련된 모델을 활용하여 AI 기반 애플리케이션을 구동하는 '엣지에서의 AI 추론'의 부상과 맞물려 더욱 가속화될 전망입니다. 특히, AI 지원 및 특화 명령어 추가로 인해 CPU가 이러한 요구를 충족시키는 데 최적의 역할을 할 것으로 기대됩니다. CPU에서 시작되는 AI 경험 대부분의 경우, 모바일 기기에서의 AI 활용은 CPU에서 시작됩니다. 얼굴, 손, 신체 추적, 고급 카메라 효과 및 필터, 소셜 애플리케이션에서의 이미지 분할 등이 대표적인 예입니다. CPU는 이러한 AI 워크로드를 전적으로 처리하거나, GPU 또는 NPU와 같은 가속기의 지원을 받습니다. ARM 기술은 이러한 AI 워크로드를 가능하게 하는 데 매우 중요합니다. ARM의 CPU 설계는 전 세계 수십억 명의 사용자가 사용하는 스마트폰 SoC 전반에 걸쳐 널리 퍼져 있습니다. 그 결과, 현재 서드파티 애플리케이션에서 사용되는 AI의 70%가 ARM CPU에서 실행되고 있으며, 여기에는 최신 소셜, 건강, 카메라 기반 애플리케이션 등이 포함됩니다. ARM CPU의 유연성과 AI 기능은 모바일 개발자들이 애플리케이션의 AI 워크로드를 위해 가장 많이 선택하는 기술이 되었습니다. ARM CPU는 다양한 데이터 형식으로 광범위한 신경망을 실행할 수 있습니다. 향후 ARM CPU는 ARMv9-A 아키텍처의 Scalable Matrix Extension(SME)과 같은 업계 선도적인 생태계를 위해 명령어 세트에 더욱 많은 AI 기능을 통합할 예정입니다. 이는 개발자들이 AI 기반 애플리케이션의 성능, 혁신적인 기능 및 확장성을 개선하는 데 도움을 줄 것입니다. 새로운 ARM Kleidi 라이브러리는 AI 프레임워크에 직접 내장되어 개발자들이 ARM CPU의 뛰어난 AI 기능을 투명하게 활용할 수 있도록 지원합니다. 이를 통해 개발자들은 최고 성능으로 애플리케이션을 신속하게 구축할 수 있습니다. 선도적인 하드웨어와 소프트웨어 생태계 지원의 결합은 ARM이 게이밍 발전, 이미지 향상, 언어 번역, 텍스트 생성 및 가상 비서와 같은 엣지에서의 생성형 AI 부상을 가능하게 하는 고성능 컴퓨팅 플랫폼을 갖추고 있음을 의미합니다. ARM 컴퓨팅 플랫폼에서의 모바일 LLM MWC 2024에서 ARM은 Meta의 Llama2-7B LLM을 활용한 가상 비서 데모를 선보였습니다. ARM은 Meta의 최신 Llama3 모델과 Microsoft의 Phi-3 3.8B 모델을 ARM CPU에서 신속하게 구동하며 LLM 경험 개선에 대한 의지를 보여주었습니다. 이 새로운 AI 모델들은 훨씬 더 강력해져 더 넓은 범위의 질문에 응답할 수 있습니다. ARM의 최신 데모는 Microsoft의 Phi-3 3.8B 모델을 과학 및 코딩을 위한 가상 튜터로 특별히 훈련된 챗봇 'Ada'를 통해 모바일에서 시연했습니다. 생성형 AI 워크로드는 가속기의 개입 없이 ARM CPU에서 전적으로 엣지에서 처리됩니다. 이러한 인상적인 성능은 기존 CPU의 AI 명령어와 ARM AI 소프트웨어 라이브러리를 통한 전용 소프트웨어 최적화의 조합으로 가능해졌습니다. 시연 영상에서 볼 수 있듯이, 첫 번째 토큰 응답 시간과 초당 약 15개 토큰의 텍스트 생성 속도는 평균적인 사람의 독서 속도보다 빠릅니다. 이는 ARM 엔지니어링 팀이 개발한 소프트웨어 라이브러리의 고도로 최적화된 CPU 루틴 덕분에 첫 번째 토큰 응답 시간과 텍스트 생성 속도가 크게 향상되었기 때문입니다. ARM CPU는 AI 개발자 커뮤니티에 LLM을 더 작고 효율적이며 빠르게 만드는 자체 기술을 실험할 기회를 제공합니다. 더 효율적이고 작은 LLM은 더 많은 AI 처리가 엣지에서 이루어질 수 있도록 합니다. 사용자는 더 빠르고 반응성이 뛰어난 AI 기반 경험을 누릴 수 있으며, 사용자 데이터가 모바일 기기에서 로컬로 처리되어 개인 정보 보호가 강화됩니다. 또한, 모바일 생태계 측면에서는 비용 절감과 확장성 향상을 통해 수십억 대의 모바일 기기에 AI를 배포할 수 있습니다. ARM은 또한 오픈 소스 커뮤니티가 ARM에서 모델 작업을 하는 데 적극적으로 참여하는 것을 기쁘게 생각합니다. 오픈 소스 커뮤니티의 개발자들은 약 48시간 만에 새로운 Llama3 및 Phi-3 3.8B 모델을 ARM에서 구동하는 데 성공했습니다. ARM은 생성형 AI 분야에서 오픈 소스 커뮤니티의 더 많은 참여를 기대하고 있습니다. 모바일에서의 생성형 AI 주도 가장 보편적인 모바일 컴퓨팅 플랫폼이자 효율적인 컴퓨팅의 선두 주자인 ARM은 엣지에서 가장 효율적이고 성능이 뛰어난 생성형 AI를 구현할 책임이 있습니다. ARM은 이미 선도적인 CPU 기술을 기반으로 실행되는 LLM의 인상적인 성능을 시연하고 있습니다. 그러나 이는 시작에 불과합니다. 더 작고 효율적인 LLM, ARM CPU 기반 모바일 기기의 성능 향상, 그리고 업계 선도적인 생태계의 혁신적인 소프트웨어 최적화를 통해 모바일에서의 생성형 AI는 계속 확산될 것입니다. ARM은 AI의 기반이며, ARM CPU를 중심으로 미래 모바일 생성형 AI 혁신을 모든 개발자를 위해 어디에서나 AI를 구현할 것입니다.