Carrier, Wolfe Research 19차 연례 글로벌 운송 및 산업 컨퍼런스에서 발표 예정

Arm, AI 시대 이끌 차세대 컴퓨팅 솔루션 'CSS for Client' 공개 인공지능(AI)이 소비자 기기 경험을 혁신하며 생산성, 창의성, 엔터테인먼트 분야에 지대한 영향을 미치고 있습니다. 자동화, 몰입감, 개인화 수준이 향상되면서 개발자와 최종 사용자 모두에게 폭넓은 기회가 열리고 있습니다. 특히 온디바이스 생성형 AI는 모바일 시스템 온 칩(SoC)의 발전을 주도하고 있습니다. Arm은 이러한 흐름에 발맞춰 기존 'Total Compute' 솔루션의 성공을 바탕으로 소비자 기기를 위한 새로운 컴퓨팅 서브시스템인 'Arm Compute Subsystems (CSS) for Client'를 발표했습니다. 이는 AI 기반 경험을 위한 컴퓨팅 기반으로서, 가장 광범위한 소비자 기기 전반에 걸쳐 성능, 효율성, 확장성 면에서 획기적인 발전을 제공합니다. CSS for Client는 최신 Armv9.2 Cortex CPU 클러스터와 Arm Immortalis 및 Mali GPU, CoreLink Interconnect 시스템 IP, 그리고 선도적인 파운드리의 3nm 공정 기반 CPU 및 GPU에 대한 양산 준비 완료된 물리적 구현을 포함합니다. 이 플랫폼은 Arm 파트너사들에게 최단 시간 내에 양산 가능한 실리콘을 확보할 수 있는 경로를 제공합니다. 물리적 구현을 통해 Arm 파트너사들은 최첨단 3nm 공정의 모든 이점을 활용하는 동시에, 매우 유연하고 맞춤화된 실리콘 설계를 구현할 수 있습니다. CSS for Client 내부 들여다보기 CSS for Client는 최신 Armv9.2 CPU 클러스터를 특징으로 하며, 이는 Arm의 최고 성능 CPU인 Arm Cortex-X925, 가장 효율적인 Arm Cortex-A725, 그리고 업데이트된 Arm Cortex-A520 CPU를 통합합니다. 이를 통해 AI 및 기타 실제 컴퓨팅 워크로드에서 전례 없는 성능과 효율성을 제공합니다. CSS for Client 구성 요소 CSS for Client의 시스템 통합 및 확장은 최신 CoreLink Interconnect를 통해 이루어집니다. 통합 시스템 레벨 캐시(SLC)는 DRAM 대역폭 및 액세스를 줄여 최적의 시스템 전력 효율성을 달성합니다. 시스템 메모리 관리 장치(SMMU)는 스테이지-2 트랜슬레이션을 통해 향상된 보안을 제공하며, Android Virtualization Framework(AVF)와 같은 가상화 보안 프레임워크를 지원합니다. CSS for Client는 플래그십 스마트폰 기기를 위한 Immortalis-G925를 통해 놀라운 그래픽 및 콘솔 수준의 게임 성능을 제공하며, 이는 5세대 GPU 아키텍처를 기반으로 합니다. 향상된 성능과 전력 효율성을 통해 사용자들은 모바일 기기에서 더 길고 몰입감 있는 게임 세션을 즐길 수 있습니다. CSS for Client는 3nm 공정 노드 기반의 첫 번째 안드로이드 SoC 세대에 포함될 예정이며, 이는 실리콘에서 최고 수준의 PPA(전력, 성능, 면적)를 구현할 수 있게 합니다. CSS for Client의 일부로서 Arm의 물리적 구현은 3nm 기술의 잠재력을 최대한 발휘하여 프리미엄 플랫폼의 PPA 이점을 극대화하고 파트너사들에게 실리콘 개발을 위한 가장 빠른 경로를 제공합니다. 선도적인 파운드리 파트너와 협력하여 CPU 및 GPU 물리적 구현을 공동 설계 및 제공하고 있으며, 여기에는 3nm 공정을 위한 테이프아웃 준비 완료된 Cortex-X925 CPU 및 Immortalis-G925 물리적 구현이 포함됩니다. 이는 파트너사들이 3nm 공정에서 PPA 이점을 최대한 활용하는 동시에, 양산 준비된 실리콘 솔루션을 통해 실리콘 개발 및 배포 시간을 단축하는 데 도움을 줍니다. 또한 파트너사들에게 CSS for Client를 사용하여 시장별 맞춤형 CPU 클러스터 및 GPU를 구축할 수 있는 유연성을 제공합니다. 컴퓨팅 및 AI 성능의 한계 돌파 CSS for Client는 Arm의 현재까지 가장 빠른 안드로이드 플랫폼으로, TCS23 플랫폼 대비 주요 벤치마크 및 일반 컴퓨팅 사용 사례 전반에 걸쳐 상당한 개선을 이루었습니다. 주요 개선 사항은 다음과 같습니다. * 새로운 Cortex-X925 덕분에 Geekbench 6 싱글 코어 점수 기준 최대 성능 36% 향상 * 상위 10개 애플리케이션 중 5개에서 평균 애플리케이션 실행 시간 33% 단축으로 생산성 향상 및 모바일 기기에서의 부드러운 사용자 경험 제공 * Speedometer 2.1 브라우저 벤치마크 측정 기준 웹 브라우징 60% 향상 * 레이 트레이싱 및 가변 레이트 셰이딩(VRS) 벤치마크를 포함한 7개 그래픽 벤치마크에서 평균 최대 그래픽 성능 30% 향상 CSS for Client는 AI 기반 소비자 기기 경험을 위한 플랫폼입니다. 올해 초, Arm은 대규모 언어 모델(LLM)이 모바일 기기의 Arm CPU에서 로컬로 실행될 수 있음을 보여주었습니다. CSS for Client를 통해 LLM은 더 빠른 응답 시간으로 Arm CPU에서 더욱 뛰어난 성능을 발휘할 것입니다. 이 플랫폼은 Llama 3 LLM 실행 시 첫 번째 토큰까지의 시간(time-to-first token)을 42% 단축하고, Phi-3 LLM 실행 시에는 46% 단축합니다. 또한 CSS for Client는 새로운 Arm CPU 및 GPU의 발전을 통해 광범위한 일반 AI 네트워크에 걸쳐 AI 추론 성능에서 상당한 도약을 이루었습니다. 여기에는 Cortex-X925에서 59% 더 빠른 추론, Immortalis-G925에서 36% 더 빠른 AI 추론이 포함됩니다. 또한 CSS for Client CPU 클러스터 구성에서 추가 Cortex-X925 CPU를 활용하면 int8 및 fp16 데이터 유형에 대한 17개 인기 네트워크에서 AI 추론 성능이 놀랍게도 2.7배 향상되는 것을 관찰할 수 있습니다. 이러한 AI 추론 개선은 다양한 AI 사용 사례에 걸쳐 원활한 사용자 경험을 가능하게 합니다. CSS for Client가 특히 빛을 발하는 AI 사용 사례 중 하나는 컴퓨팅 사진 및 AI 카메라입니다. 배경을 흐리게 하고 선택한 피사체에 초점을 맞추는 사실적인 보케 효과를 갖춘 멋진 사진과 동영상을 캡처하는 것은 복잡합니다. AI 카메라 보케 파이프라인은 고품질 결과를 생성하기 위해 깊이 추정, 분할, 마스킹, 블렌딩과 같은 여러 단계를 포함합니다. TCS23과 비교하여 CSS for Client는 CPU에서 보케 워크로드에 대한 AI 처리를 통해 보케 성능이 24% 증가했습니다. 이는 사용자들이 배터리 수명을 희생하지 않고 사진 및 동영상에서 더 빠르고 부드러운 보케 효과를 즐길 수 있음을 의미합니다. CSS for Client의 성능 및 전력 최적화는 소프트웨어 및 도구의 조합을 통해 더욱 가능해집니다. 고도로 최적화된 머신러닝(ML) 커널 모음인 KleidiAI를 특징으로 하는 Arm의 새로운 Kleidi 라이브러리의 도입은 개발자들이 고도로 최적화된 생성형 AI 프레임워크를 통해 AI 워크로드를 실행할 때 Arm CPU의 잠재력을 최대한 발휘할 수 있도록 합니다. 이는 개발자들이 가능한 최고 성능으로 가장 광범위한 기기에서 AI 기반 애플리케이션을 신속하게 구축할 수 있음을 의미합니다. 더욱 몰입감 있고 긴 게임 세션을 위해 CSS for Client는 두 자릿수 성능 및 전력 효율성 개선을 제공합니다. 여기에는 동일한 전력에서 평균 37%의 성능 향상과 120fps(초당 프레임 수)로 플레이할 때 30%의 GPU 전력 감소가 포함됩니다. 모든 소비자 기기 시장에 걸친 확장 가능한 성능 Arm은 CSS for Client를 통한 성능 및 효율성 향상을 통해 모든 사람이 AI를 사용할 수 있도록 하는 데 전념하고 있으며, 이는 광범위한 소비자 기기 및 폼 팩터에 걸쳐 확장 가능합니다. CSS for Client는 시장에 출시되는 가장 성능이 뛰어난 소비자 기기를 대상으로 확장되며, 여기에는 Cortex-X925가 Arm Cortex-X4 CPU 대비 TOPS(초당 테라 연산)가 50% 더 높은 차세대 AI PC가 포함됩니다. CSS for Client는 PC 시장을 위한 맞춤형 확장 가능 플랫폼을 제공합니다. 이는 최고 수준의 단일 스레드 성능을 위한 Cortex-X925와 단일 CPU 클러스터 내에서 최대 14개의 CPU 코어를 제공하는 새로 업데이트된 DSU-120을 통한 최고의 성능 확장성을 특징으로 합니다. SVE2와 함께, 모바일 생태계에서 이미 입증된 보안 기술인 포인터 인증(PAC), 분기 대상 식별(BTI), 메모리 태깅 확장(MTE)과 같은 더 많은 Armv9 아키텍처 기능이 PC 시장에 출시될 예정입니다. CSS for Client를 통해 Arm은 모든 성능 및 비용 지점에서 소비자 기기 시장에 접근 가능한 AI를 제공합니다. Cortex-A725는 전력 효율적인 AI 처리량을 위한 기본 프로세서 역할을 하며, 비용에 민감한 대량 생산 소비자 기술 부문을 위한 AI 처리의 주요 작업 엔진이자 개발자 대상입니다. 예를 들어, 이 가상 비서 데모는 기존 안드로이드 스마트폰에서 3개의 Cortex-A700 시리즈 CPU 코어를 사용하여 Llama2-7B 및 Phi-3 3.8B LLM을 실행하는 성능을 보여줍니다. 마지막으로, 면적 최적화된 Cortex-A725는 광범위한 소비자 기술 부문에 걸쳐 생성형 AI 워크로드를 면적 효율적으로 배포할 수 있도록 합니다. 소비자 기술 AI 기반 CSS for Client는 광범위한 소비자 기기에 걸쳐 차세대 AI 경험을 위한 맞춤형 플랫폼입니다. 모바일에서는 사용자들이 이전과는 다른 안드로이드 경험을 하게 될 것이며, CSS for Client는 Arm의 가장 빠른 안드로이드용 컴퓨팅 플랫폼입니다. 이 플랫폼의 PPA 이점은 실리콘 파트너들에게 더 빠른 시장 출시 시간과 마찰 없는 배포 기회를 제공하는 물리적 구현을 통해 실현됩니다. CSS for Client의 확장 가능한 성능 기능은 모든 비용 지점에서 AI 성능을 발휘하여 "모든 사람을 위한 AI"를 제공하며, 다양한 기기 및 폼 팩터 유형에 걸쳐 AI 성능을 해제하는 데 도움을 줍니다. 본질적으로 CSS for Client는 생태계가 더 많은 것을 할 수 있도록 합니다. 더 많은 성능, 더 많은 AI, 더 많은 애플리케이션 경험, 또는 더 발전된 실리콘을 발휘하든, 모든 것을 포괄합니다. 이 플랫폼을 통해 Arm은 오늘날과 미래의 AI 기반 경험을 위한 소비자 컴퓨팅의 미래를 구축하고 있습니다.