Arm CSS for Client: AI 기반 소비자 경험을 위한 컴퓨팅 플랫폼

Arm, AI 시대 위한 차세대 컴퓨트 솔루션 'CSS for Client' 공개 인공지능(AI)이 스마트폰, 태블릿 등 소비자 기기의 경험을 혁신하며 생산성, 창의성, 엔터테인먼트 분야에서 새로운 가능성을 열고 있습니다. 자동화, 몰입감, 개인화가 강화되면서 개발자와 최종 사용자 모두에게 폭넓은 기회가 주어지고 있습니다. 이러한 AI 기술 발전의 중심에는 모바일 시스템 온 칩(SoC)의 진화를 이끄는 온디바이스 생성형 AI가 있습니다. Arm은 이러한 흐름에 발맞춰 기존 'Arm Total Compute solutions'의 성공을 바탕으로 소비자 기기를 위한 새로운 컴퓨트 서브시스템인 'Arm Compute Subsystems (CSS) for Client'를 발표했습니다. 이는 AI 기반 경험을 위한 컴퓨트 기반으로서, 가장 광범위한 소비자 기기 전반에 걸쳐 성능, 효율성, 확장성에서 획기적인 발전을 제공합니다. CSS for Client는 최신 Armv9.2 Cortex CPU 클러스터와 Arm Immortalis 및 Mali GPU, CoreLink Interconnect 시스템 IP, 그리고 선도적인 파운드리의 3nm 공정 기반 CPU 및 GPU에 대한 양산 준비가 완료된 물리적 구현을 포함합니다. 이 플랫폼은 Arm 파트너사들이 가장 빠른 시일 내에 양산용 실리콘을 확보할 수 있도록 지원합니다. 또한, 물리적 구현을 통해 Arm 파트너사들은 최첨단 3nm 공정의 모든 이점을 활용하는 동시에, 매우 유연하고 맞춤화된 실리콘 설계를 구현할 수 있습니다. CSS for Client 내부 들여다보기 CSS for Client는 최신 Armv9.2 CPU 클러스터를 특징으로 하며, 이는 Arm의 최고 성능 Arm Cortex-X925 CPU, 가장 효율적인 Arm Cortex-A725 CPU, 그리고 업데이트된 Arm Cortex-A520 CPU를 통합합니다. 이를 통해 AI 및 기타 실제 컴퓨팅 워크로드에서 전례 없는 성능과 효율성을 제공합니다. CSS for Client 구성 요소 CSS for Client의 시스템 통합 및 확장은 최신 CoreLink Interconnect를 통해 이루어집니다. 통합 시스템 레벨 캐시(SLC)는 DRAM 대역폭 및 액세스를 줄여 최적의 시스템 전력 효율성을 달성합니다. 시스템 메모리 관리 장치(SMMU)는 스테이지-2 변환을 통해 향상된 보안 기능을 제공하며, Android Virtualization Framework(AVF)와 같은 가상화 보안 프레임워크를 지원합니다. CSS for Client는 플래그십 스마트폰 기기를 위해 5세대 GPU 아키텍처를 기반으로 구축된 Immortalis-G925를 통해 놀라운 그래픽과 콘솔 수준의 게임 성능을 구현합니다. 향상된 성능과 전력 효율성을 통해 사용자는 모바일 기기에서 더 길고 몰입감 있는 게임 세션을 즐길 수 있습니다. CSS for Client는 3nm 공정 노드 기반의 첫 번째 안드로이드 SoC 세대에 포함될 예정이며, 이는 실리콘에서 최고의 PPA(전력, 성능, 면적)를 가능하게 합니다. CSS for Client의 일부인 Arm의 물리적 구현은 3nm 기술의 잠재력을 최대한 발휘하여 프리미엄 플랫폼의 PPA 이점을 극대화하고 파트너사를 위한 가장 빠른 실리콘 생산 경로를 제공합니다. 선도적인 파운드리 파트너와 협력하여 CPU 및 GPU 물리적 구현을 공동 설계 및 제공하고 있으며, 여기에는 3nm용 Cortex-X925 CPU 및 Immortalis-G925 물리적 구현의 테이프아웃 준비가 포함됩니다. 이는 파트너사들이 3nm 공정에서 PPA 이점을 최대한 활용하는 동시에, 양산 준비가 된 실리콘 솔루션을 통해 실리콘 개발 및 배포 시간을 단축하도록 돕습니다. 또한, 파트너사들이 CSS for Client를 사용하여 시장별로 차별화된 CPU 클러스터 및 GPU를 구축할 수 있는 유연성을 제공합니다. 컴퓨팅 및 AI 성능의 한계 돌파 CSS for Client는 Arm의 현재까지 안드로이드용 최고 성능 플랫폼으로, TCS23 플랫폼 대비 주요 벤치마크 및 일반 컴퓨팅 사용 사례 전반에 걸쳐 상당한 개선을 보여줍니다. 여기에는 다음과 같은 사항이 포함됩니다. * 새로운 Cortex-X925 덕분에 Geekbench 6 싱글 코어 점수로 측정된 피크 성능 36% 향상 * 상위 10개 애플리케이션 중 5개에서 평균 33% 더 빠른 애플리케이션 실행 시간으로 생산성 향상 및 모바일 기기에서의 유연한 사용자 경험 제공 * Speedometer 2.1 브라우저 벤치마크로 측정된 웹 브라우징 속도 60% 향상 * 레이 트레이싱 및 가변 속도 셰이딩(VRS) 벤치마크를 포함한 7개 그래픽 벤치마크에서 평균 30%의 피크 그래픽 성능 향상 CSS for Client의 성능 이점 일부 CSS for Client는 AI 기반 소비자 기기 경험을 위한 플랫폼입니다. 올해 초, Arm은 대규모 언어 모델(LLM)이 모바일 기기의 Arm CPU에서 로컬로 실행될 수 있음을 보여주었습니다. CSS for Client를 통해 LLM은 Arm CPU에서 더욱 빠르게 응답하며 더 나은 성능을 발휘할 것입니다. 이 플랫폼은 Llama 3 LLM 실행 시 첫 토큰 생성 시간 42% 단축, Phi-3 LLM 실행 시 첫 토큰 생성 시간 46% 단축을 제공합니다. CSS for Client를 갖춘 Arm CPU에서 LLM 실행 또한, CSS for Client는 새로운 Arm CPU 및 GPU의 발전으로 인해 광범위한 일반 AI 네트워크에 걸쳐 AI 추론에서 상당한 성능 도약을 달성했습니다. 여기에는 Cortex-X925에서 59% 더 빠른 추론, Immortalis-G925에서 36% 더 빠른 AI 추론이 포함됩니다. 또한, CSS for Client CPU 클러스터 구성에서 추가 Cortex-X925 CPU를 활용함으로써 int8 및 fp16 데이터 유형에 대한 17개 인기 네트워크 전반에 걸쳐 AI 추론 성능이 놀랍게도 2.7배 향상되었습니다. 이러한 AI 추론 개선은 다양한 AI 사용 사례 전반에 걸쳐 원활한 사용자 경험을 가능하게 합니다. CSS for Client를 통한 AI 추론 개선 CSS for Client가 특히 빛을 발하는 AI 사용 사례 중 하나는 컴퓨테이셔널 포토그래피 및 AI 카메라입니다. 배경을 흐리게 하고 선택한 피사체에 초점을 맞추는 사실적인 보케 효과로 멋진 사진과 동영상을 촬영하는 것은 복잡합니다. AI 카메라 보케 파이프라인은 고품질 결과를 생성하기 위해 깊이 추정, 분할, 마스킹, 블렌딩 등 여러 단계를 포함합니다. TCS23 대비 CSS for Client는 보케 워크로드에 대한 CPU에서의 AI 처리를 통해 보케 성능이 24% 증가했습니다. 이는 사용자가 배터리 수명을 희생하지 않고 사진 및 동영상에서 더 빠르고 부드러운 보케 효과를 즐길 수 있음을 의미합니다. AI 카메라를 통한 보케 개선 CSS for Client의 추가 성능 및 전력 최적화는 소프트웨어와 도구의 조합을 통해 가능합니다. 고도로 최적화된 머신러닝(ML) 커널 모음인 KleidiAI를 특징으로 하는 Arm의 새로운 Kleidi 라이브러리 도입은 개발자가 고도로 최적화된 생성형 AI 프레임워크를 통해 AI 워크로드를 실행할 때 Arm CPU의 잠재력을 최대한 발휘할 수 있도록 합니다. 이는 개발자가 가능한 최고 성능으로 가장 광범위한 기기에서 AI 기반 애플리케이션을 빠르게 구축할 수 있음을 의미합니다. 더욱 몰입감 있고 긴 게임 세션을 위해 CSS for Client는 두 자릿수 성능 및 전력 효율성 개선을 제공합니다. 여기에는 동일한 전력에서 평균 37%의 성능 향상과 다양한 인기 모바일 게임에서 평균 120 프레임(fps)으로 플레이할 때 30%의 GPU 전력 감소가 포함됩니다. 모든 소비자 기기 시장에 걸친 확장 가능한 성능 Arm은 CSS for Client를 통한 성능 및 효율성에 대한 끊임없는 추구를 통해 모든 사람을 위한 AI를 지원하는 데 전념하고 있으며, 이는 광범위한 소비자 기기 및 폼 팩터에 걸쳐 확장 가능합니다. CSS for Client는 시장에 출시되는 가장 성능이 뛰어난 소비자 기기를 대상으로 확장되며, 여기에는 Cortex-X925가 Arm Cortex-X4 CPU 대비 TOPS가 50% 더 높은 차세대 AI PC가 포함됩니다. CSS for Client는 PC 시장을 위한 맞춤형 확장 가능한 플랫폼을 제공합니다. 이는 최고의 단일 스레드 성능을 위한 Cortex-X925와 단일 CPU 클러스터 내에서 최대 14개의 CPU 코어를 제공하는 새로 업데이트된 DSU-120을 통한 최고의 성능 확장성을 특징으로 합니다. SVE2와 함께, 모바일 생태계에서 이미 입증된 보안 기술인 포인터 인증(PAC), 분기 대상 식별(BTI), 메모리 태깅 확장(MTE)과 같은 더 많은 Armv9 아키텍처 기능이 PC 시장에 출시될 예정입니다. CSS for Client를 통해 Arm은 모든 성능 및 비용 지점에서 소비자 기기 시장에 접근 가능한 AI를 제공합니다. Cortex-A725는 전력 효율적인 AI 처리량을 위한 주요 프로세서로서, 비용에 민감한 대중 시장 소비자 기술 부문의 AI 처리를 위한 주요 작업 장치 및 개발자 대상 역할을 합니다. 예를 들어, 이 가상 비서 데모는 기존 안드로이드 스마트폰에서 3개의 Cortex-A700 시리즈 CPU 코어를 사용하여 Llama2-7B 및 Phi-3 3.8B LLM을 실행하는 성능을 보여줍니다. 마지막으로, 면적 최적화된 Cortex-A725는 광범위한 소비자 기술 부문에 걸쳐 생성형 AI 워크로드를 면적 효율적으로 배포할 수 있도록 합니다. 소비자 기술 AI 기반 CSS for Client는 광범위한 소비자 기기에 걸쳐 차세대 AI 경험을 위한 맞춤형 플랫폼입니다. 모바일에서는 사용자가 이전과는 다른 안드로이드 경험을 하게 될 것이며, CSS for Client는 Arm의 안드로이드용 최고 성능 컴퓨트 플랫폼입니다. 이 플랫폼의 PPA 이점은 실리콘 파트너에게 더 빠른 시장 출시 시간과 마찰 없는 배포 기회를 제공하는 물리적 구현을 통해 실현됩니다. CSS for Client의 확장 가능한 성능 기능은 "모든 사람을 위한 AI"를 제공하여 다양한 기기 및 폼 팩터 유형에 걸쳐 모든 비용 지점에서 AI 성능을 발휘하도록 돕습니다. 본질적으로 CSS for Client는 성능, AI, 애플리케이션 경험, 고급 실리콘 등 무엇이든 더 많이 할 수 있도록 생태계를 지원하며, 모든 기반을 다룹니다. 이 플랫폼을 통해 Arm은 오늘날과 미래의 AI 기반 경험을 위한 소비자 컴퓨팅의 미래를 구축하고 있습니다.