Marvell, 맞춤형 AI 가속기를 위한 획기적인 코패키지 광학 아키텍처 발표

Marvell, AI 서버 성능 혁신 이끌 맞춤형 XPU 아키텍처 공개 데이터 인프라 반도체 솔루션 선도 기업인 Marvell Technology, Inc. (NASDAQ: MRVL)가 코패키지드 옵틱스(CPO) 기술을 통합한 맞춤형 XPU 아키텍처의 발전을 발표했습니다. 최근 발표된 맞춤형 고대역폭 메모리(HBM) 컴퓨트 아키텍처를 기반으로, Marvell은 고객들이 차세대 맞춤형 XPU에 CPO를 원활하게 통합하고 AI 서버의 규모를 확장할 수 있도록 지원함으로써 맞춤형 실리콘 리더십을 강화하고 있습니다. 현재 구리 인터커넥트를 사용하는 랙당 수십 개의 XPU에서 CPO를 활용하여 여러 랙에 걸쳐 수백 개의 XPU로 AI 서버 규모를 확장함으로써 AI 서버 성능을 향상시킬 수 있습니다. 이 혁신적인 아키텍처는 클라우드 하이퍼스케일러들이 더 높은 대역폭 밀도를 달성하고 단일 AI 서버 내에서 더 긴 도달 거리의 XPU 간 연결을 제공하는 맞춤형 XPU를 개발할 수 있도록 지원하며, 최적의 지연 시간과 전력 효율성을 제공합니다. 이 아키텍처는 현재 Marvell 고객들의 차세대 맞춤형 XPU 설계에 적용 가능합니다. Marvell의 맞춤형 AI 가속기 아키텍처는 XPU 컴퓨트 실리콘, HBM 및 기타 칩렛을 Marvell 3D SiPho Engines와 동일한 기판에 고속 SerDes, 다이-투-다이 인터페이스 및 고급 패키징 기술을 사용하여 통합합니다. 이 접근 방식은 전기 신호가 XPU 패키지를 벗어나 구리 케이블이나 인쇄 회로 기판을 통과할 필요성을 제거합니다. 통합된 광학 기술을 통해 XPU 간의 연결은 전기 케이블보다 100배 더 긴 데이터 전송 속도와 거리를 달성할 수 있습니다. 이는 최적의 지연 시간과 전력 소모로 여러 랙에 걸쳐 AI 서버 내 연결 규모를 확장할 수 있도록 합니다. CPO 기술은 광학 부품을 단일 패키지 내에 직접 통합하여 전기적 경로 길이를 최소화합니다. 이러한 긴밀한 결합은 신호 손실을 크게 줄이고 고속 신호 무결성을 향상시키며 지연 시간을 최소화합니다. CPO는 고대역폭 실리콘 포토닉스 광학 엔진을 활용하여 데이터 처리량을 향상시키는데, 이는 기존 구리 연결에 비해 더 높은 데이터 전송 속도를 제공하고 전자기 간섭에 덜 민감합니다. 또한, 이 통합은 고전력 전기 드라이버, 리피터 및 리타이머의 필요성을 줄여 전력 효율성을 개선합니다. CPO 기술은 더 긴 도달 거리와 더 높은 밀도의 XPU 간 연결을 가능하게 함으로써 고성능, 고용량 스케일업 AI 서버 개발을 촉진하고 차세대 가속 인프라의 컴퓨팅 성능과 전력 소모를 최적화합니다. 2024 OFC에서 처음 시연된 업계 최초의 Marvell 3D SiPho Engine은 200Gbps 전기 및 광 인터페이스를 지원하며 CPO를 XPU에 통합하는 기본 구성 요소입니다. Marvell 6.4T 3D SiPho Engine은 32개의 200G 전기 및 광 인터페이스 채널, 변조기, 광검출기, 변조기 드라이버, 트랜스임피던스 증폭기, 마이크로컨트롤러 등 수백 개의 구성 요소와 기타 수동 부품을 단일 통합 장치에 집적하여 2배의 대역폭, 2배의 입출력 대역폭 밀도, 그리고 100G 전기 및 광 인터페이스를 갖춘 유사 장치 대비 비트당 30% 낮은 전력을 제공합니다. 현재 다수의 고객이 차세대 솔루션에 통합하기 위해 이 기술을 평가하고 있습니다. Marvell은 8년 이상 고성능, 저전력 COLORZ® 데이터 센터 상호 연결 광 모듈의 연속 세대에 걸쳐 실리콘 포토닉스 기술을 제공해 왔습니다. 이 기술은 수많은 선도적인 하이퍼스케일러들에 의해 품질이 검증되고 대량 생산에 투입되어 데이터 센터 간 대역폭 요구 사항을 충족시켜 왔습니다. Marvell 실리콘 포토닉스 장치는 100억 시간 이상의 현장 운영 시간을 기록했습니다. Marvell은 가속 인프라의 성능, 확장성 및 경제성을 개선하기 위한 상호 연결 기술 혁신을 선도해 왔습니다. Marvell의 상호 연결 포트폴리오는 맞춤형 XPU 내 고성능 통신을 위한 고성능 SerDes 및 다이-투-다이 기술 IP, 동일 보드 상의 CPU와 XPU 간의 효율적인 단거리 연결을 위한 PCIe 리타이머, 메모리 문제를 극복하기 위한 획기적인 CXL 장치, 랙 내 단거리 연결을 위한 Active Electrical Cable 및 Active Optical Cable 디지털 신호 프로세서, 데이터 센터 내 랙 간 연결을 위한 확장되는 PAM 광 DSP 제품군, 그리고 수천 킬로미터 떨어진 데이터 센터를 연결하기 위한 코히런트 DSP 및 데이터 센터 상호 연결 모듈을 포함합니다. Marvell의 Custom, Compute and Storage Group 수석 부사장 겸 총괄 책임자인 Will Chu는 "CPO 아키텍처를 갖춘 Marvell 맞춤형 AI 가속기는 클라우드 하이퍼스케일러들이 AI 서버의 밀도와 성능을 크게 향상시킬 맞춤형 XPU를 개발할 수 있도록 합니다. 광학 기술을 XPU에 직접 통합하는 것은 하이퍼스케일러들이 AI 애플리케이션의 증가하는 요구를 충족시키기 위해 제공해야 하는 맞춤형 가속 인프라를 다음 단계의 규모와 최적화로 끌어올립니다."라고 말했습니다. Marvell의 Network Switching Business Unit 수석 부사장 겸 총괄 책임자인 Nick Kucharewski는 "AI 스케일업 서버는 전례 없는 XPU 클러스터 크기를 지원하기 위해 더 높은 신호 속도와 더 긴 거리를 갖춘 연결성이 필요합니다. 맞춤형 XPU에 코패키지드 옵틱스를 통합하는 것은 더 높은 상호 연결 대역폭과 더 긴 도달 거리로 성능을 확장하는 논리적인 다음 단계입니다."라고 덧붙였습니다. Marvell의 Optical Platforms 수석 부사장 겸 최고 기술 책임자인 Radha Nagarajan은 "실리콘 포토닉스는 증가하는 대역폭 요구 사항, 상호 연결 거리, 전력 소비 및 총 소유 비용을 해결하기 위해 가속 인프라 연결성을 확장하는 데 필수적입니다. 2017년부터 Marvell은 최고 하이퍼스케일러들에게 대량의 실리콘 포토닉스 장치를 제공하는 데 앞장서 왔으며, 이 전문 지식을 활용하여 맞춤형 XPU 연결이라는 킬러 CPO 사용 사례를 위한 최첨단 CPO 아키텍처를 만들었습니다."라고 설명했습니다. LightCounting의 설립자이자 CEO인 Vlad Kozlov는 "클라우드 하이퍼스케일러들은 AI의 증가하는 성능 요구를 충족시키기 위해 차세대 맞춤형 XPU와 스케일업 서버에 CPO 기술을 통합할 것입니다. 우리는 CPO가 현재 5만 포트 미만 출하에서 2029년까지 1,800만 개 이상의 CPO 포트로 성장할 것으로 예측하며, 대부분의 포트는 서버 내 연결에 배포될 것입니다. 광학 기술과 맞춤형 XPU에 대한 경험을 바탕으로 Marvell은 하이퍼스케일러들이 CPO의 잠재력을 발휘하고 이를 인프라의 필수적인 부분으로 만들 수 있도록 이상적인 위치에 있습니다."라고 전망했습니다.