마벨, 6채널 CXL 3.2 메모리 확장기 2세대 Structera X 공개… AI 추론용 업계 최초

마벨, 2세대 Structera X 출시… AI 추론용 6채널 CXL 3.2 메모리 확장기 업계 최초 공개

마벨 테크놀로지(NASDAQ: MRVL)는 AI 추론 워크로드를 겨냥한 2세대 CXL 메모리 확장 컨트롤러 Structera X 3406과 Structera X 3506을 발표했습니다. 클라우드, 엔터프라이즈, AI 인프라 사업자가 보다 효율적이고 확장성 높은 고성능 시스템을 구축할 수 있도록 설계된 제품입니다.

이번 제품은 AI 시대의 메모리 용량 확장을 목표로 합니다. Structera X 3406과 3506은 이전 세대 대비 50% 많은 6개의 DDR4/DDR5 채널과 PCIe Gen 6 연결을 지원하며, 컨트롤러 1개당 최대 9TB의 DDR4 또는 6TB의 DDR5 메모리를 지원합니다. 다중 호스트 공유와 인라인 LZ4 압축 기능을 통해 유효 메모리 용량은 최대 2~3배까지 늘어나며, 동일한 컨텍스트 길이에서 첫 토큰 생성 시간(TTFT)은 최대 40~50% 단축됩니다.

AI 워크로드는 데이터센터 설계 방식을 바꾸고 있습니다. LLM의 크기가 커지고 컨텍스트 윈도우가 확대되며 KV 캐시 요구량이 늘어나면서, 기존 서버 아키텍처로는 감당하기 어려운 수준의 메모리 수요가 발생하고 있습니다. 메모리는 AI 성능과 인프라 효율을 좌우하는 핵심 제약 요소입니다. LLM 서빙부터 딥러닝 추천 모델(DLRM)까지 주요 AI 추론 워크로드는 메모리 병목에 크게 영향을 받으며, KV 캐시 용량이 TTFT, 처리량, XPU 활용률을 직접 결정합니다.

Structera X 3406/3506은 이러한 병목을 해소하기 위해 다음과 같은 기능을 제공합니다. 먼저 업계 최초의 6채널 CXL 메모리 확장으로, 6개의 DDR4/DDR5 채널을 통해 이전 세대보다 50% 많은 채널을 확보해 메모리 대역폭과 용량을 높입니다. 이를 통해 AI 서버는 더 큰 모델과 더 긴 컨텍스트 윈도우를 안정적으로 운용할 수 있습니다. Structera X 3406은 최대 18개의 DDR4 RDIMM 슬롯으로 9TB를, Structera X 3506은 12개의 DDR5 RDIMM 슬롯으로 6TB를 지원합니다.

또한 업계 최초로 최대 4개 호스트 연결을 지원해 최대 4개 호스트와 메모리 용량을 공유할 수 있으며, 최대 256GB/s의 PCIe 6.0 x16 호스트 대역폭을 제공합니다. 이를 통해 AI 클러스터 전반의 메모리 활용률과 효율이 개선됩니다. 이전 세대 대비 LZ4 압축 처리량은 5배 높아졌으며, 최대 250GB/s의 압축 및 해제 처리량으로 워크로드에 따라 유효 메모리 용량을 최대 2~3배까지 늘릴 수 있습니다.

신뢰성 측면에서는 StructGuard™ 엔터프라이즈급 RAS 기능으로 고급 오류 정정을 제공해 DRAM 장치 고장에 대한 메모리 안정성과 복원력을 높였습니다. 보안 측면에서도 업계 최초로 양자내성암호(PQC), Caliptra 2.0, CXL IDE, AES-256 메모리 암호화를 결합해 데이터 보호를 강화했습니다.

성능 개선 수치는 워크로드별로 다르게 제시됐습니다. DLRM 워크로드에서 Structera X는 이전 세대 대비 최대 2배 높은 초당 쿼리 수(QPS)와 컨트롤러당 2~3배 많은 임베딩 테이블 유효 용량을 제공합니다. LLM 서빙에서는 동일한 컨텍스트 길이 기준 TTFT가 최대 40~50% 빨라지며, 동일 지연 시간 기준으로는 지원 가능한 컨텍스트 윈도우가 최대 2배까지 늘어납니다.

1세대 Structera X 2404/2504의 성과를 바탕으로, 3406/3506은 검증된 소프트웨어 스택과 생태계 연동을 활용해 빠른 양산 확대를 추진합니다. 마벨의 CXL 생태계는 CPU 및 메모리 업체, OEM, ODM, 시스템 통합사업자와의 긴밀한 협력을 통해 데이터센터 전반으로 확장되고 있습니다.

업계 반응도 나왔습니다. 오브젝티브 애널리시스의 짐 핸디 총괄 이사는 "CXL은 매우 높은 대역폭과 대용량 메모리 지원이라는 장점 덕분에 AI 시스템에서 빠르게 채택되고 있다"며 "현재의 메모리 부족과 높은 가격은 IT 관리자들이 기존 DDR4 DIMM을 CXL로 DDR5 시스템에 재배치해 즉각적인 비용 절감을 노리도록 만들고 있다"고 말했습니다. 이어 "가까운 미래에는 CXL 메모리 풀을 활용해 낭비되는 메모리를 줄이고 더 큰 절감을 이룰 것이며, 이 컨트롤러처럼 압축 기능을 제공하는 제품에 더 큰 관심을 보일 것"이라고 덧붙였습니다.

마벨의 윌 추 수석부사장 겸 커스텀 클라우드 솔루션 총괄은 "마벨은 메모리 확장(Structera X), 근접 메모리 가속(Structera A), 포토닉 패브릭 메모리 어플라이언스(PFMA)와 같은 포드 규모 CXL 메모리 공유 어플라이언스까지 아우르는 완전한 엔드투엔드 CXL 포트폴리오를 갖춘 유일한 공급업체"라며 "직접 연결형부터 분리형 메모리 풀링까지 고객에게 완전한 포트폴리오를 제공한다"고 밝혔습니다. 이어 "가장 까다로운 AI 인프라 요구를 충족하기 위해 주요 하이퍼스케일러와 공동 개발한 업계 최고 수준의 CXL 컨트롤러를 선보이고 있다"고 말했습니다.

생태계 파트너들의 지지도 이어졌습니다. AMD의 라구 나미아르 데이터센터 생태계·솔루션 담당 법인 부사장은 "AMD는 기업이 변화하는 워크로드를 중심으로 인프라를 구축할 수 있도록 개방형 생태계를 발전시키고 있으며, CXL은 그 비전의 중요한 부분"이라며 "마벨과의 협력은 AMD EPYC 프로세서의 성능과 확장성을 바탕으로 기업들이 이러한 이점을 실현하도록 돕는다"고 말했습니다.

Arm의 에디 라미레즈 클라우드 AI 시장 진출 담당 부사장은 "AI가 점점 에이전틱해지면서 메모리와 컴퓨트는 함께 확장되어야 한다"며 "마벨의 최신 Structera X 컨트롤러는 Arm 생태계에 CXL 3.2, 메모리 확장, 압축 기능을 제공해 하이퍼스케일러 고객이 복잡한 AI 워크로드를 효율적으로 지원할 수 있는 선택지를 넓힌다"고 밝혔습니다.

알리바바와의 협력도 언급됐습니다. 마벨은 AI 인프라의 급증하는 메모리 수요를 해결하기 위해 CXL 메모리 솔루션을 함께 발전시키고 있으며, 알리바바의 대규모 AI 및 클라우드 인프라 경험과 마벨의 CXL 기술 리더십을 결합해 차세대 AI 데이터센터를 위한 메모리 아키텍처를 개발하고 있습니다.

메타의 야샤르 바야니 하드웨어 엔지니어링 디렉터는 "시스템이 확장되면서 인프라 효율과 비용을 개선하며 메모리 용량을 늘리는 것이 중요해지고 있다"며 "CXL은 메모리 자원을 확장하고 인프라 경제성을 최적화하는 유연한 방식을 제공하며, 마벨을 포함한 생태계와 함께 차세대 확장형 인프라를 구현하기를 기대한다"고 말했습니다.

삼성전자의 최장석 메모리제품기획팀 부사장은 "마벨과 협력해 Structera를 삼성 DDR 메모리와 함께 고객이 안심하고 배포할 수 있도록 검증했다"며 "Structera X 3406/3506의 CXL 3.2 전환과 6채널 메모리는 공동 고객이 필요로 하는 유연성을 한층 강화한다"고 밝혔습니다.

SK하이닉스의 강욱성 차세대 제품기획·실현 담당 책임자는 "마벨과 함께 Structera를 SK하이닉스 메모리와 검증한 것은 메모리 확장을 더 쉽고 유연하게 만든다는 공동 목표를 뒷받침한다"며 "Structera X 3406/3506은 고객이 더 적은 마찰과 더 많은 선택지로 미래 지향적이고 분리형 아키텍처를 구축할 수 있는 도구를 제공한다"고 말했습니다.

출시 일정은 다음과 같습니다. Structera X 3406과 3506 CXL 메모리 확장 컨트롤러는 2027년 1분기 샘플 출하가 예정되어 있습니다. 2026년 10월 12일부터 15일까지 미국 새너제이에서 열리는 2026 OCP 글로벌 서밋에서 마벨 부스 B31을 통해 신제품을 확인할 수 있습니다.