AMD와 Cerebras, 초저지연·고처리량 AI 추론 솔루션 발표

AMD, 세레브라스와 초저지연 AI 추론 솔루션 공동 발표

AMD와 세레브라스 시스템즈가 초저지연 AI 추론 인프라를 위한 공동 기술 솔루션을 발표했습니다. 두 회사는 워크로드에 최적화된 분리형(disaggregated) 추론 방식으로 업계 최고 수준의 응답 속도와 처리량을 동시에 노린다는 계획입니다.

이번 솔루션의 핵심은 AMD의 랙 스케일 시스템 'AMD 헬리오스(Helios)'와 세레브라스의 웨이퍼 스케일 엔진(Wafer-Scale Engine)을 하나의 추론 워크플로로 통합하는 데 있습니다. AMD 헬리오스는 고처리량 프롬프트 처리 엔진 역할을 맡고, 세레브라스 웨이퍼 스케일 엔진은 메모리 대역폭 집약적인 토큰 생성 단계를 초저지연으로 가속합니다. 두 연산 엔진을 결합하면 와트당 초당 토큰 처리량(T/s/W)을 최대 5배까지 높일 수 있을 것으로 기대된다고 회사 측은 밝혔습니다.

이번 협력이 주목받는 배경에는 AI 추론 워크로드의 다변화가 있습니다. 대량 처리가 중요한 작업은 토큰 생성량 극대화를 우선하는 반면, 코딩 도구, 실시간 코파일럿, 라이브 에이전트, 에이전틱 워크플로처럼 빠른 응답이 필요한 작업은 지연 시간 단축이 핵심입니다. 이처럼 지연 시간, 처리량, 토큰 용량, 비용, 규모에 대한 요구가 제각각이 되면서 작업 특성에 맞게 컴퓨팅 기술을 배치하는 이기종(heterogeneous) 인프라에 대한 수요도 커지고 있습니다. 양사의 솔루션은 추론 워크플로의 두 주요 단계를 각각 최적화하는 방식으로 이 과제에 대응합니다.

리사 수 AMD 회장 겸 CEO는 "AI 추론은 AI 분야에서 가장 큰 인프라 기회 중 하나가 되고 있으며, 점점 다양해지는 만큼 더 유연한 접근이 필요하다"며 "AMD 헬리오스는 가장 폭넓은 추론 워크로드에 리더십 수준의 성능과 규모를 제공하고, 세레브라스와 함께 그 리더십을 가장 지연에 민감한 애플리케이션으로 확장하고 있다"고 말했습니다.

앤드류 펠드먼 세레브라스 CEO 겸 공동창업자는 "초고속 추론에 대한 수요가 전례 없는 속도로 늘고 있으며, 세레브라스는 세계에서 가장 빠른 초저지연 추론을 제공한다"며 "AMD와의 협력을 통해 더 많은 고객에게 이 성능을 전달할 수 있게 됐다"고 설명했습니다.

빠른 토큰 생성은 소프트웨어 개발, 자율 에이전트, 로보틱스, 과학 연구 등 응답 시간이 사용자 경험과 시스템 효용을 직접 좌우하는 분야에서 점점 중요해지고 있습니다. 이번 솔루션에서 AMD 헬리오스는 대량의 복잡한 요청을 처리하는 데 필요한 고처리량 프롬프트 엔진, 랙 단위 효율성, 배포 규모를 제공하고, 세레브라스 웨이퍼 스케일 엔진은 토큰을 실시간으로 반환하는 데 필요한 초저지연 및 디코딩 성능을 제공합니다. 양사는 이 조합이 추론 시장의 초저지연 영역을 겨냥하며, AMD 헬리오스가 데이터센터 전반의 고처리량 및 균형형 추론 워크로드의 기반이 된다고 설명했습니다.

세레브라스는 자사 데이터센터에 AMD 헬리오스 시스템을 배치할 계획이며, 공동 솔루션은 2026년 하반기 세레브라스 클라우드를 통해 우선 제공될 예정입니다.

한편 이번 발표는 AMD의 'Advancing AI 2026' 행사에서 공개됐습니다. 다만 두 회사의 제품 출시 시기와 성능 수치는 예상치이며, 실제 결과는 기술 및 시장 상황에 따라 달라질 수 있습니다.