AI를 위한 차세대 인프라 소개

메타(META), AI 시대 위한 차세대 인프라 구축 박차 메타(META)가 차세대 대규모 인프라 구축에 AI를 핵심으로 삼고 있습니다. 이는 새로운 생성형 AI 제품, 추천 시스템 및 첨단 AI 연구 지원을 포함하며, 앞으로 AI 모델의 정교함이 증가함에 따라 컴퓨팅 요구사항 또한 늘어날 것으로 예상됨에 따라 지속적인 투자가 이루어질 전망입니다. 작년 메타는 자체 설계한 1세대 AI 추론 가속기인 Meta Training and Inference Accelerator(MTIA) v1을 공개했습니다. 이 칩은 메타의 AI 워크로드, 특히 앱과 기술 전반의 다양한 경험을 개선하는 딥러닝 추천 모델에 최적화되어 설계되었습니다. MTIA는 메타 고유의 워크로드에 가장 효율적인 아키텍처를 제공하기 위한 장기적인 투자이며, AI 워크로드가 제품 및 서비스에서 차지하는 중요성이 커짐에 따라 이러한 효율성은 사용자에게 최고의 경험을 제공하는 능력의 핵심이 될 것입니다. MTIA v1은 인프라의 컴퓨팅 효율성을 개선하고, 새로운 사용자 경험을 촉진할 AI 모델을 구축하는 소프트웨어 개발자들을 지원하는 데 중요한 역할을 했습니다. 차세대 MTIA는 메타의 고유한 워크로드와 시스템을 해결하기 위한 맞춤형, 도메인 특화 실리콘을 위한 포괄적인 풀스택 개발 프로그램의 일환입니다. 새로운 버전의 MTIA는 이전 솔루션 대비 컴퓨팅 성능과 메모리 대역폭을 두 배 이상 향상시키면서도 워크로드와의 긴밀한 연관성을 유지했습니다. 이 칩은 사용자에게 고품질 추천을 제공하는 랭킹 및 추천 모델을 효율적으로 지원하도록 설계되었습니다. 칩 아키텍처는 랭킹 및 추천 모델 서빙에 필요한 컴퓨팅, 메모리 대역폭 및 메모리 용량 간의 최적의 균형을 제공하는 데 중점을 두고 있습니다. MTIA는 이미 메타의 데이터센터에 배포되어 실제 서비스에서 모델을 지원하고 있습니다. 이 프로그램을 통해 보다 집중적인 AI 워크로드에 더 많은 컴퓨팅 파워를 할당하고 투자할 수 있게 되면서 긍정적인 결과를 이미 확인하고 있습니다. 현재까지의 결과에 따르면 MTIA 칩은 메타 제품의 핵심 구성 요소인 복잡성이 낮은 랭킹 및 추천 모델과 복잡성이 높은 랭킹 및 추천 모델 모두를 처리할 수 있습니다. 메타는 전체 스택을 직접 제어함으로써 상용 GPU(그래픽 처리 장치) 대비 더 높은 효율성을 달성하고 있습니다. 메타의 맞춤형 실리콘에 대한 지속적인 투자 MTIA는 메타의 고유한 AI 워크로드를 위한 가장 강력하고 효율적인 인프라를 구축하고 확장하기 위한 장기 로드맵에서 중요한 부분을 차지할 것입니다. 메타는 맞춤형 실리콘을 기존 인프라뿐만 아니라 향후 활용할 수 있는 차세대 GPU를 포함한 새로운 고급 하드웨어와 협력하도록 설계하고 있습니다. 맞춤형 실리콘에 대한 야심을 충족시키기 위해서는 컴퓨팅 실리콘뿐만 아니라 메모리 대역폭, 네트워킹 및 용량, 그리고 기타 차세대 하드웨어 시스템에 대한 투자도 필요합니다. 현재 메타는 MTIA의 범위를 확장하기 위한 여러 프로그램을 진행 중이며, 여기에는 GenAI 워크로드 지원도 포함됩니다. 메타는 이 여정의 시작점에 서 있습니다.