Fireworks AI, Microsoft Foundry에 탑재되어 Azure에서 고성능, 저지연 추론 제공

핵심 포인트

• •Microsoft Foundry에 Fireworks AI가 통합되어 Azure에서 고성능 오픈 모델 추론이 가능해졌습니다.
• •이는 개발자들이 오픈 모델을 효율적으로 실행하고, 맞춤 설정하며, 엔터프라이즈급 AI 라이프사이클의 일부로 운영할 수 있는 단일 플랫폼을 제공합니다.
• •Fireworks AI는 이미 인터넷 규모에서 하루 13조 토큰을 처리하며 초당 약 18만 건의 요청을 처리하는 등 업계 최고 수준의 추론 성능을 자랑하며, 이는 Microsoft Foundry를 통해 Azure 고객에게 제공됩니다.

긍정 / 부정 요인