NinjaTech AI, AWS와 협력하여 Amazon AI 칩으로 훈련된 차세대 AI 에이전트 출시

**AI 개인 비서 'Ninja', AWS 칩 기반으로 복잡한 실시간 업무 처리 능력 강화** 실리콘밸리 기반의 생성형 AI 스타트업 NinjaTech AI가 아마존 웹 서비스(AWS)의 맞춤형 머신러닝 칩을 활용해 한 단계 발전된 개인용 AI 'Ninja'를 출시했습니다. 이 AI는 단순한 비서나 보조 기능을 넘어, 사용자를 대신해 복잡한 실시간 업무를 계획하고 비동기적으로 실행할 수 있는 자율 에이전트 기능을 제공합니다. NinjaTech AI는 AWS의 고성능 머신러닝 칩인 Trainium과 Inferentia2, 그리고 클라우드 기반 머신러닝 서비스인 Amazon SageMaker를 통해 자체 AI 에이전트를 신속하고 효율적으로 구축, 훈련 및 확장하고 있습니다. 이를 통해 사용자는 시간 소모적인 업무에서 벗어나 생산성을 높일 수 있게 되었습니다. Ninja는 AWS의 클라우드 컴퓨팅 능력을 활용하여 여러 작업을 동시에 처리할 수 있습니다. 즉, 사용자는 기존 작업이 완료되기를 기다릴 필요 없이 새로운 작업을 할당할 수 있습니다. NinjaTech AI의 창립자이자 CEO인 Babak Pahlavan은 "AWS Annapurna Labs와의 협력은 NinjaTech AI에게 진정한 게임 체인저였습니다. 우리의 강화학습 AI 에이전트에 Trainium 및 Inferentia2 칩이 제공하는 성능과 유연성은 기대치를 훨씬 뛰어넘었습니다. 이 칩들은 통합이 용이하며 Amazon SageMaker를 통해 수천 개의 노드로 탄력적으로 확장 가능합니다."라고 밝혔습니다. 그는 또한 "이 차세대 AWS 설계 칩은 Llama 3와 같은 최신 인기 오픈소스 모델의 70B 변형을 네이티브로 지원하며, 유사 GPU 대비 총 비용을 최대 80% 절감하고 에너지 효율성을 60% 향상시킵니다. 기술 자체뿐만 아니라 AWS 팀의 협력적인 기술 지원은 딥테크를 구축하는 데 있어 엄청난 차이를 만들었습니다."라고 덧붙였습니다. AI 에이전트는 정확성과 속도를 높이기 위해 강화학습 등 다양한 기법으로 수정된 고도로 맞춤화된 대규모 언어 모델(LLM)을 사용합니다. AI 에이전트의 성공적인 개발은 GPU 부족, 비탄력성, 높은 컴퓨팅 비용이라는 현재의 어려움 속에서 스타트업에게는 어렵고 비용이 많이 드는 과제입니다. AWS는 독자적인 칩 기술로 이 문제를 해결하여, 훈련 주기당 필요한 만큼 수천 개의 노드로 확장 가능한 신속한 훈련을 가능하게 합니다. Amazon SageMaker와 결합하면 오픈소스 모델을 활용할 수 있어 AI 에이전트 훈련이 빠르고 유연하며 경제적으로 가능해졌습니다. AWS Annapurna Labs의 시니어 디렉터인 Gadi Hutt는 "AI 에이전트는 우리가 일하고, 협업하고, 배우는 방식을 변화시킬 차세대 생산성 도구로 빠르게 부상하고 있습니다. NinjaTech AI는 AWS Trainium 및 Inferentia2 AI 칩을 사용하여 고객이 신속하게 확장할 수 있는 빠르고 정확하며 비용 효율적인 에이전트를 구현했습니다. 우리는 NinjaTech AI 팀이 자율 에이전트를 시장에 출시하도록 지원하는 동시에, 오픈소스 ML 및 PyTorch, Jax와 같은 인기 프레임워크를 지원하려는 AWS의 노력을 발전시키는 데 기여하게 되어 기쁩니다."라고 말했습니다. NinjaTech AI는 AWS Trainium(Amazon EC2 Trn1 인스턴스)으로 모델을 훈련하고 AWS Inferentia2(Amazon EC2 Inf2 인스턴스)를 사용하여 서비스를 제공하고 있습니다. Trainium은 LLM을 더 빠르고 저렴하게, 그리고 더 적은 에너지를 사용하여 훈련할 수 있도록 AWS에서 고성능 컴퓨팅 클러스터를 지원합니다. Inferentia2 칩은 모델이 최대 40% 더 나은 가격 성능으로 더 빠르고 훨씬 저렴한 비용으로 추론을 생성할 수 있도록 합니다. Pahlavan은 "AWS와의 협력은 상태 최신 AI 에이전트 구축에 필수적인 진정으로 새로운 생성형 AI 기반 플래너 및 액션 엔진 개발 능력을 가속화하는 데 결정적이었습니다. 우리는 놀라운 정확성과 속도를 갖춘 가장 탄력적이고 고성능의 칩이 필요했기 때문에 Trainium 및 Inferentia2 칩으로 Ninja를 훈련하고 배포하기로 한 결정은 완벽했습니다. 모든 생성형 AI 회사는 엄청난 유연성과 속도를 갖춘 온디맨드 AI 칩에 액세스하려면 AWS를 고려해야 합니다."라고 덧붙였습니다. 사용자는 myninja.ai를 방문하여 Ninja를 이용할 수 있습니다. 현재 Ninja는 다단계 실시간 웹 조사, 이메일을 통한 내부 및 외부 당사자와의 회의 예약, 코딩 작업 지원, 이메일 초안 작성 및 조언 제공이 가능한 네 가지 대화형 AI 에이전트를 제공합니다. 또한 Ninja는 OpenAI, Anthropic, Google과 같은 회사의 세계적 수준의 모델 결과 비교를 나란히 볼 수 있는 쉬운 액세스를 제공합니다. 마지막으로 Ninja는 사용자가 거의 무한한 수의 작업을 한 번에 처리할 수 있는 최첨단 비동기 인프라를 제공합니다. Ninja는 고객이 사용할수록 개선되어 일상생활에서 더 생산적으로 만들 것입니다. NinjaTech AI는 복잡한 작업을 자율적으로 처리하도록 설계된 차세대 맞춤형 AI 에이전트를 구축하는 실리콘밸리 기반 회사입니다. NinjaTech AI는 최근 회의 예약, 조사 수행, 조언 제공, 제안 및 코드 디버깅을 통해 개발자를 지원할 수 있는 네 가지 AI 에이전트를 갖춘 개인용 AI 제품인 Ninja를 출시했습니다. 2022년 말 SRI에서 분사한 창립 팀은 Google, AWS, Meta와 같은 회사의 리더들과 함께 30년 이상의 AI 경험을 보유하고 있습니다.