닌자텍, GPU 대신 AWS 칩으로 구동되는 자율 AI 에이전트 공개

닌자테크 AI, 다목적 AI 에이전트 서비스 '닌자 AI' 공개 베타 출시

실리콘 밸리에 본사를 둔 닌자테크 AI가 혁신적인 웹 애플리케이션 '닌자 AI'의 공개 베타를 출시했습니다. 이 애플리케이션은 연구원, 소프트웨어 엔지니어, 스케줄러 등 다양한 역할을 수행할 수 있습니다. 사용자는 이 다목적 도구를 웹사이트에서 탐색할 수 있습니다.

닌자 AI는 무료 플랜과 유료 구독 옵션을 제공합니다. 유료 사용자는 OpenAI의 GPT-4o, Anthropic의 Claude 3, Google Gemini와 연결된 애플리케이션 프로그래밍 인터페이스(API)를 통해 더 높은 기능을 이용할 수 있습니다.

닌자 AI의 주요 기능

닌자 AI는 Llama3 70B 기본 모델을 기반으로 한 NinjaLLM으로 구동됩니다. 사용자는 GPT-4를 사용하여 여러 AI 모델의 결과를 실시간으로 비교하고 유사점 및 차이점을 요약할 수 있습니다. 또한 사용자의 Google 계정을 통해 Google 캘린더 이벤트를 관리하며, 향후 Apple iCal 지원도 계획되어 있습니다.

게다가 닌자 AI는 자체 주소에서 이메일 초대를 자동으로 보내고, 다양한 목소리로 사용자와 상호작용하며, Unreal Engine으로 구동되는 3D 캐릭터를 사용한 화상 채팅도 지원합니다. 이 도구는 백그라운드에서 다중 작업을 수행하며 사용자가 다른 활동을 할 수 있도록 합니다.

작업이 완료되면 사용자에게 알림이 전송되며, 편리한 사이드바를 통해 진행 중인 작업을 모니터링할 수 있습니다. 전통적인 챗봇과 달리 닌자 AI는 사용자가 여러 요청을 동시에 입력할 수 있으며, 지정된 순서에 따라 실행됩니다.

“간단한 질문과 답변을 넘어서는 보조 도구를 만드는 것이 목표입니다.”라고 닌자테크 AI의 창립자이자 CEO인 바박 팔라반이 밝혔습니다. “실제 상황에서는 소프트웨어 작업과 인간 상호작용을 모두 관리할 수 있는 보조 도구가 필요합니다.”

현재 제공되는 5가지 주요 에이전트:

- 닌자 어드바이저

- 닌자 코더

- 기본 스케줄러

- 실시간 웹 검색

- 제한된 제3자 LLM 접근

유료 사용자에게 제공되는 강화된 기능

닌자 AI는 무료 옵션을 통해 사용자가 어드바이저, 코더, 연구원 및 제3자 LLM을 통해 하루 최대 20개의 작업을 실행할 수 있습니다. 스케줄러에서는 5개의 작업이 지원됩니다. 월 $10, $20, 또는 $30에 구독하면 더 다양한 작업을 이용할 수 있습니다.

닌자테크 AI의 전문성

바박 팔라반은 구글에서 10년 이상 근무하며 제품 관리 부서의 수석 이사를 역임한 경력을 가지고 있으며, 그의 경험은 더 정교한 AI 솔루션의 필요성을 인식하는 데 기여했습니다. SRI International에서 기업가로 활동한 후, 메타의 AI 시스템 엔지니어링 부문 전담자 샘 낙쉬네히와 아마존 웹 서비스(AWS)에서 고위 응용 과학자였던 아라쉬 사드리에와 함께 닌자테크 AI를 공동 창립했습니다.

“우리는 구글, AWS, 메타에서 쌓은 풍부한 경험을 활용하여 확장 가능한 AI 솔루션을 개발하고 있습니다.”라고 팔라반은 전했습니다.

야심 찬 목표: 여러 AI 모델 통합

닌자 AI는 '프로수머'라고 불리는 바쁜 전문가들에게 최적의 성능을 위해 여러 AI 모델에 원활하게 접근할 수 있는 서비스를 제공합니다. “어드바이저 에이전트는 수천 개의 인간 대화로 훈련되어 명료하고 전문적인 직장 환경에 적합하도록 설계되었습니다.”라고 팔라반은 설명했습니다.

이 혁신적인 서비스는 사용자가 다양한 AI 모델의 힘을 손쉽게 활용할 수 있도록 하며, 번거롭게 수동으로 전환할 필요를 없애줍니다. “우리의 핵심 역량은 복잡한 작업을 분해하고 효과적으로 실행할 수 있는 에이전트를 만드는 것입니다.”라고 그는 강조했습니다.

AWS 기술로 구동되는 닌자 AI

닌자테크 AI는 Nvidia GPU 대신 아마존 웹 서비스(AWS)의 맞춤형 머신러닝 칩인 Trainium 및 Inferentia2를 사용합니다. 이러한 선택은 AI 에이전트를 효율적으로 구축, 훈련 및 확장할 수 있도록 해줍니다.

“모든 모델은 AWS Trainium 칩을 사용해 훈련하고, AWS Inferentia2를 통해 제공되며, Amazon SageMaker로 운영됩니다.”라고 팔라반이 언급했습니다.

추가로, AWS의 제품 관리 이사인 라훌 쿨카르니는 맞춤형 실리콘이 AWS SageMaker와 최적의 호환성을 가지도록 설계되어 협력의 이점을 강조했습니다.

AWS는 리소스를 많이 소모하는 작업을 위해 Nvidia GPU도 제공하지만, 맞춤형 칩을 사용하여 비슷한 성능을 제공하면서 40%의 비용 이점을 약속하여 AI 개발자들에게 매력적인 선택이 되고 있습니다.

구글, AWS, 메타 출신의 재능 있는 팀과 함께 닌자테크 AI는 사용자가 소모적인 작업을 AI 에이전트에게 위임하여 전략적인 활동에 더 집중할 수 있도록 생산성을 재정의할 준비가 되어 있습니다.