OpenAI가 조용한 시기를 겪고 있는 가운데, 경쟁사인 Anthropic이 Claude 3 대형 언어 모델(LLM) 시리즈를 출시하며 주목받고 있습니다. 생성 AI 분야에서 주목할 만한 또 다른 기업은 이스라엘 스타트업 Deci로, 최근 자사 제품에 대한 중요한 업데이트를 발표했습니다.
2023년 가을에는 DeciDiffusion 및 DeciLM 6B 오픈 소스 모델을 출시한 바 있으며, 이는 Stability의 Stable Diffusion 1.5와 Meta의 LLaMA 2 7B의 세밀하게 조정된 버전입니다. 이후 Deci는 코드 완성 LLM인 DeciCoder와 향상된 DeciDiffusion 2.0을 선보였습니다. 현재 Deci는 기업과 개발자를 대상으로 한 더 작고 효율적인 클로즈드 소스 LLM인 Deci-Nano를 공개했습니다.
오픈 소스에서의 전환?
Deci는 Microsoft와 파트너십을 맺은 Mistral과 유사하게 상업적인 방향으로 전환하고 있는 것으로 보입니다. 이는 오픈 소스 AI의 미래에 대한 의문을 불러일으킵니다. Deci의 마케팅 부사장 Rachel Salkin은 이메일을 통해 다음과 같이 밝혔습니다:
“우리는 오픈 소스 커뮤니티를 지원하는 데 전념하고 있지만, 정확성과 속도를 높이는 클로즈드 소스 모델의 가치를 인식하고 있습니다. 이는 고객에게 더 큰 가치를 제공합니다.”
그녀는 최근 출시된 여러 오픈 소스 모델(DeciLM-6B, DeciLM-7B, DeciCoder)이 시연 공간이 일시 중단된 상태에도 불구하고 여전히 상당한 다운로드 수를 기록하고 있다고 강조했습니다.
경쟁력 있는 가격의 성능
Deci가 상업적인 경로를 택하고 있다면, Deci-Nano는 의미 있는 첫 걸음입니다. 이 모델은 언어 이해와 추론에서 뛰어난 성능을 보이며, NVIDIA A100 GPU에서 단 4.56초 만에 256 토큰을 처리했습니다. Deci의 블로그에서는 Deci-Nano가 Mistral의 7B-Instruct 및 Google의 Gemma 7B보다 월등한 성능을 보이면서도, 입력 토큰 100만 개당 0.10달러로 매우 저렴하다고 강조했습니다. 이는 OpenAI의 GPT-3.5 Turbo가 0.50달러, Claude 3 Haiku가 0.25달러인 것과 비교됩니다.
“Deci-Nano는 품질과 비용 효율성 모두에 초점을 맞춘 생산 지향적인 접근 방식을 구현합니다,”라고 Deci의 공동 창립자이자 CEO인 Yonatan Geifman이 말했습니다. 이 8K 컨텍스트 윈도우 모델은 더 큰 모델의 기능을 근접하게 재현하기 위해 Deci의 AutoNAC 기술을 통해 개발되었습니다.
재정 분석부터 콘텐츠 생성까지, Deci-Nano는 기업들이 비용을 효과적으로 관리하면서 혁신할 수 있도록 지원하는 것을 목표로 합니다. Deci는 유연한 배포 옵션을 제공하여, 확장성을 위한 서버리스 인스턴스 또는 향상된 프라이버시와 커스터마이징을 위한 전용 인스턴스를 선택할 수 있도록 하고 있습니다. 이를 통해 기업은 성능을 희생하지 않고 AI 솔루션을 진화하는 요구에 맞춰 조정할 수 있습니다.
포괄적인 플랫폼 출시
최근의 뉴스가 Deci-Nano에 중심을 두고 있지만, 전체 생성 AI 플랫폼의 도입은 중요한 발전을 의미합니다. 이 플랫폼은 기업의 효율성과 프라이버시 요구에 맞춘 “종합 솔루션”으로 설명됩니다.
이 플랫폼에는 무엇이 포함될까요? Deci에 따르면, 사용자는 세밀한 조정이 가능한 LLM, 추론 엔진, AI 추론 클러스터 관리 솔루션에 접근할 수 있습니다. Deci-Nano는 이 플랫폼을 통해 제공되는 첫 번째 독점 모델로, 앞으로 더 많은 모델이 추가될 예정입니다—일부는 오픈, 일부는 클로즈드입니다.
추론 엔진은 사용자가 Deci의 API, 가상 사설 클라우드 또는 온프레미스에서 Deci-Nano를 필요에 따라 배포할 수 있게 합니다. 자신의 가상 사설 클라우드를 관리하는 고객을 위해 Deci는 컨테이너화된 모델을 제공하며, Kubernetes 클러스터 내에서 관리되는 추론 서비스도 제공합니다.
또한 생성 AI 플랫폼은 데이터를 내부에 보관하고자 하는 기업을 위해 온프레미스 배포 옵션을 제공합니다. 고객은 Deci-Nano가 담긴 가상 컨테이너와 Deci의 Infery 소프트웨어 개발 키트를 받아 응용 프로그램에 통합할 수 있습니다.
Deci 생성 AI 플랫폼과 그 다양한 서비스에 대한 가격 세부사항은 아직 공개되지 않았지만, 추가 정보가 제공될 예정입니다.
순위 목록
