스노우플레이크, AI21의 잼바-인스트럭트와 협력하여 기업이 긴 문서 분석 가능하게 해줘

Snowflake, 선도적인 데이터 클라우드 제공업체가 AI21 Labs의 Jamba-Instruct LLM을 Cortex AI 서비스에 공식 통합했습니다. 이 새로운 기능은 Snowflake의 기업 고객들이 품질이나 정확성을 저하시키지 않고 긴 문서를 효율적으로 처리할 수 있는 챗봇 및 요약 도구와 같은 생성 AI 애플리케이션을 개발하는 데 도움을 줍니다.

오늘부터 Jamba-Instruct 모델은 많은 기업에서 필수적인 대용량 파일 활용을 가능하게 합니다. AI21 Labs는 중요한 파트너이며, Snowflake는 다양한 LLM과 협력하여 생성 AI 생태계를 강화하고 있습니다. 최근에는 Meta와 협력하여 Llama 3.1 LLM 패밀리를 통합하고 자사의 독자적인 모델 'Arctic'을 출시하는 등 생성 AI 분야에서 공격적인 행보를 보이고 있습니다.

Jamba-Instruct의 Snowflake 사용자에 대한 혜택

AI21 Labs는 3월에 변환기 아키텍처와 혁신적인 메모리 효율적인 구조적 상태 공간 모델(SSM)을 결합한 오픈 생성 AI 모델 Jamba를 공개했습니다. Jamba는 256K의 맥락 창을 제공하여, 유사 모델에 비해 긴 문맥에 대한 처리량이 세 배 증가하는 놀라운 효율성을 자랑합니다. 이러한 효율성 덕분에 Jamba-Instruct가 탄생했으며, 이는 고급 훈련, 챗 기능, 기업용 안전 기능을 포함합니다.

Jamba-Instruct는 5월에 AI21 플랫폼에서 출시되었으며, 현재 Snowflake의 코드 없는 완전 관리형 서비스인 Cortex AI의 일부입니다. Snowflake의 AI 책임자 Baris Gultekin은 "Jamba-Instruct는 최대 256K 토큰을 처리할 수 있어 약 800페이지에 해당하는 긴 문서 관리에 매우 유용합니다."라고 설명했습니다.

예를 들어, 금융 분석가는 Q&A 도구를 활용하여 긴 10-K 보고서에서 통찰을 추출하고, 임상의는 광범위한 환자 보고서를 신속하게 분석하여 관련 데이터를 찾을 수 있습니다. 소매업체는 고객과 일관성 있는 참조 기반 대화를 유지하는 챗봇을 만들 수 있습니다.

Gultekin은 모델의 방대한 맥락 창이 정보 검색을 효율적으로 지원하는 검색 증가 생성(RAG) 파이프라인 구축을 단순화한다고 강조했습니다.

비용 효율성

긴 문서 처리 외에도 Jamba-Instruct는 Snowflake 고객에게 상당한 비용 절감 효과를 제공합니다. 이 모델의 하이브리드 설계와 전문가 혼합(MoE) 기술은 방대한 맥락 창을 다른 지침 조정 변환기 모델보다 경제적으로 접근 가능하게 만듭니다. Cortex AI의 서버리스 추론 및 사용 기반 가격 모델과 결합하여 기업은 필요한 리소스에 대해서만 비용을 지불하고, 비싼 전용 인프라를 필요로 하지 않습니다.

AI21 Labs 북미 SVP & GM Pankaj Dugar는 "조직은 Snowflake의 확장성과 Jamba-Instruct의 효율성을 활용하여 성능, 비용 및 대기 시간을 효과적으로 조절할 수 있습니다."라고 설명했습니다.

현재 Cortex AI는 Snowflake의 Arctic 모델과 Google, Meta, Mistral AI, Reka AI의 다양한 LLM을 지원합니다. Gultekin은 "우리는 고객이 오픈 소스 및 상업 모델 사이에서 선택할 수 있는 유연성을 제공하여 데이터 거버넌스를 복잡하게 하지 않도록 노력합니다."라고 덧붙였습니다.

모델 선택은 계속 확장될 예정이며, 특히 AI21에서 새로운 옵션이 곧 도착할 것입니다. Gultekin은 고객의 피드백이 LLM을 평가하고 통합하는 데 중요한 역할을 하여 자동화된 비즈니스 인텔리전스, 대화형 비서 및 텍스트 요약에 적합한 도구를 제공한다고 강조했습니다.

Snowflake는 최근 고객들이 모델 선택의 확장되는 환경에서 도움을 받을 수 있도록 TruEra를 인수했습니다. Gultekin은 TruEra의 TruLens가 사용자가 LLM을 실험하고 필요에 맞는 최적의 모델을 평가할 수 있도록 한다고 언급했습니다.

현재 5,000개 이상의 기업이 자동화된 비즈니스 인텔리전스, 대화형 비서 및 텍스트 요약과 같은 주요 애플리케이션에 집중하여 Snowflake의 AI 기능을 활용하고 있습니다.