DataStax, 엔터프라이즈의 AI '개발 지옥'에서 구출하기 위해 Nvidia의 지원을 받다.

DataStax는 기업 AI 개발자들의 증가하는 수요를 지원하기 위해 데이터 플랫폼을 확장하고 있습니다. 오늘, 이 회사는 Nvidia AI와 협력하여 구축한 DataStax AI Platform을 소개합니다. 이 새로운 플랫폼은 클라우드 네이티브 애플리케이션을 위한 DataStax Astra 및 자율 관리 배포를 위한 DataStax 하이퍼 컨버지드 데이터베이스(HCD) 등 DataStax의 기존 데이터베이스 기술을 통합합니다. 또한 Langflow 기술이 포함되어 있어, 능동 AI 워크플로를 만들 수 있습니다. Nvidia의 엔터프라이즈 AI 구성 요소가 이 솔루션을 강화하여 조직이 향상된 효율성으로 모델을 신속하게 구축하고 배포할 수 있도록 합니다. 통합된 기능으로는 NeMo Retriever, NeMo Guardrails, NIM Agent Blueprints가 있습니다. DataStax에 따르면, 이 플랫폼은 AI 개발 시간을 60% 단축하고 기존 솔루션보다 AI 작업을 19배 빠르게 처리할 수 있습니다. "생산 시간은 매우 중요합니다. 이러한 시스템 구축은 시간이 많이 걸리기 때문입니다,"라고 DataStax의 최고 제품 책임자 Ed Anuff가 말했습니다. "많은 조직이 개발의 늪에 빠져 있습니다."

Langflow가 능동 AI를 지원하는 방법

DataStax의 비주얼 AI 오케스트레이션 도구인 Langflow는 새로운 AI 플랫폼에서 중요한 역할을 합니다. 개발자는 구성 요소를 캔버스로 드래그 앤 드롭하여 AI 워크플로를 시각적으로 구축할 수 있습니다. 이러한 구성 요소에는 DataStax와 Nvidia의 다양한 기능, 데이터 소스, AI 모델, 처리 단계가 포함되어 복잡한 AI 애플리케이션 생성을 간소화합니다. Anuff는 "Langflow는 DataStax의 모든 기능과 API, Nvidia의 구성 요소 및 마이크로서비스를 시각적 요소로 표면화하여 상호 연결되고 인터랙티브하게 실행할 수 있게 합니다,"라고 설명했습니다. Langflow는 또한 DataStax 플랫폼에서 능동 AI를 가능하게 합니다. Anuff에 따르면, 이 플랫폼은 세 가지 주요 에이전트 유형을 지원합니다:

- 작업 지향 에이전트: 이 에이전트는 사용자의 선호에 따라 여행 애플리케이션에서 휴가 패키지를 조립하는 등 특정 작업을 처리합니다.

- 자동화 에이전트: 이 에이전트는 API 통신을 통해 작업을 관리하며, 사용자 입력 없이 자동화된 워크플로를 촉진합니다.

- 다중 에이전트 시스템: 이 방법은 복잡한 작업을 전문 에이전트에 배정된 하위 작업으로 나눕니다.

Nvidia와 DataStax의 통합이 엔터프라이즈 AI에 미치는 이점

Nvidia의 기능과 DataStax의 기술, 그리고 Langflow가 결합된 협력은 엔터프라이즈 AI 사용자에게 상당한 이점을 제공합니다. Anuff는 Nvidia 통합을 통해 사용자들이 표준화된 NIM 마이크로서비스 아키텍처를 통해 커스텀 언어 모델 및 임베딩을 쉽게 호출할 수 있게 되었다고 언급하며, 효율적인 모델 실행을 위해 Nvidia의 하드웨어와 소프트웨어를 활용할 수 있다고 말했습니다. 또한 가드레일 도입은 사용자 및 출력의 안전성을 보장합니다. Anuff는 "가드레일은 사용자 또는 데이터베이스로부터 안전하지 않은 콘텐츠를 차단하는 사이드카 모델입니다,"라고 강조했습니다. 이러한 통합은 지속적인 모델 개선도 지원합니다. Anuff는 NeMo Curator가 엔터프라이즈 AI 사용자에게 추가 콘텐츠를 식별하여 미세 조정할 수 있게 돕는다고 덧붙였습니다. 전반적으로 이 통합은 기업 내 AI의 채택을 가속화하고 비용 효율적인 솔루션을 제공합니다. Anuff는 "Nvidia 엔터프라이즈 스택은 CPU와 GPU 모두에서 작업을 실행할 수 있습니다. GPU는 일반적으로 더 빠르지만, 덜 중요한 영역에서 CPU에 작업을 오프로드하면 비용 절감으로 이어질 수 있습니다,"라고 강조했습니다.