Databricks는 CEO Ali Ghodsi가 주도한 연례 데이터 및 AI 컨퍼런스에서 Mosaic AI 플랫폼에 대한 중요한 개선 사항을 공개하며 기업 생성 AI 개발자 도구의 수준을 한 단계 끌어올렸습니다. 이러한 업그레이드는 대규모 언어 모델(LLM) 기반의 애플리케이션을 효과적으로 배포할 수 있도록 기업을 지원하는 것을 목표로 하고 있습니다.
Mosaic AI 플랫폼은 Databricks의 13억 달러 규모 MosaicML 인수의 결과물로, 생성 AI 분야에서 회사의 역량을 강화하며 AI 애플리케이션 개발을 간소화합니다. 최신 기능은 세 가지 주요 영역에 중점을 두고 있습니다: 1. 복합 AI 시스템 구축, 2. 다양한 지표를 통한 시스템 평가, 3. 전체 AI 파이프라인에 걸친 거버넌스 보장.
이 강력한 엔드투엔드 생태계는 조직이 데이터를 활용하여 신뢰할 수 있는 생성 AI 애플리케이션을 만들 수 있도록 지원합니다. 또한, Databricks는 Snowflake와의 경쟁에서도 유리한 위치를 차지하고 있으며, Snowflake는 최근 자사의 엔터프라이즈급 오픈 LLM "Arctic"을 출시하여 Databricks의 DBRX에 도전할 준비를 하고 있습니다.
Databricks Mosaic AI의 새로운 기능
생성 AI에 열정을 가진 조직들은 혁신적인 기술을 활용하여 내부 데이터를 이용한 애플리케이션을 개발하고자 합니다. 하지만 많은 팀은 대규모 모델에서 기대하는 투자 수익을 실현하는 데 어려움을 겪고 있으며, 예산과 개인정보 보호 제약 내에서 고품질 출력을 제공하는 데 도전에 직면하고 있습니다.
이러한 도전을 해결하기 위해, 기업들은 다양한 소형 모델, 검색기, 벡터 데이터베이스, 평가, 모니터링, 보안 및 거버넌스 도구를 통합한 검색 증강 생성(RAG) 기반의 복합 AI 시스템 도입을 늘리고 있습니다. Databricks는 이러한 고급 시스템 구축을 지원하기 위해 Mosaic AI를 개선했습니다.
최근 Databricks는 플랫폼에 통합된 서버리스 벡터 데이터베이스인 Vector AI 검색을 도입했습니다. 최신 추가 기능으로는 Mosaic AI 모델 교육과 에이전트 프레임워크가 있습니다. 모델 교육 기능은 사용자가 직관적인 API 또는 인터페이스를 통해 소형 오픈 소스 기초 모델을 미세 조정할 수 있도록 하여 특정 작업을 위한 지식을 최적화하면서도 비용 효율성을 유지합니다. 또한, 에이전트 프레임워크는 Mosaic AI 벡터 검색 및 모델 제공과 결합하여 이러한 미세 조정된 모델을 사용하여 고품질 RAG 애플리케이션을 구동합니다.
"우선, 에이전트 프레임워크는 앱 품질의 측정 및 평가를 간소화합니다,"라고 Databricks의 제품 마케팅 부사장 Joel Minnick가 설명합니다. "이 프레임워크는 출력 품질을 자동으로 평가하는 독점 AI 지원 평가 도구와 이해관계자 피드백을 위한 직관적인 추적 UI를 포함하고 있습니다. 이를 통해 개발자는 가설을 테스트하고, 빠르게 반복하며, 엔드투엔드 LLMOps 워크플로 내에서 애플리케이션을 효율적으로 재배포할 수 있습니다."
플랫폼에는 Databricks Unity Catalog를 통해 도구를 관리하고 공유하며 등록할 수 있는 AI 도구 카탈로그도 포함되어 있으며, 최근 오픈 소스로 제공되었습니다. 이 카탈로그는 지능형 코드 생성, 웹 검색 및 API 호출과 같은 기능을 제공하여 복합 AI 시스템의 역량을 강화합니다. Unity Catalog 내에서 등록된 모든 Python 또는 SQL 함수는 Mosaic AI 도구 카탈로그와 호환되어 출력 품질을 개선합니다.
Mosaic AI 게이트웨이를 통한 강화된 거버넌스
AI 애플리케이션의 강력한 거버넌스와 신뢰성을 확보하기 위해 Databricks는 "Mosaic AI 게이트웨이"를 도입했습니다. 이 도구는 오픈 소스 모델과 독점 모델을 쿼리, 관리 및 배포하기 위한 통합 인터페이스를 제공하여 팀이 애플리케이션 코드 변경 없이 LLM을 교체할 수 있도록 합니다.
특히 AI 게이트웨이는 내장된 거버넌스 및 모니터링 기능을 갖추고 있으며, 사용량 추적 및 가이드를 통해 조직이 모델 사용을 모니터링하고 비용을 통제하는 비율 한계를 설정하며, 안전성과 개인 식별 정보를 필터링할 수 있도록 합니다.
Mosaic AI를 위한 모든 새로운 제품은 AI 도구 카탈로그를 제외하고 현재 공개 미리보기 상태이며, 향후 몇 개월 내에 일반 제공될 예정입니다. AI 도구 카탈로그는 비공식 미리보기 중이며, 더 넓은 출시 일정은 발표되지 않았습니다. 또한 Databricks는 이벤트에서 Databricks AI/BI 생성 AI 기반 분석, 데이터 엔지니어링을 위한 Databricks LakeFlow, 그리고 Shutterstock와 협력하여 개발된 특화된 이미지 생성 모델을 포함한 여러 주목할 만한 제품을 공개했습니다.
Databricks 데이터 및 AI 서밋은 2024년 6월 10일부터 6월 13일까지 개최됩니다.
순위 목록
