Qdrant: 벡터 데이터베이스 RAG에서 비용 효율적인 솔루션을 목표로하다

Home AI 뉴스 Qdrant: 벡터 데이터베이스 RAG에서 비용 효율적인 솔루션을 목표로하다

더 많은 기업들이 검색 강화 생성(RAG) 시스템을 기술 스택에 통합하기 위해 노력하고 있으며, 이 과정에서 혁신적인 방법들이 등장하고 있습니다. 벡터 데이터베이스 기업인 Qdrant는 새롭게 개발한 검색 알고리즘 BM42가 RAG의 효율성과 비용 효율성을 크게 향상시킬 것이라고 믿고 있습니다. 2021년에 설립된 Qdrant는 BM42를 통해 의미 검색과 키워드 검색을 결합한 하이브리드 검색 기능을 강화하는 것을 목표로 하고 있습니다. Qdrant의 공동 창립자이자 CTO인 Andrey Vasnetsov는 BM42가 문서의 관련성을 검색 쿼리에서 평가하는 데 널리 사용되는 BM25 알고리즘의 업그레이드 역할을 한다고 설명했습니다. 전통적인 시스템은 보통 BM25를 사용하지만, RAG는 데이터를 수학적 메트릭으로 표현하는 벡터 데이터베이스를 사용하여 데이터 매칭을 간소화합니다.

Vasnetsov는 “전통적인 키워드 매칭 알고리즘인 BM25는 문서 크기가 통계 생성에 충분하다고 가정합니다. 하지만 RAG는 더 작은 정보 조각을 사용하므로 BM25는 부적절합니다.”라고 말했습니다. BM42는 문서에서 관련 정보를 추출하기 위해 언어 모델을 활용하며, 추출된 데이터는 토큰화되어 점수가 매겨집니다. 이를 통해 Qdrant는 특정 쿼리에 응답하는 데 필요한 정보를 정확히 식별할 수 있습니다.

하이브리드 검색은 여러 가지 향상 옵션을 제공합니다. BM42는 하이브리드 검색 및 RAG 응용 프로그램에서 BM25를 뛰어넘기 위한 유일한 진화가 아닙니다. Splade, 즉 희소 어휘 및 확장 모델도 또 다른 경쟁자입니다. Splade는 검색 쿼리와 관련 문서 간에 다를 수 있는 관련 용어를 포함하면서 단어 관계를 인식할 수 있는 사전 훈련된 언어 모델을 사용합니다. 일부 벡터 데이터베이스 기업들이 Splade를 활용하고 있지만, Vasnetsov는 BM42가 더 비용 효율적인 솔루션이라고 주장합니다. “Splade는 모델의 크기와 계산 수요로 인해 매우 비쌀 수 있습니다.”라고 그는 언급했습니다.

RAG는 기업 AI의 주요 초점으로 급격히 부각되고 있습니다. 기업들은 자사 데이터를 활용하여 생성형 AI 모델을 활용하려고 합니다. RAG를 활용함으로써, 기업들은 직원과 사용자에게 조직 데이터에서 추출된 보다 정확하고 신속한 정보를 제공할 수 있습니다. Microsoft와 Amazon과 같은 주요 기업들은 이제 RAG 응용 프로그램 구축을 위한 클라우드 컴퓨팅 인프라를 제공하고 있습니다. 또한 OpenAI는 RAG 기능을 강화하기 위해 6월에 Rockset을 인수했습니다.

RAG는 사용자들이 AI 모델의 결과를 회사 데이터에 연결할 수 있도록 하지만, 여전히 언어 모델로서 부정확성, 즉 "환각"에 취약하다는 점을 인식하는 것이 중요합니다.

차세대 AI 기술이 직원들의 일상 업무를 혁신하는 방법

진정한 엔터프라이즈 AI 운영 체제가 혁신적인 이유 (VB Transform 2024에서 더 알아보기)

Most people like

Paraphrasing.io

189.6K

신뢰할 수 있는 AI 패러프레이징 도구를 찾아 텍스트를 손쉽게 다시 작성해 보세요. 글쓰기 향상, 표절 방지 또는 복잡한 아이디어 단순화가 필요하시다면, 우리 고급 도구가 도움을 드립니다. 몇 번의 클릭만으로 원본 텍스트를 똑같은 의미를 유지하면서도 명확성과 몰입도를 높인 새로운 버전으로 변환할 수 있습니다. AI 기반 솔루션이 어떻게 귀하의 콘텐츠를 향상시키고 글쓰기를 빛나게 할 수 있는지 알아보세요.

AI 패러프레이징 도구 AI Rewriter

Caricaturer.io

68.9K

Caricaturer.io를 사용하여 귀하의 사진을 생동감 넘치고 과장된 캐리커처로 쉽게 변환하세요. 최첨단 AI 기반 온라인 사진 편집기입니다.

카리카투어 AI Art Generator

Brainboard

62.7K

오늘날의 디지털 환경에서 강력한 클라우드 인프라에 대한 수요가 빠르게 증가하고 있습니다. 우리의 AI 플랫폼은 클라우드 인프라 설계를 위해 고급 알고리즘을 활용하여 개발 과정을 간소화하고, 기업이 확장 가능하고 효율적이며 안전한 클라우드 솔루션을 구축할 수 있도록 돕습니다. 인공지능을 활용하여 조직이 인프라를 최적화하고 비용을 절감하며 성능을 향상시키도록 지원하여 점점 더 경쟁이 치열해지는 시장에서 앞서 나갈 수 있게 합니다. 우리의 AI 기반 접근 방식이 귀하의 클라우드 전략을 어떻게 미래에 맞게 변화시킬 수 있는지 확인해 보십시오.

클라우드 인프라 AI Website Designer

Pionex

3.3M

안전성, 강력함, 완전 자동화를 결합한 최고의 암호화폐 거래 봇을 만나보세요. 우리의 최고의 선택으로 거래 효율성을 높이고 위험을 최소화하세요.

암호화폐 거래 AI Trading Bot Assistant

Find AI tools in YBX