SambaNova, AI Samba-CoE v0.2 출시: 혁신성과 성능에서 Databricks DBRX를 능가하다

Home AI 뉴스 SambaNova, AI Samba-CoE v0.2 출시: 혁신성과 성능에서 Databricks DBRX를 능가하다

AI 칩 제조업체 SambaNova Systems가 Samba-CoE v0.2 대형 언어 모델(LLM)로 중요한 이정표를 발표했습니다. 이 모델은 초당 330개의 토큰을 처리하여 Databricks의 새로운 DBRX, MistralAI의 Mixtral-8x7B, Elon Musk의 xAI Grok-1과 같은 주요 경쟁자들을 초월하는 성능을 보입니다.

특히, 이 성취는 모델의 효율성에 있습니다. Samba-CoE v0.2는 정확도를 희생하지 않고도 높은 속도로 작동하며, 576개의 소켓이 필요한 대안에 비해 단 8개의 소켓만을 요구합니다.

우리의 테스트에서 이 LLM은 놀라운 속도로 반응을 생성했습니다. 예를 들어, 은하수에 대한 425단어의 포괄적인 답변을 위해 단 1초 만에 330.42개의 토큰을 생성했습니다. 양자 컴퓨팅에 대한 질문은 초당 332.56개의 토큰으로 빠른 응답을 이끌어냈습니다.

효율성 향상

SambaNova가 소켓 수를 줄이면서도 높은 비트 전송률을 유지하는 전략은 컴퓨팅 효율성에 있어 중대한 혁신을 나타냅니다. 회사는 LeptonAI와의 협업으로 Samba-CoE v0.3의 출시를 예고하며 지속적인 혁신을 추구하고 있습니다.

이러한 발전은 Samba-1 및 Sambaverse의 오픈 소스 모델에 기반해 독특한 앙상블 및 모델 병합 접근법을 사용하는 데에서 비롯됩니다. 이 방법론은 현재 버전을 지원할 뿐만 아니라, 향후 개발을 위한 확장 가능성을 제공합니다.

GoogleAI의 Gemma-7B, MistralAI의 Mixtral-8x7B, Meta의 Llama2-70B, Alibaba Group의 Qwen-72B, TIIuae의 Falcon-180B, BigScience의 BLOOM-176B 등 다른 모델과의 비교를 통해 AI 환경에서 Samba-CoE v0.2의 경쟁 우위를 강조합니다.

이번 발표는 AI 및 머신러닝 커뮤니티 내에서 효율성, 성능, AI 모델 진화를 둘러싼 논의를 촉발할 것으로 기대됩니다.

SambaNova 배경

2017년 캘리포니아 팔로알토에서 Kunle Olukotun, Rodrigo Liang, Christopher Ré에 의해 설립된 SambaNova Systems는 처음에 맞춤형 AI 하드웨어 칩에 초점을 맞췄습니다. 이후 회사의 사명은 머신러닝 서비스와 2023년 초 도입된 포괄적 기업 AI 교육, 개발 및 배치 플랫폼인 SambaNova Suite를 포함하는 넓은 범위로 확장되었습니다.

올해 초, 회사는 "전문가의 조합" 접근 방식을 통해 50개의 소형 모델로부터 파생된 1조 개의 매개변수를 가진 AI 모델인 Samba-1을 소개했습니다. 하드웨어 중심의 스타트업에서 풀서비스 AI 혁신 기업으로의 전환은 AI 기술을 확장 가능하고 접근 가능하게 만들겠다는 창립자들의 의지를 반영합니다. SambaNova는 2021년 5억 달러 이상의 가치로 시리즈 D 펀딩에서 6억 7천 6백만 달러를 모금하며 Nvidia와 같은 산업 거대 기업에 대한 강력한 경쟁자로 자리잡고 있습니다. 현재 Groq와 같은 다른 전문 AI 칩 스타트업뿐만 아니라 Nvidia와 같은 기존 업체들과 경쟁하고 있습니다.

구글 딥마인드, '슈퍼휴먼' AI 시스템 출시: 사실 확인 혁신, 비용 절감 및 정확성 향상

SydeLabs, AI 기반의 의도 기반 방화벽 솔루션 개발을 위해 250만 달러 규모의 시드 펀딩 확보

Most people like

Interview Prep AI

51K

개인 맞춤형 AI 취업 면접 코치를 소개합니다. 현실적인 연습 경험을 제공하여 성공을 준비할 수 있도록 설계되었습니다. 맞춤형 시뮬레이션으로 면접 스킬을 향상시켜 자신감과 성과를 높이세요.

면접 준비 AI Interview Assistant

Gening AI

220.6K

아이디어를 매력적인 비주얼로 쉽게 변환하세요. 최첨단 기술을 활용하여 간단한 텍스트 프롬프트로 아름다운 이미지를 생성할 수 있습니다. 영감을 찾는 디자이너이든, 개념을 현실로 전환하고 싶든, 우리 플랫폼은 단어를 돋보이는 그래픽으로 손쉽게 변환할 수 있도록 도와줍니다. 오늘 창의적인 가능성의 세계에 빠져보세요!

AI 이미지 생성기 AI Photo & Image Generator

Maket

184.3K

Maket은 생성형 AI를 통해 건축 디자인을 혁신하는 소프트웨어로, 평면도 생성 자동화를 지원하고 다양한 스타일 탐색을 가능하게 합니다.

생성적 디자인 AI Design Generator

Faceless

483.1K

텍스트를 매력적인 비디오로 변환하고, Faceless로 TikTok 팔로워를 쉽게 늘리세요.

콘텐츠 생성 AI Tiktok Assistant

Find AI tools in YBX