알리바바, 메타의 Llama 3-70B 성능에 버금가는 오픈 소스 Qwen 1.5-110B 모델 공개

Home AI 뉴스 알리바바, 메타의 Llama 3-70B 성능에 버금가는 오픈 소스 Qwen 1.5-110B 모델 공개

최근 알리바바는 Qwen1.5 시리즈의 첫 번째 1100억 개 매개변수 모델인 Qwen1.5-110B의 오픈 소스 출시를 발표했습니다. 이 initiative는 인공지능 분야에서 알리바바의 혁신 능력을 보여줄 뿐만 아니라, 중국 기업들이 대규모 언어 모델 개발에서 이룬 중요한 진전을 강조합니다.

Qwen1.5-110B 모델은 Transformer 디코더 아키텍처를 활용하며, Grouped Query Attention (GQA) 기술을 도입해 추론 효율성을 향상시킵니다. 최대 32,000 토큰의 컨텍스트 길이를 지원하며, 영어, 중국어, 프랑스어, 스페인어, 독일어, 러시아어, 일본어, 한국어 및 베트남어 등 여러 언어를 처리할 수 있습니다.

성능 평가 결과, Qwen1.5-110B는 Meta의 Llama3-70B와 강력하게 경쟁하며, 이전의 사전 훈련 방식에 큰 변화를 주지 않고도 이 성과를 달성했습니다. 알리바바는 모델 성능 개선의 주된 원인을 규모의 확대에 두고 있습니다. 이는 모델 설계 및 최적화에 대한 알리바바의 전문성을 반영하며, 중국의 대규모 언어 모델 개발에 새로운 활력을 불어넣습니다.

더불어 Qwen1.5-110B는 MT-Bench 및 AlpacaEval 2.0 평가에서 이전의 72B 모델보다 상당한 장점을 보여주며 채팅 평가에서 뛰어난 성과를 발휘합니다. 이는 대규모 기초 언어 모델이 채팅 모델 성능을 크게 향상시킬 수 있음을 다시 한번 확인시켜 줍니다.

알리바바는 Qwen1.5-110B가 시리즈 중 가장 큰 모델이며 1000억 개 이상의 매개변수를 초과한 첫 모델임을 강조합니다. 이 성과는 알리바바의 대규모 언어 모델 분야에서의 선도적인 입지를 확고히 할 뿐 아니라, 글로벌 AI 환경에서 중국 기업들의 목소리를 더욱 강화합니다.

AI 기술이 계속 발전함에 따라 대규모 언어 모델은 많은 기술 기업들의 주요 관심사로 자리잡고 있습니다. Qwen1.5-110B의 오픈 소스 출시는 개발자들에게 뛰어난 도구를 제공하며, AI 기술의 확산과 응용을 촉진합니다.

앞으로 우리는 중국 기업들이 대규모 언어 모델 분야에서 더 많은 혁신을 이루어 AI 기술 발전에 기여하는 모습을 기대합니다.

비두 런칭: 소라 품질에 필적하는 놀라운 16초 HD 비디오를 즉시 제작하세요.

PPT 제작을 위한 10대 도구: 클릭 한 번으로 멋진 프레젠테이션을 만들어보세요!

Most people like

Unthread - AI Support in Slack

36.5K

Unthread는 Slack 내에서 고객 지원을 강화하기 위해 설계된 강력한 자동화 도구로, 원활한 커뮤니케이션과 효율성을 위한 다양한 필수 기능을 제공합니다.

AI 지원 AI Customer Service Assistant

AI Yes or No Tarot

47.3K

오래된 타로 전통과 첨단 기술의 매혹적인 시너지를 탐구해보세요. 세상이 변화함에 따라 고대의 지혜와 연결되는 방식도 진화합니다. 현대의 혁신이 타로 리딩을 어떻게 재탄생시키고 접근성을 향상시키며 이 오랜 관습에 새로운 차원을 부여하는지 알아보세요. 신비로운 것과 디지털의 융합을 수용하고 디지털 시대에서 타로를 통해 더 깊은 통찰력과 변 transformative 경험을 unlock할 수 있는 잠재력을 발견해보세요.

타로 AI Chatbot

berrycast

70.8K

간편한 도구인 SimpleScreen으로 화면 녹화를 쉽게 캡처하고 공유하세요. 매끄러운 기능을 경험하고 오늘부터 생산성을 높이세요!

화면 녹화 AI Video Recording

Stable Diffusion Online

5.8K

텍스트를 통해 놀랍고 사실적인 이미지를 손쉽게 생성하세요. Stable Diffusion 모델은 빠르고 직관적이며, 모든 수준의 사용자에게 적합합니다.

AI 텍스트-이미지 생성기 AI Art Generator

Find AI tools in YBX