세일즈포스의 xLAM-1B ‘타이니 자이언트’: 소형 AI 모델이 대형 경쟁자를 능가하는 이유

세일즈포스는 온디바이스 인공지능 분야를 재정의할 혁신적인 AI 모델을 발표했습니다. "타이니 자이언트"로 알려진 새로운 xLAM-1B 모델은 단 10억 개의 파라미터를 갖고 있지만 기능 호출 작업에서 오히려 OpenAI와 Anthropic 등 업계의 거대 모델들을 능가합니다.

세일즈포스 AI Research의 이 흥미로운 개발은 혁신적인 데이터 큐레이션 전략 덕분입니다. 팀은 기능 호출 시나리오에서 AI 모델 훈련을 위해 고품질, 다양한, 검증 가능한 데이터셋을 생성하는 자동화된 파이프라인인 APIGen을 개발했습니다.

연구자들은 "우리의 큐레이션된 데이터셋으로 훈련된 모델은 단 70억 개의 파라미터만으로도 버클리 기능 호출 벤치마크에서 최첨단 성능을 달성하여 여러 GPT-4 모델을 초월합니다"라고 밝혔습니다. "특히, 우리의 10억 개 파라미터 모델은 GPT-3.5 터보와 Claude-3 하이쿠보다 더 우수한 성능을 보입니다."

효율적인 AI의 힘

xLAM-1B 모델의 소형화는 온디바이스 애플리케이션에 특히 중요합니다. 대형 모델은 실용적이지 않은 경우가 많지만, 이 발전은 기업 AI의 잠재력을 크게 높이며, 스마트폰 및 제한된 컴퓨팅 자원을 가진 디바이스에서도 강력하고 반응성이 뛰어난 AI 어시스턴트를 가능하게 합니다.

모델의 뛰어난 성능은 교육 데이터의 질과 다양성을 기반으로 합니다. APIGen 파이프라인은 21개 카테고리에서 3,673개의 실행 가능한 API를 활용하며, 각 데이터 포인트는 형식 검사, 기능 실행, 의미 검증의 세 단계 검증 과정을 거칩니다.

이러한 접근 방식은 AI 개발 전략의 중요한 변화를 시사합니다. 많은 기업들이 점점 더 대형 모델을 만들기 위해 노력하는 가운데, 세일즈포스는 데이터 품질을 우선시하면 더 효율적이고 효과적인 AI 시스템을 개발할 수 있음을 보여줍니다.

AI의 현상에 도전하다

이 혁신의 의미는 세일즈포스를 넘어서 확장됩니다. 더 작고 효율적인 모델이 더 큰 모델과 경쟁할 수 있음을 입증함으로써, 세일즈포스는 AI 분야의 전통적인 사고를 도전하고 있습니다. 이는 모델 크기 증가에 국한되지 않고 AI 최적화에 집중하는 새로운 연구 물결을 촉발할 수 있으며, 일반적으로 고급 AI 기능에 필요한 방대한 계산 자원을 줄일 수 있는 가능성을 열어줍니다.

또한 xLAM-1B의 성공은 온디바이스 AI 애플리케이션의 성장을 가속화할 수 있습니다. 현재 많은 정교한 AI 기능은 모델의 크기와 복잡성 때문에 클라우드 컴퓨팅에 의존하고 있습니다. xLAM-1B와 같이 작은 모델이 유사한 기능을 제공할 수 있다면, 사용자 디바이스에서 직접 작동하는 고성능 AI 어시스턴트를 가능하게 하여 응답 시간을 향상시키고 클라우드 기반 솔루션과 관련된 개인 정보 보호 문제를 완화할 수 있습니다.

연구팀은 60,000개의 고품질 기능 호출 예제 데이터셋을 공개하여 학문적 탐구를 촉진하고 있습니다. "이 데이터셋을 제공함으로써 연구 커뮤니티에 도움이 되고 미래의 발전을 장려하고자 합니다"라고 그들은 밝혔습니다.

온디바이스 AI의 미래를 개척하다

세일즈포스의 CEO 마크 베니오프는 이 성과를 트위터에서 찬양하며 "온디바이스 에이전틱 AI"의 잠재력을 강조했습니다. 이 발전은 AI 분야의 주요 변화를 나타낼 수 있으며, 더 큰 모델이 본질적으로 우수하다는 믿음에 도전하고 자원 제한 환경에서 혁신적인 AI 애플리케이션의 길을 열 수 있습니다.

이 발전의 여파는 세일즈포스의 현재 제품을 넘어 확장됩니다. 엣지 컴퓨팅과 IoT 장치가 보편해짐에 따라 강력한 온디바이스 AI의 수요는 증가할 것입니다. xLAM-1B 모델의 성공은 특정 작업에 최적화된 고효율 모델 개발에 초점을 맞춘 새로운 트렌드를 촉진할 수 있으며, 이는 전통적인 단일 구조에서 벗어난 진화를 이끌 수 있습니다. 이를 통해 배포된 AI 생태계를 조성하고, 전문화된 모델들이 디바이스 네트워크 간에 협력하여 더 효과적이고 반응성이 뛰어나며 개인 정보 보호를 고려한 AI 서비스를 제공할 수 있을 것입니다.

이러한 진보는 또한 AI 기능에 대한 접근을 민주화하여, 소규모 기업과 개발자가 방대한 계산 자원 없이 정교한 애플리케이션을 제작할 수 있게 할 것입니다. 또한 작은 모델은 훈련 및 운영에 필요한 에너지를 대폭 줄여 AI의 환경적 영향을 완화하는 데도 기여할 수 있습니다.

세일즈포스의 혁신이 미치는 영향을 산업이 평가하는 가운데, 한 가지 사실은 분명해 보입니다. AI의 세계에서 작은 모델조차도 더 큰 경쟁자에게 도전하고 잠재적으로 초월할 수 있습니다. AI의 미래는 클라우드에만 국한되지 않고, 손안에 있을 수 있습니다.