미디어 및 기술 전문가들은 오픈 소스 대형 언어 모델(LLM)이 기업 내 생성적 AI에 상당한 영향을 미칠 수 있으며, 이는 OpenAI의 ChatGPT나 Anthropic의 모델보다 더 클 수 있다고 주장합니다. 오픈 소스 모델에 대한 광범위한 실험과 여러 증명 가능한 프로젝트에도 불구하고, 기존 기업들은 실제 적용 사례를 공개하는 데 다소 소극적입니다. 이를 해결하기 위해 Meta, Mistral AI, IBM, Hugging Face, Dell, Databricks, AWS, Microsoft 등 주요 오픈 소스 LLM 제공업체에 연락했습니다.
조사 결과, 16개의 주목할 만한 배포 사례가 확인되었습니다(아래 목록 참조). 이 수치는 다소 적지만, 산업 분석가들은 올해 말까지 오픈 소스 애플리케이션의 급증을 예상하고 있습니다.
오픈 소스 LLM 채택 지연
오픈 소스 모델의 채택이 더딘 이유 중 하나는 최근에 등장했기 때문입니다. Meta는 2023년 2월 오픈 소스 모델인 Llama를 출시했으며, 이는 OpenAI가 2022년 11월 ChatGPT를 선보인 지 3개월 후입니다. Mistral AI의 Mixtral 모델은 한 달 전에 출시되어 여러 벤치마크에서 호평을 받았습니다. 그 결과, 실제 배포 사례는 이제 막 나타나기 시작했습니다. 오픈 소스 지지자들은 현재 폐쇄 모델이 오픈 소스 모델보다 더 많이 사용되고 있음을 인정하지만, 이러한 격차는 좁혀질 것이라고 예측하고 있습니다.
오픈 소스 모델의 한계
현재 오픈 소스 모델에는 한계가 있습니다. 소프트웨어 스타트업 Replit의 CEO인 Amjad Masad는 모델 개발을 위한 피드백 메커니즘이 기여의 어려움으로 인해 비효율적이라고 지적했습니다. 그러나 많은 사람들이 오픈 소스 개발자들 사이의 실험 범위를 과소평가했을 수 있으며, 이들은 FinGPT와 BioBert와 같은 특정 작업에서 폐쇄 모델과 동등하거나 더 나은 성능을 보이는 수천 개의 파생 모델을 만들어냈습니다.
기업을 위한 대형 공개 모델의 제한된 가치
Dell의 AI 전략 부사장 Matt Baker는 "대형 공개 모델은 민간 기업에 거의 또는 전혀 가치가 없다"고 밝혔습니다. 그는 이러한 모델이 지나치게 일반화되어 있어 민간 기업 데이터를 쉽게 통합할 수 없다고 설명했습니다. 기업의 AI 작업 중 약 95%는 이러한 데이터로 구성됩니다. 따라서 많은 기업들이 고객 지원 및 코드 생성에 오픈 소스 솔루션을 탐색하고 있으며, 일반적인 폐쇄 모델 LLM과 호환되지 않는 사용자 정의 코드를 사용하고 있습니다.
기업 고려로 인한 느린 움직임
Hugging Face의 Andrew Jardine는 기업들이 데이터 프라이버시, 고객 경험 및 윤리적 측면을 우선시하기 때문에 LLM 응용 프로그램 도입을 주저한다고 언급했습니다. 기업들은 일반적으로 외부 응용 프로그램으로 확장하기 전에 내부 사용 사례를 시범 운영합니다. 폐쇄 모델은 2023년 말에 상당한 배포를 보인 반면, 오픈 소스 구현은 올해 가속화될 것으로 예상됩니다.
장점에도 불구하고 일부 기업은 오픈 소스가 번거로움을 느낍니다. OpenAI와 같은 제공업체의 기존 API를 사용하는 것이 오픈 소스 라이센스 및 관리 문제를 처리하는 것보다 더 간단하다고 여겨집니다.
오픈 모델과 폐쇄 모델의 간극 줄이기
Jardine은 오픈 모델과 폐쇄 모델 간의 경계가 점점 흐려지고 있다고 강조했습니다. 예를 들어, 많은 기업들이 내부 작업에 폐쇄 LLM을 사용하고 특정 기능인 민감한 정보 식별에 오픈 소스 모델을 사용하는 사례가 있습니다. 이는 데이터 통제를 향한 의지를 반영합니다.
오픈 소스 채택의 필요성
모델 적응 및 비용 요소가 빠르게 변화함에 따라 기업은 리스크를 완화하기 위해 오픈 소스와 폐쇄 모델 간의 전환 유연성을 찾을 가능성이 높습니다. 기업들은 민감한 데이터에 대한 통제를 유지하면서도 특정 응용 프로그램에 맞게 오픈 소스 모델을 미세 조정하기 위해 오픈 소스 모델을 선택합니다. Intuit와 Perplexity와 같은 여러 기업들이 다양한 모델이 통합된 생성적 AI 오케스트레이션 레이어를 개발하고 있으며, 이는 오픈 모델과 폐쇄 모델을 불문하고 특정 작업에 맞춰 원활하게 통합할 수 있습니다. 오픈 소스 모델을 대규모로 배포하려면 더 많은 노력이 필요할 수 있지만, 기존 인프라가 있는 조직에겐 장기적으로 비용 절감 효과를 가져올 수 있습니다.
많은 기업들이 오픈 소스 모델을 조용히 활용하고 있습니다. 예를 들어 자동차 기업과 항공사들이 Databricks의 레이크하우스 플랫폼을 활용한 애플리케이션을 실험하고 있으며, 이 플랫폼은 오픈 소스 LLM을 포함하고 있습니다.
오픈 소스 배포 사례 식별의 어려움
정확한 기업 사용 사례를 정의하는 것은 어려울 수 있습니다. 많은 개발자와 스타트업이 오픈 소스 LLM을 활용한 애플리케이션을 만들고 있지만, 우리는 주요 기업의 실질적인 응용 사례를 조명하고자 했습니다. 우리는 기업을 최소 100명의 직원을 둔 조직으로 정의하며, LLM 기술 공급자가 아닌 최종 사용자를 중심으로 하였습니다. "오픈 소스"를 정의하는 것도 도전 과제를 제기합니다. 예를 들어, Meta의 Llama는 제한된 라이센스를 가지고 있습니다. 또한 Writer와 같은 기업들이 자체 LLM을 개발했지만, 특정 모델만 오픈 소스로 제공하고 있어 분류에 어려움을 주고 있습니다.
다음은 오픈 소스 LLM을 활용한 기업 배포 사례입니다:
1. VMWare: Hugging Face StarCoder 모델을 사용하여 자체 호스팅 환경에서 코드 생성 향상.
2. Brave: 프라이버시 중심 브라우저가 대화형 비서 Leo를 위해 Mixtral 8x7B 모델 활용.
3. Gab Wireless: 아동 안전을 위해 Hugging Face 모델로 메시지를 필터링하여 부적절한 콘텐츠 차단.
4. Wells Fargo: 다양한 내부 응용 프로그램에 Meta의 Llama 2 모델을 사용하여 직원 자원 향상.
5. IBM: 직원의 HR 관련 질문에 도움이 되는 AskHR 앱에 오픈 소스 LLM 활용, 새로운 컨설팅 서비스에도 적용.
6. 그래미 시상식: IBM과 협력하여 “AI Stories”에서 Llama 2를 활용, 팬들을 위한 맞춤형 콘텐츠 생성.
7-9. 마스터스 토너먼트, 윔블던, US 오픈: IBM 기술을 활용하여 실시간 해설 및 하이라이트 생성.
10. Perplexity: 검색 엔진에서 응답 요약을 위해 오픈 소스 LLM 사용, 검색 방식을 혁신하고자 하는 스타트업.
11. CyberAgent: 사용자의 요구에 맞춘 일본어 모델링을 위해 Dell의 오픈 소스 LLM 활용.
12. Intuit: Intuit Assist 기능의 능력 향상을 위해 자체 LLM과 오픈 소스 모델 결합.
13. Walmart: 대화형 AI 애플리케이션을 개발하며, 처음에는 Google의 오픈 소스 BERT 모델을 활용.
14. Shopify: 전자 상거래 비즈니스 소유자를 위한 업무 효율화 AI 도구인 Sidekick에 Llama 2 배포.
15. LyRise: 채용을 위한 챗봇을 제작하는 인재 매칭 스타트업으로, Llama를 상호작용에 활용.
16. Niantic: 모바일 게임 Peridot에서 캐릭터 상호작용을 위해 Llama 2 사용.
이러한 배포 사례를 정의하고 추적하는 데는 여러 과제가 있지만, 오픈 소스 LLM에 대한 관심은 급증하고 있습니다. 더 많은 기업들이 이들의 잠재력을 탐색함에 따라, 공개 사용 사례가 증가할 것으로 기대됩니다. 우리는 새로운 정보가 나타날 때마다 이 목록을 지속적으로 업데이트할 것입니다.
순위 목록
