2023년 가장 큰 AI 이야기를 차지할 수 있는 털복숭이 카멜리드가 있을까요? 2월 메타가 출시한 Лlama, 즉 큰 언어 모델이 AI 연구의 판도를 바꿨고, 이어서 7월에 상용화된 Llama 2, 8월의 Code Llama가 있었던 이 시점에서 저는 그렇다고 주장할 수 있습니다.
이미 반발의 목소리가 들리는 것 같습니다. “무슨 소리인가요? ChatGPT가 분명 2023년 가장 큰 AI 이야기죠!” 군중의 외침이 들리는 듯합니다. “OpenAI의 ChatGPT는 2022년 11월 30일에 출시되어 2월에는 1억 사용자에 도달했어요! 그것은 생성형 AI를 대중문화에 가져왔죠!”
하지만 들어봐 주세요. 제 관점에서 ChatGPT는 분명히 생성형 AI의 게임 체인저입니다. Forrester 애널리스트 로완 커랜은 “생성형 AI에 대한 불을 지핀 불꽃”이라고 언급했습니다.
하지만 2월은 메타가 첫 번째 자유 '오픈 소스' 대형 언어 모델인 Llama를 발표하며, 오픈 소스 AI에 대한 치열한 논쟁이 시작된 중대한 순간이었습니다. 다른 기술 대기업과 LLM 회사, 정책 입안자들은 안전성과 보안 문제를 검토하고, 비싼 계산 자원과의 도전에도 불구하고 오픈 소스 AI는 중요한 주목을 받았습니다.
메타에 따르면, Llama 출시 이후 오픈 소스 AI 커뮤니티는 Hugging Face 플랫폼에서 7,000개 이상의 파생 모델을 개발하며 Koala, Vicuna, Alpaca, Dolly 및 RedPajama와 같은 주목할 만한 모델들을 탄생시켰습니다. Mistral, Hugging Face, Falcon과 같은 다른 오픈 소스 모델이 있지만, Llama는 주요 기술 회사의 데이터와 자원으로 지원받은 첫 번째 모델이었습니다.
ChatGPT는 2023년 블록버스터 영화인 Barbie에 비유할 수 있으며, Llama와 그 오픈 소스 대체 모델들은 스핀오프가 가득한 광범위한 Marvel Universe에 비유할 수 있습니다. 이는 "더욱 현실적이고 영향력 있는 생성형 AI 응용 프로그램을 낳을 것이며, 오픈 소스의 기초를 더욱 공고히 할 것"이라고 Domino Data Lab 데이터 과학 전략 및 전도사 책임자 Kjell Carlsson이 말했습니다.
장기적인 오픈 소스 AI의 영향
ChatGPT는 닫힌 독점 모델의 시대를 여는 신호탄이었습니다. 오픈AI는 2015년 오픈 리서치 이니셔티브로 설립되었지만 2023년에는 입장을 바꿨습니다. OpenAI 공동 창립자 일리야 순츠케버는 The Verge와의 인터뷰에서 경쟁력과 안전이 고려된 연구 공유는 실수라고 인정했습니다.
이에 반해 메타의 수석 AI 과학자 얀 르쿤은 Llama 2의 상용 출시를 지지하며 대형 언어 모델이 필수 인프라이며 반드시 열려 있어야 한다고 강조했습니다. Carlsson은 ChatGPT와 Llama를 비교하는 것이 사과와 오렌지를 비교하는 것과 같다고 인정하면서 Llama 2는 오픈 소스 특성과 상용 라이선스 덕분에 혁신적이라고 주장했습니다.
Matt Shumer, Otherside AI CEO는 Llama의 영향력이 ChatGPT가 만든 기반 위에서 온 것이라고 언급했습니다. 그는 “지난 1년간 수백 개의 회사가 Llama와 그 후속 발전 없이는 가능하지 않았을 것입니다”라고 말했습니다.
Llama의 초기 유출과 그 여파
2월에 출시된 Llama는 70억에서 650억 개 파라미터까지 다양한 모델 크기로 눈에 띄었습니다. Llama의 13B 모델은 많은 NLP 벤치마크에서 GPT-3보다 더 나은 성능을 보여주었고, 가장 큰 모델은 PaLM 및 Chinchilla와 같은 최상급 모델과 경쟁했습니다. 초기에는 메타가 알고리즘 모델 가중치를 몇몇 학자와 연구자들에게 제공했습니다.
4chan에서 유출 사건이 발생한 이후, 전 세계 개발자들은 GPT 수준의 LLM에 접근할 수 있게 되어 파생 모델이 급증했습니다. 7월, 메타는 상용 목적으로 Llama 2를 무료로 제공했으며, 마이크로소프트는 이를 Azure 클라우드 서비스에 통합했습니다.
이는 AI 규제에 대한 논의가 고조된 중요한 순간이었습니다. 6월, 미국 상원의원들은 Llama 유출에 대해 우려를 표명하며 잠재적 악용 가능성을 강조했습니다. 이러한 도전에도 불구하고 메타는 오픈 소스 AI에 대한 약속을 강화했습니다. 6월 회의에서 마크 저커버그는 모든 메타 제품에 생성형 AI를 통합할 것이라고 강조하며 AI 연구에 대한 "오픈 과학 기반 접근"을 재확인했습니다.
메타: 오픈 연구의 챔피언
메타는 PyTorch 프레임워크 주위에 생태계를 조성함으로써 오픈 연구를 지속적으로 지원해 왔습니다. 2023년이 끝나가면서 메타는 공공의 이익을 위한 오픈 연구를 통해 AI 발전을 목표로 하는 Fundamental AI Research (FAIR) 이니셔티브 10주년을 기념합니다.
Joelle Pineau, 메타 AI 연구 부사장은 2017년에 오픈 과학에 대한 약속으로 이 조직에 합류했으며, 이는 메타의 핵심 가치 중 하나라고 강조했습니다. “다른 곳을 찾지 않고 여기에 합류한 이유는 오픈 과학에 대한 약속 때문입니다”라고 그녀는 회상했습니다.
그러나 Pineau는 오픈 연구의 동기가 변화하고 있다고 언급했습니다. 초기 목표는 연구 품질 향상에 중점을 두었지만 최근 발전은 AI 생태계 전반에 걸쳐 생산성을 크게 높이고 수많은 스타트업에 대안 모델을 제공하고 있습니다.
그럼에도 Pineau는 메타가 항상 오픈 릴리스를 보장하지 않으며 각 프로젝트는 면밀한 리스크-편익 분석을 거친다고 경고했습니다.
Llama에 대한 반성과 정확성
Llama 및 후속 프로젝트에 참여한 메타 FAIR 연구 과학자 앤젤라 팬은 Llama 모델을 만들기 위해 신중한 준비가 이루어졌다고 강조했습니다. “기술이 아직 발전 중이지만, 흥미로운 도구를 만들고 우리의 앱에 일관된 통합을 개발할 수 있습니다”라고 그녀는 말했습니다.
메타는 다양한 응용 프로그램을 위해 Llama를 사용하는 개발자 커뮤니티와 스타트업으로부터 지속적인 피드백을 받으며 향후 버전을 개선할 수 있도록 노력하고 있습니다. 팬은 Llama 개발에서 정확성과 철저한 준비의 중요성을 강조했습니다. 이는 단순한 혁신이 아니라 시간이 지나면서 많은 작은 작업을 효과적으로 수행하는 것입니다.
오픈 소스 AI에 대한 지지
RedPajama 데이터세트를 만들어낸 스타트업 Together의 공동 창립자 비풀 베드 프라카시는 Llama와 오픈 소스 AI가 2023년의 게임 체인저라는 데 동의했습니다. 고품질 모델을 광범위한 기업 및 조직 네트워크 내에서 개발함으로써 비용이 효율적으로 분산되어 스타트업들이 모델 구축 비용을 완화할 수 있도록 돕습니다.
그러나 규제당국이 오픈 소스 AI를 검토하기 시작함에 따라, 지지자들은 이러한 모델에 대한 접근을 보호할 필요성을 강조합니다. 최근 영국의 안전 정상 회담에서는 고급 AI 시스템의 위험에 대한 우려가 주를 이루었습니다. 이러한 우려에도 불구하고 오픈 소스 AI 지지자의 연합은 오픈 AI가 “독이 아니라 해독제”라고 주장하는 성명을 발표했습니다.
계속되는 논쟁: Llama 대 ChatGPT
Llama와 ChatGPT 간의 논란은 전문가들 사이에서 여전히 활발한 토론을 자아내고 있습니다. 일부는 ChatGPT가 여전히 올해의 주요 스토리라고 주장하는 반면, 다른 이들은 Llama의 영향력이 AI의 변혁적 변화의 전주곡으로 보고 있습니다.
RelationalAI의 ML 연구 부사장인 니콜라우스 바실로글루는 “ChatGPT는 확실히 게임 체인저”라며 그 공학적 및 운영 효율성을 찬양했습니다. TravelAI의 CEO 존 리오티에는 ChatGPT가 일상 사용자에게 AI를 접근 가능하게 만든 점을 강조했습니다.
반면 아틀라스의 CEO인 벤 제임스는 Llama가 ChatGPT가 하지 못했던 방식으로 연구와 혁신을 재활성화했다고 지적하며 장기적인 의미가 있다고 주장했습니다.
궁극적으로, 두 모델 모두 AI 생태계에 풍부한 기여를 하고 있습니다. ChatGPT는 생성형 AI에 대한 광범위한 관심을 불러일으켰고, Llama는 그 미래의 영향을 형성할 준비가 되어 있습니다. 커랜이 설명한 대로 2023년 생성형 AI의 현상은 ChatGPT 없이는 발생하지 않았겠지만, 혁신적인 응용 프로그램에 대한 추진력은 오픈 소스 커뮤니티에 의해 상당히 영향을 받을 것입니다.
장기적으로는 독점 모델과 오픈 소스 모델이 공존할 것입니다. 그러나 Llama 2와 같은 오픈 소스 모델이 없다면, 생성형 AI 분야는 더 발전하지 않았을 것이며 지나치게 틈새 시장에 국한되었을 것입니다. 오픈 소스 커뮤니티는 이 흥미로운 분야의 장기적 발전을 촉진하는 데 중요한 역할을 합니다.
순위 목록
