레드햇 서밋 2024: 기업을 위한 생성형 AI의 힘
콜로라도주 덴버에서 열린 레드햇 서밋 2024에서 오픈 소스 리더인 레드햇은 기업을 위한 생성형 AI의 잠재력을 활용하기 위한 주요 이니셔티브를 발표했습니다.
주요 발표: RHEL AI 및 InstructLab
이번 서밋의 주목을 받은 것은 레드햇 엔터프라이즈 리눅스 AI(RHEL AI)이며, 이는 오픈 소스 언어 모델을 개발하고 배포하는 기본 플랫폼입니다. InstructLab은 도메인 전문가들이 자신의 전문 지식을 통해 AI 모델을 개선할 수 있도록 지원하는 커뮤니티 주도 프로젝트입니다.
레드햇의 AI 통합에서의 독특한 위치
레드햇 CEO 맷 힉스는 RHEL AI가 경쟁사와 차별화되는 여러 요소를 강조했습니다:
- 오픈 소스 및 하이브리드 유연성: 레드햇은 오픈 소스 접근 방식을 우선시하며 하이브리드 인프라를 지향합니다. 힕스는 "AI는 애플리케이션과 비슷하여 일부 위치에서 훈련되고 다른 위치에서 배포되어야 합니다. 우리는 하드웨어에 구애받지 않으며 어디서나 운영할 수 있습니다."라고 말했습니다.
- 최적화된 하드웨어 성능: 다양한 하드웨어 플랫폼에서 성능을 극대화한 경험을 가진 힕스는 "Nvidia, AMD, Intel, Gaudi를 최적화하여 GPU를 생산하지 않고도 최고 효율을 달성할 수 있습니다."라고 강조했습니다.
- 지적 재산권 소유: 레드햇의 오픈 소스 모델은 고객이 자신의 지적 재산권을 유지할 수 있도록 보장합니다. "서비스와 구독의 혜택을 받으면서 귀하의 IP를 유지합니다."라고 힕스는 덧붙였습니다.
급변하는 AI 환경 속에서, 레드햇은 개방성, 유연성, 최적화된 성능, 고객 IP 소유의 조합이 RHEL AI의 중요한 차별점이 될 것이라고 주장했습니다.
RHEL AI: 기업을 위한 새로운 시대
RHEL AI는 IBM Research에서 개발한 Granite 모델을 비롯한 오픈 소스 언어 모델과 InstructLab 프로젝트의 기능을 결합하여 모델 사용자화 및 향상을 용이하게 합니다. 이는 하드웨어 가속과 기업 수준의 지원을 갖춘 최적화된 RHEL 운영 체제 이미지를 특징으로 합니다. 레드햇의 CTO 크리스 라이트는 "기존 인프라 투자를 활용하여 기업 AI, 예측 분석 및 생성형 AI를 지원할 수 있도록 하고 있습니다."라고 설명했습니다.
InstructLab: 언어 모델 향상
InstructLab 프로젝트는 도메인 전문가들이 데이터 과학 기술이 없어도 자신의 지식을 기여하여 언어 모델을 풍부하게 할 수 있도록 지원합니다. IBM의 LAB(챗봇을 위한 대규모 정렬) 방법을 활용하여 InstructLab은 간단한 네 단계 프로세스를 통해 제한된 예시로부터 고품질의 합성 훈련 데이터를 생성합니다:
1. 전문가들이 자신의 지식 예시를 제출합니다.
2. "교사" AI 모델이 유사한 훈련 데이터를 생성합니다.
3. 합성 데이터는 품질 검사를 거칩니다.
4. 언어 모델은 승인된 데이터로부터 학습하며, 커뮤니티 기여를 통해 지속적으로 개선됩니다.
이 방법은 모형을 향상시키는 비용 효율적인 방법을 제공하며, IBM은 LAB을 사용하여 메타(Meta)의 Llama와 다양한 미스트랄 모델과 같은 인기 있는 오픈 소스 모델을 개선했습니다.
InstructLab 시작하기
개발자들은 자신의 노트북에서 오픈 소스 InstructLab CLI를 사용해 InstructLab을 무료로 시작한 다음, 더 큰 모델의 경우 RHEL AI로 전환하여 레드햇의 OpenShift AI 플랫폼에서 확장할 수 있습니다.
OpenShift AI 2.9 업데이트
OpenShift AI는 또한 2.9 버전으로 업그레이드되어 예측 및 생성형 모델 배포를 위한 새로운 기능을 도입하고 파트너 생태계를 확장하여 AI 배포의 유연성을 제공하겠다는 레드햇의 의지를 재확인합니다.
레드햇의 AI 솔루션은 단계적으로 출시될 예정입니다. 개발자들은 InstructLab을 통해 오픈 소스 모델을 즉시 향상시킬 수 있으며, RHEL AI는 개발자 미리보기로 제공되고 OpenShift AI의 최신 MLOps 기능도 이제 사용할 수 있습니다.
AI를 위한 커뮤니티 중심 비전
RHEL AI와 InstructLab을 통해 레드햇은 리눅스와 쿠버네티스에서의 성공을 재현하고, 강력한 AI 기술을 오픈 소스 형태로 접근 가능하게 만들고자 합니다. 이 이니셔티브가 성공한다면, 도메인 전문가들이 지식을 기여하고 AI 모델을 자신 있게 배포함으로써 기업에서 생성형 AI의 채택이 가속화될 수 있습니다. 바다니는 "이는 오픈 소스와 커뮤니티의 힘에 대한 우리의 약속을 보여줍니다."라고 언급했고, 라이트는 "이 맥락에서 '개방성'의 정의를 확장하게 되어 매우 기쁩니다."라고 덧붙였습니다.