OpenAI는 제3자 개발자가 자사의 대규모 다중 모달 모델(GPT-4o)을 세밀하게 조정할 수 있는 새로운 기능을 발표했습니다. 이번 기능을 통해 개발자는 모델의 행동을 조정하여 자신의 애플리케이션이나 조직의 특정 요구 사항에 더욱 잘 맞출 수 있습니다.
세밀 조정은 톤 조정, 특정 가이드라인 준수 및 기술적 작업의 정확성을 개선할 수 있어, 적은 데이터로도 효과를 발휘합니다. 이 기능에 관심이 있는 개발자는 OpenAI의 세밀 조정 대시보드에 접속하여 “생성”을 선택하고, 기본 모델 드롭다운 메뉴에서 gpt-4o-2024-08-06을 고르면 됩니다. 이번 발표는 더 작고 빠른 GPT-4o mini의 도입 이후 이루어졌으며, 이는 기능이 줄어들긴 했지만 세밀 조정이 가능합니다.
“세밀 조정은 코딩부터 창의적인 글쓰기까지 다양한 분야에서 모델의 성능을 크게 향상시킬 수 있습니다.”라고 OpenAI 기술 직원인 존 알라드와 스티븐 하이델이 블로그 게시물에서 말했습니다. “이것은 시작일 뿐이며, 앞으로도 개발자를 위한 모델 맞춤 옵션을 계속 확장할 것입니다.”
9월 23일까지 무료 토큰 제공
OpenAI는 개발자가 몇십 개의 훈련 예제로도 인상적인 결과를 달성할 수 있다고 강조합니다. 이 새로운 기능을 기념하기 위해, OpenAI는 2024년 9월 23일까지 GPT-4o의 세밀 조정을 위해 하루 최대 100만 개의 무료 토큰을 제공합니다. 토큰은 개념의 수치적 표현으로, 모델의 입력과 출력 과정에 필수적입니다. 개발자는 자신의 데이터를 토큰으로 변환(tokenization)하여 GPT-4o를 효과적으로 조정할 수 있으며, 이 과정에 OpenAI의 도구를 활용할 수 있습니다.
일반적으로 GPT-4o의 세밀 조정은 백만 개의 토큰당 25달러의 비용이 들며, 조정된 모델을 실행하는 데는 백만 개 입력 토큰당 3.75달러, 출력 토큰당 15달러의 비용이 발생합니다. 작은 GPT-4o mini를 사용하는 경우, 9월 마감일까지 매일 최대 200만 개의 무료 훈련 토큰이 제공되어, 세밀 조정 기능에 널리 접근할 수 있습니다.
OpenAI가 무료 토큰을 제공하는 이니스티티브는 Google, Anthropic와 같은 독점 제공업체 및 Meta의 Llama 3.1을 기반으로 한 Nous Research의 오픈 소스 모델과의 치열한 경쟁에 대한 응답입니다. 그러나 OpenAI의 모델을 사용하는 개발자는 추론 또는 훈련을 자신의 서버에서 호스팅할 필요 없이 OpenAI의 인프라를 활용하거나 OpenAI의 API를 통해 자신의 서버에 연결할 수 있는 편리함을 누릴 수 있습니다.
세밀 조정 가능성을 보여주는 성공 사례
GPT-4o 세밀 조정 기능의 출시는 선정된 파트너와의 광범위한 시험을 거친 결과로, 다양한 분야에서 맞춤형 모델의 가능성을 보여줍니다. 예를 들어, AI 기업 Cosine은 자사의 세밀 조정된 자율 AI 엔지니어 에이전트 Genie로 SWE-bench 벤치마크에서 43.8%의 아상급 성과를 달성하며, 공개된 AI 모델 중 최고 기록을 세웠습니다.
또한, Fortune 500 기업을 위한 AI 솔루션 제공업체 Distyl은 세밀 조정된 GPT-4o로 BIRD-SQL 벤치마크에서 71.83%의 실행 정확도로 최고 순위를 기록했습니다. 이 모델은 쿼리 재구성 및 자기 수정과 같은 SQL 작업에서 뛰어난 성능을 보였습니다.
세밀 조정에서의 안전 및 데이터 프라이버시 우선
OpenAI는 개발자를 위한 맞춤형 옵션 확장 시 안전성과 데이터 프라이버시를 최우선시한다고 주장합니다. 세밀 조정된 모델은 조직에 자신의 데이터에 대한 완전한 제어를 부여하여, 입력 및 출력이 다른 모델 학습에 사용되지 않도록 보장합니다.
OpenAI는 정책 준수를 유지하기 위해 자동 평가 및 사용 모니터링과 같은 여러 안전 조치를 구현했습니다. 하지만 연구 결과에 따르면 세밀 조정이 안전 프로토콜에서의 탈선이나 모델 성능에 영향을 미칠 수 있는 경우가 있음을 보여줍니다. 따라서 조직은 세밀 조정의 잠재적 위험과 이점을 신중하게 고려해야 합니다.
세밀 조정 기능의 최근 도입을 통해 OpenAI는 미래에 대부분의 조직이 산업 또는 특정 비즈니스 요구에 맞춘 모델을 개발할 것이라는 비전을 강화합니다. 이번 새로운 기능은 그러한 목표를 향한 중요한 발걸음을 의미하며, 모든 조직이 자신만의 맞춤형 AI 모델을 가질 수 있도록 하는 OpenAI의 의지를 강조합니다.