OpenAI, 메타의 Llama 3 성장에 대응하여 혁신적인 새로운 기업 AI 기능을 선보였습니다.

메타의 Llama 3가 인기 있는 대형 언어 모델(LLM)로 빠르게 자리잡는 가운데, 생성형 AI의 선두주자인 OpenAI는 GPT-4 Turbo LLM 및 기타 모델을 위한 새로운 기업 등급 기능을 도입하여 경쟁력을 강화하고 있습니다. OpenAI는 API 고객을 위한 기업 중심 기능을 확장하며 Assistants API를 풍부하게 하고 보안, 관리 통제 및 비용 관리 개선을 위한 새로운 도구를 소개했습니다.

OpenAI의 API 제품 책임자인 올리비에 고드망은 최근 미디어 인터뷰에서 “AI 모델의 의미 있는 작업에 대해 개발자와 기업과 대화할 때 OpenAI가 여전히 앞서 있습니다. 우리는 항상 경쟁을 환영하며, 이는 모두의 개선을 이끌어냅니다.”라고 밝혔습니다.

프라이빗 링크 및 강화된 보안 기능

주요 보안 개선 사항 중 하나는 Microsoft의 Azure 클라우드 서비스와 OpenAI 간의 안전한 통신을 돕는 프라이빗 링크의 도입입니다. 이를 통해 API 쿼리에서 고객 데이터의 노출을 줄일 수 있습니다. OpenAI의 보안 프레임워크는 SOC 2 Type II 인증, 단일 로그온(SSO), AES-256 데이터 암호화, TLS 1.2 전송 암호화, 역할 기반 접근 통제를 포함하고 있으며, 증가하는 컴플라이언스 요구 사항에 따라 네이티브 다중 인증(MFA)을 구현했습니다. HIPAA 준수가 필요한 의료 기관을 위해 OpenAI는 적격 API 클라이언트를 위한 비즈니스 협력 계약과 무데이터 보존 정책을 제공합니다.

파일 관리 개선을 위한 업그레이드된 Assistants API

OpenAI의 주요 기업 솔루션 중 하나인 Assistants API가 업그레이드되어 새로운 'filesearch' 기능으로 파일 검색 능력을 개선했습니다. 이제 하나의 어시스턴트가 최대 10,000개의 파일을 관리할 수 있어 이전의 20개 파일 제한보다 500배 향상되었습니다. 이 업그레이드는 병렬 쿼리, 개선된 재순위화 및 쿼리 재작성 등의 기능을 포함합니다. OpenAI는 또한 실시간 대화 응답을 위한 스트리밍 기능을 도입하여 GPT-4 Turbo와 같은 모델이 응답을 기다리지 않고 토큰 생성 시 즉시 출력을 제공합니다. API는 개선된 파일 관리를 위한 새로운 'vectorstore' 객체를 포함하고 있으며, 토큰 사용에 대한 상세한 통제를 제공하여 비용 관리에 도움을 줍니다.

맞춤형 접근 통제를 위한 프로젝트 기능

새롭게 도입된 프로젝트 기능은 조직이 프로젝트 수준에서 역할과 API 키를 관리할 수 있도록 해줍니다. 이를 통해 기업 고객은 권한 설정, 모델 가용성 제어 및 사용 한도 설정이 가능해 예상치 못한 비용을 방지하며 프로젝트 관리를 단순화할 수 있습니다. 예를 들어, 기업 내의 다양한 팀이 특정 AI 모델로 별도의 프로젝트에서 작업할 수 있어 데이터가 섞일 위험이 없습니다. OpenAI의 미크다드 자퍼는 “프로젝트를 통해 자원과 구성원을 개별화된 프로젝트에 격리하여 명확한 보고와 접근, 보안, 비용에 대한 향상된 통제를 제공합니다.”라고 설명했습니다.

확장 가능한 AI 운영을 위한 비용 관리 기능

OpenAI는 조직이 AI 운영을 효율적으로 확장할 수 있도록 돕기 위해 새로운 비용 관리 기능을 도입하고 있습니다. 여기에는 일관된 토큰 사용에 대한 할인 요금과 새로운 배치 API를 통해 비동기 작업의 50% 비용 절감이 포함되어 있으며, 이는 더 빠른 응답 시간과 높은 사용 한계를 약속합니다. 배치 API를 사용하려면 고객이 단일 요청으로 토큰을 제출해야 하며, 결과는 일반적으로 24시간 이내에 제공되지만 즉각적인 피드백이 필요 없는 경우 10-20분 이내에 응답을 받을 수 있다고 OpenAI는 밝혔습니다.

OpenAI는 기업 등급의 보안, 관리 통제 및 비용 관리에 중점을 두고 제안을 강화하고 있으며, 이러한 업데이트는 Llama 3와 Mistral과 같은 경쟁 모델의 상승에 직접 대응하여 기업에 보다 매끄러운 경험을 제공하는 것을 목표로 합니다.