Nvidia와 Microsoft, Copilot+로 주요 도전 과제 해결을 위한 협력

Home AI 뉴스 Nvidia와 Microsoft, Copilot+로 주요 도전 과제 해결을 위한 협력

마이크로소프트가 몇 주 전 Copilot+ PC를 공개했을 때 한 가지 질문이 떠올랐습니다. "왜 이 AI 애플리케이션을 내 GPU에서 실행할 수 없을까?" 2024 컴퓨텍스에서 엔비디아가 드디어 이 질문에 답했습니다.

엔비디아와 마이크로소프트는 개발자들이 RTX 그래픽 카드에서 AI 가속 애플리케이션을 실행할 수 있도록 하는 애플리케이션 프로그래밍 인터페이스(API)를 협력하여 개발하고 있습니다. 이 API는 Copilot 런타임에 필수적인 소형 언어 모델(SLM)을 지원하며, Recall과 Live Captions와 같은 기능을 가동합니다.

이 툴킷을 통해 개발자들은 NPU(신경 처리 장치)뿐 아니라 GPU에서 직접 애플리케이션을 실행할 수 있습니다. 이러한 발전은 더 강력한 AI 애플리케이션을 가능하게 합니다. 일반적으로 GPU는 NPU보다 우수한 AI 처리 능력을 제공하며, 현재의 Copilot+ 요구 사항을 초과하여 PC의 접근성을 넓혀줍니다.

이는 전략적인 발전입니다. 현재 Copilot+ PC는 초당 최소 40 테라 연산(TOPS)을 수행할 수 있는 NPU에 의존하고 있지만, 현재 이 기준을 충족하는 것은 Snapdragon X Elite뿐입니다. 반면, GPU는 보급형 모델도 100 TOPS를 달성하고 고급 모델은 이를 넘어서는 등 상당히 높은 AI 처리 능력을 자랑합니다.

새롭게 소개된 API는 Copilot 런타임에 검색 보강 생성(RAG) 기능을 추가합니다. RAG는 AI 모델이 특정 지역 정보를 검색할 수 있게 하여 더 효과적인 해결책을 제공할 수 있도록 합니다. 올해 초, 엔비디아의 Chat with RTX에서 RAG 기능이 시연된 바 있습니다.

API 외에도, 엔비디아는 컴퓨텍스에서 RTX AI Toolkit을 공개했습니다. 6월 출시 예정인 이 개발자 툴킷은 다양한 도구와 SDK를 통합하여 개발자들이 전문화된 애플리케이션을 위한 AI 모델을 조정할 수 있게 해줍니다. 엔비디아는 RTX AI Toolkit을 활용하면 오픈 소스 대안에 비해 모델이 네 배 더 빠르고 세 배 더 작은 결과를 얻을 수 있다고 주장합니다.

개발자들이 최종 사용자를 위한 맞춤형 AI 애플리케이션을 만들 수 있는 도구가 증가하고 있습니다. 일부 혁신은 이미 Copilot+ PC에 통합되었지만, 앞으로 더 다양한 AI 애플리케이션이 출시될 것으로 기대됩니다. 이제 이러한 애플리케이션을 지원할 수 있는 하드웨어는 갖추어져 있으니, 필요한 소프트웨어만이 남아 있습니다.

마이크로소프트가 PC 산업을 형체 없는 모습으로 변화시키고 있습니다.

공간을 향상시키세요: ChatGPT가 제안하는 스타일리시한 룩을 위한 Sonos Ace 헤드폰과 인테리어 소품 조합!

Most people like

Video To Blog

144.3K

당신의 YouTube 비디오의 잠재력을 블로그 포스트로 변환하여 극대화하세요. 이 효과적인 전략은 콘텐츠의 범위와 참여도를 높일 뿐만 아니라 청중을 다양화하는 데도 도움이 됩니다. 비디오 콘텐츠를 글 형식으로 변환함으로써 SEO를 개선하고 블로그 방문자를 늘리며, 청중이 계속 찾아오게 만드는 가치 있는 자원을 생성할 수 있습니다. 시각적 스토리텔링을 매력적인 글로 어떻게 원활하게 전환할 수 있는지 알아보세요!

비디오 AI Blog Writer

Seaart.ai

11.5M

AI 생성 일러스트의 힘을 발휘하세요 혁신적인 플랫폼을 통해 AI 일러스트 생성의 흥미로운 세계를 발견해보세요. 여기에서 창의력과 최첨단 기술이 만나는 지점으로, 사용자들이 손쉽게 멋진 일러스트를 만들어낼 수 있습니다. 전문 아티스트, 디자이너, 혹은 예술적 감성을 탐구하고 싶은 분이든, 우리의 AI 기반 도구는 아이디어를 실현할 수 있는 끝없는 가능성을 제공합니다. 오늘 저희와 함께 시각 콘텐츠 창작 방식을 혁신해보세요!

인공지능 AI Anime Art

Konch | Automated Transcription Platform

24.2K

다양한 언어로 고정밀 전사를 손쉽게 제공합니다. 과정을 간소화하고 귀하의 필요에 맞춘 신뢰할 수 있는 전사 서비스로 프로젝트를 한 단계 끌어올리세요.

전사 Transcription

Zefram

7.7K

B2B 판매 성공을 위한 슈퍼휴먼 세일즈 개발 대표의 힘 발휘.

판매 AI Voice Assistants

Find AI tools in YBX