마이크로소프트, 코파일럿+ 및 고급 PC NPU를 위한 33억 파라미터 모델 '파이-실리카' 공개

Home AI 뉴스 마이크로소프트, 코파일럿+ 및 고급 PC NPU를 위한 33억 파라미터 모델 '파이-실리카' 공개

마이크로소프트는 소형 언어 모델(SLM)에 대한 투자를 강화하고 있습니다. Build 개발자 컨퍼런스에서 이 회사는 Phi-3 모델의 일반 가용성을 발표하고 Phi-3-vision을 미리 보여주었습니다. Copilot+ PC에 대한 발표에 이어, 이 회사는 이러한 장치의 강력한 신경 처리 장치(NPU)를 위해 특별히 설계된 SLM인 Phi-3-Silica를 도입하고 있습니다.

Phi-3-Silica는 6월부터 제공되는 모든 Copilot+ PC에 포함됩니다. 이 모델은 Phi 시리즈 중 가장 작은 모델로, 33억 개의 매개변수를 보유하고 있습니다.

마이크로소프트에 따르면, Phi-3-Silica의 첫 번째 토큰 지연 시간은 초당 650 토큰이며, 소비 전력은 단 1.5 와트로 가볍고 효율적인 성능을 유지합니다. 이는 PC의 CPU와 GPU가 다른 작업에 집중할 수 있도록 합니다. 또한, 이 모델의 토큰 생성은 NPU의 KV 캐시를 활용하여 CPU가 초당 약 27개의 토큰을 생산할 수 있도록 합니다.

마이크로소프트 대변인은 Phi-Silica가 윈도우를 위한 최초의 로컬 배포 언어 모델로 주목받고 있다고 강조했습니다. Copilot+ PC의 NPU에 최적화된 이 모델은 사용자 제공 장치에서 빠른 로컬 추론을 가능하게 합니다. 이는 윈도우에 최적화된 고급 AI 도구를 통해 제3자 개발자에게 중요한 발판을 제공하며, 생태계 내에서 생산성과 접근성을 향상시킵니다. 사용자들은 이번 가을에 1차 및 3차 개발자 모두로부터 혁신적인 경험을 기대할 수 있습니다.

Phi-Silica는 마이크로소프트 Phi-3 시리즈의 다섯 번째 모델로, 이 시리즈에는 38억 개의 매개변수를 가진 Phi-3-mini, 70억 개의 매개변수를 가진 Phi-3-small, 140억 개의 매개변수를 가진 Phi-3-medium, 42억 개의 매개변수를 가진 Phi-3-vision이 포함되어 있습니다.

마이크로소프트의 새로운 Copilot 리콜 기능, '스파이웨어'로 비판받다: 사용자들이 알아야 할 점

젠 AI 안전 문제로 인해 기업들이 AI 감사 프로토콜을 강화하고 있습니다.

Most people like

Dream Machine AI

8.6K

이미지와 텍스트를 매력적이고 역동적인 비디오로 손쉽게 변환해주는 AI 비디오 생성기로 새로운 경험을 만나보세요. 이 혁신적인 도구는 인공지능의 힘을 활용하여 전문 품질의 비디오를 신속하게 제작할 수 있도록 도와줍니다. 마케팅, 스토리텔링 또는 개인 프로젝트에 관계없이 콘텐츠를 손쉽게 향상시키고, 이전보다 더 깊이 있는 관객과의 소통을 이루어보세요.

AI 비디오 생성기 Image to Video

Copyter

159.2K

다양한 고품질 콘텐츠를 생성하도록 설계된 AI 텍스트 생성기의 잠재력을 활용하세요. 매력적인 기사, 흥미로운 블로그 게시물, 유익한 제품 설명이 필요할 때 이 도구는 귀하의 글쓰기 과정을 향상시킵니다. 이 혁신적인 기술이 귀하의 콘텐츠 제작을 어떻게 발전시키고 작업 흐름을 간소화할 수 있는지 알아보세요.

AI 텍스트 생성 AI Content Generator

Sell on Oncely

34K

오늘 Oncely에서 AI 소프트웨어를 출시하여 판매를 증대시키세요!

AI 비즈니스 소프트웨어 Other

Curiosity

66.2K

모든 앱과 파일을 한 곳에서 손쉽게 검색하세요. 간편한 조직화와 필요한 모든 것에 빠르게 접근하는 경험을 단일 검색 허브에서 즐기세요.

검색 AI Email Assistant

Find AI tools in YBX