AI의 추론 능력과 컴퓨팅 파워 비용 간의 관계
최근 팟캐스트에서 NVIDIA CEO 젠슨 황은 ARM CEO 레네 하스와 인공지능의 미래에 대해 논의했습니다. 황은 AI의 잠재력의 핵심이 "추론" 서비스 제공에 있다고 강조했습니다. 그러나 이를 실현하기 위해서는 컴퓨팅 파워 비용을 대폭 줄여야 합니다.
그는 차세대 AI 도구가 사용자 쿼리에 대해 수백 또는 수천 단계의 과정을 거쳐 응답할 것이며, 이를 통해 결론을 반영할 수 있다고 설명했습니다. 이러한 수준의 추론 능력은 미래 소프트웨어를 기존 시스템, 예를 들어 ChatGPT와 차별화시킬 것입니다. 황은 자신도 매일 ChatGPT를 사용하고 있다고 전했습니다.
황은 NVIDIA가 매년 칩 성능을 2배에서 3배 향상시키면서도 비용과 에너지 소비를 안정적으로 유지하겠다는 의지를 밝혔습니다. 이러한 변화는 AI 시스템의 패턴 인식 및 결론 도출 능력을 크게 향상시킬 것으로 기대됩니다. 그는 "우리는 지능을 구현하는 비용을 급격히 낮출 수 있습니다. 이러한 발전의 가치는 명확합니다; 비용을 줄임으로써 추론의 획기적인 발전을 이룰 수 있습니다."라고 말했습니다.
Jon Peddie Research의 최신 보고서에 따르면, 2024년 2분기까지 전 세계 AIB 그래픽 카드 출하는 950만 대에 이를 것으로 예상되며, 이는 이전 분기 대비 9.4% 증가한 수치이자 연환산 47.9% 성장입니다. NVIDIA는 여전히 88%의 인상적인 시장 점유율로 시장을 지배하고 있습니다.