ChatGPT의 급증하는 자원 요구: 왜 관리가 어려워지고 있는가

생성 AI의 급속한 발전은 물과 전기에 대한 수요를 크게 증가시켰습니다. 워싱턴 포스트와 캘리포니아 대학교 리버사이드의 연구자들이 공동으로 진행한 최근 연구에 따르면, OpenAI의 ChatGPT가 기본적인 작업을 수행하는 데 필요한 자원이 상당히 많습니다.

ChatGPT가 100단어의 이메일을 작성하는 데 필요한 물의 양은 OpenAI의 데이터 센터와의 거리 및 지역에 따라 다릅니다. 물 부족과 전기 비용이 낮은 지역에서는 데이터 센터가 전기 냉방 시스템에 더 의존하는 경향이 있습니다. 예를 들어, 텍사스에서 100단어의 이메일을 생성하는 데 약 235밀리리터의 물이 필요하지만, 워싱턴에서는 무려 1,408밀리리터, 즉 1.5리터에 달합니다.

생성 AI 기술이 데이터 센터의 성장을 이끌면서 이러한 시설은 더욱 커지고 밀집해졌습니다. 공기 냉각 시스템은 최적의 온도를 유지하는 데 어려움을 겪고 있으며, 많은 AI 데이터 센터는 액체 냉각으로 전환하고 있습니다. 이 방식은 서버 스택 주변에서 대량의 물을 순환시켜 열 에너지를 흡수한 후, 냉각탑으로 보내 열을 방출합니다.

ChatGPT의 전기 소비도 상당합니다. 워싱턴 포스트에 따르면, ChatGPT로 100단어의 이메일을 작성하는 데 필요한 전력은 12개 이상의 LED 전구를 한 시간 동안 켤 수 있는 양입니다. 만약 미국 인구의 10%가 1년 동안 매주 ChatGPT를 사용한다면, 전체 에너지 소비는 워싱턴 D.C. 모든 가정의 20일 치와 동일하여 약 670,000명의 주민에게 영향을 미칠 것입니다.

이 문제는 단기간에 해결될 가능성이 적으며, 시간이 지남에 따라 악화될 수 있습니다. 예를 들어, 메타는 최신 Llama 3.1 모델을 훈련하는 데 2,200만 리터의 물이 필요했습니다. 오리건주 더 달레스의 구글 데이터 센터는 해당 도시 물 공급의 거의 4분의 1을 소비하고 있으며, 이는 법원 문서에 명시되어 있습니다. 한편, xAI의 멤피스 슈퍼클러스터는 이미 30,000가구를 지원할 수 있는 150MW의 전력을 요구하며, 지역 유틸리티인 멤피스 라이트, 가스 및 수자원에서 자원을 끌어오고 있습니다.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles