일본의 통신 기업 NTT가 인공지능(AI) 향상과 데이터 센터의 에너지 효율성 개선을 목표로 하는 혁신적인 연구 프로젝트를 공개했습니다. 최근 샌프란시스코에서 열린 기자 회견에서 NTT 연구자들은 문서 내 그래픽 요소를 분석할 수 있는 새로운 대규모 언어 모델(LLM)을 소개했습니다. 이들은 하버드 대학교와 협력하여 지속 가능하고 신뢰할 수 있는 AI 개발에 초점을 맞춘 새로운 연구 분야 '지능의 물리학'의 시작을 발표했습니다.
이 행사에서 NTT는 분산 데이터 센터를 위한 전광 네트워크를 선보이며, 저지연 통신에서 상당한 발전을 이뤘음을 강조했습니다. NTT의 IOWN 개발 사무소 부사장인 아라가네 요스케는 대규모 데이터 센터를 교외로 이전함으로써 비용을 낮추고 에너지 효율성을 높일 수 있다고 설명했습니다.
NTT는 33만 명 이상의 직원을 두고 연간 970억 달러의 수익을 올리며, 매년 36억 달러 이상을 연구 및 개발에 투자하고 있습니다. 이 회사는 실리콘 밸리에 R&D 부서를 설립한 지 5년이 되었으며, 샌프란시스코에서 열린 Upgrade 2024 행사에서 진행 상황을 발표했습니다.
NTT 연구의 사장 겸 CEO인 고미 카즈는 "우리의 임무는 당신의 정상 개념을 새로운 차원으로 끌어올리는 것"이라고 전했습니다.
미국과 영국의 저지연 네트워크
아라가네는 NTT의 IOWN 전광 네트워크(APN) 시연이 연결된 데이터 센터 간의 통신 지연을 놀랍도록 낮게 유지했다고 밝혔습니다. 그는 도시 지역이 고비용, 부지 부족, 비싼 전기 등의 문제에 직면해 있다고 덧붙였습니다. NTT는 교외에 데이터 센터를 분산 배치하고, 최대 400기가비트의 데이터 전송 속도를 지원하는 광케이블로 연결하는 방안을 모색하고 있습니다.
영국에서 실시된 테스트에서는, 100킬로미터 떨어진 데이터 센터 간에 1밀리초 미만의 네트워크 지연을 경험했습니다. 이러한 네트워크 성능은 전통적인 네트워크와 비교하여 지연 변동을 현저히 줄여, 지리적으로 분산된 데이터 센터가 단일 센터와 유사한 기능을 수행하도록 하고 있습니다.
영국은 NTT의 혁신적인 광무선 네트워크(IOWN) APN을 사용하여 런던 북부와 동부의 데이터 센터를 연결하며, 왕복 지연이 1밀리초 미만을 기록했습니다. 미국의 버지니아주 북부에서도 유사한 결과가 관찰되었습니다. 이 계획은 원거리 IT 인프라를 통합된 데이터 센터 경험으로 변모시키는 것을 목표로 하고 있습니다.
고급 데이터 센터 시연
별도의 시험에서 NTT와 NTT DATA는 APN 기술을 활용하여 영국과 미국의 데이터 센터를 성공적으로 연결했습니다. 테스트 결과, 영국 데이터 센터들은 1밀리초 이하의 지연과 놀라운 낮은 지연 변동을 보였습니다. 전통적인 네트워크는 2000마이크로초를 초과하는 지연을 보이는 것과 대조적입니다.
APN 시스템은 산업 IoT, 스마트 에너지 관리, 자연 재해 대응을 포함한 현재와 미래의 애플리케이션에 대한 엄격한 지연 요구 사항을 충족합니다. 금융 부문에서도 NTT DATA는 거래 및 송금에 중요한 저지연을 요구하는 시연을 진행 중입니다.
아라가네는 "데이터 센터에 대한 수요가 증가하고 있으나, 부지 부족과 전력 가용성이 새로운 시설 개발을 저해하고 있습니다. 우리는 이러한 장애물을 극복하기 위해 더 에너지 효율적인 데이터 센터를 만들고자 합니다."라고 언급했습니다.
비주얼 이해 혁신
NTT는 문서 내에서 그래픽 요소를 해석할 수 있는 시각적 기계 독해의 획기적인 혁신을 소개했습니다. 이 기술은 도호쿠 대학교의 스즈키 준과 협력하여 개발하였으며, NTT의 경량 LLM인 tsuzumi에 적용되었습니다.
주요 모델과 비교했을 때, NTT의 LLM은 LLaVA 및 OpenAI의 GPT-3.5, GPT-4를 포함한 다양한 문서 이해 작업에서 뛰어난 성능을 보였습니다. NTT의 수석 연구원인 니시다 쿄스케는 LLM의 능력이 증가하는 동시에, 다중 모드 정보 처리에 대한 지속적인 도전과제도 언급했습니다.
2023년 11월 최초로 공개된 tsuzumi는 6억 개의 매개변수를 가진 초경량 버전과 70억 개의 매개변수를 가진 경량 버전 두 가지로 제공됩니다. 이 모델의 컴팩트한 크기는 에너지 소비와 훈련 비용을 대폭 줄여, 기업에 지속 가능한 선택이 될 수 있습니다.
tsuzumi의 잠재적인 응용 분야로는 콜센터 자동화, 디지털 기록 보관 및 소프트웨어 엔지니어링 작업이 포함됩니다. 이 모델은 현재 20개 이상의 언어를 지원하며, 영어와 일본어를 포함하여 500개 이상의 글로벌 기업들과 상업적 시험을 진행하고 있습니다.
하버드 뇌과학 센터와의 파트너십
NTT 연구는 하버드 대학교 뇌과학 센터(CBS)-NTT 펠로우십 프로그램을 설립하기 위해 상당한 기부금을 약속하며, 지능의 물리학이라는 신흥 분야에서 박사후 연구를 촉진하고 있습니다. 이 지속 가능한 2년 기부는 170만 달러를 초과할 수 있으며, 컴퓨터 과학, 신경 과학 및 심리학의 접점에서 혁신적인 연구를 지원합니다.
NTT와 하버드 CBS의 협력은 AI 편향 문제를 인지 과학 원리를 사용하여 다루는 귀중한 통찰력을 제공합니다. 최근 출판물은 생성 AI의 과학과 신경 과학에 대한 적용 가능성을 다루고 있습니다.
"고미는 "하버드 CBS 지원은 AI를 활용하여 계산적 공정성과 지속 가능성과 같은 문제를 해결하는 우리의 비전과 일치합니다."라고 말했습니다.
실리콘 밸리에서의 독특한 위치
캘리포니아 서니베일에 위치한 대규모 사무소를 둔 NTT 연구는 기초 연구에 대한 헌신으로 독특한 입지를 다지고 있습니다. 지난 5년 동안 NTT 연구는 450편 이상의 학술 논문을 발표하며, 다양한 과학 분야에서 여러 차례 우수성을 인정받았습니다.
고미는 현재 진행 중인 연구가 광자 통합 회로 개발과 뇌 기능 연구에 집중하고 있으며, 이를 통해 계산 과정을 더 잘 이해하고자 한다고 밝혔습니다. 또한 NTT는 미래의 양자 컴퓨팅 도전에 대비하기 위해 양자 저항 암호화 기술을 선도적으로 발전시키고자 합니다.
NTT는 생물학적 시스템, 예를 들어 심장의 '디지털 트윈'을 만들어 약물 반응을 시뮬레이션하여 개인 맞춤형 의료를 위한 연구를 진행하고자 합니다. 이러한 전략적 이니셔티브를 통해 NTT는 기술을 발전시키는 동시에 AI와 데이터 센터 운영의 미래를 향상시키려 합니다.
순위 목록
