웰스 파고의 구글 기술로 구동되는 AI 어시스턴트, 연간 1억 건의 상호작용 달성 예정

웰스파고의 최고정보책임자(CTO) 친탄 메hta는 은행의 생성 AI 애플리케이션 활용에 대한 통찰을 공유하며, 가상 비서 앱인 파르고가 3월 출시 이후 2천만 건의 상호작용을 처리했다고 밝혔습니다. 메hta는 샌프란시스코 행사에서 "우리는 이 앱이 연간 1억 건 가까운 상호작용을 처리할 잠재력이 있다고 믿는다"며, 기능과 대화 유형이 증가함에 따라 이 수치는 더욱 늘어날 것이라고 강조했습니다.

은행의 AI 발전 속도는 주목할 만하며, 여전히 개념 검증 단계에 있는 많은 대기업들과 비교해 빠르게 진행되고 있습니다. 주요 은행들이 규제 문제로 신중히 접근할 것이라는 예상에도 불구하고, 웰스파고는 급진전을 이루고 있습니다. 이 은행은 스탠포드의 인간 중심 AI 프로그램에 4,000명의 직원을 등록했으며, 백오피스 효율성 향상을 목표로 하는 여러 생성 AI 프로젝트를 이미 운영 중입니다.

메hta는 LLM(대형 언어 모델)을 활용한 지능형 응답을 위한 AI 거버넌스 청사진 수립을 지원하는 AI 임팩트 투어 행사에서 발표했습니다. 자산이 1.7조 달러에 달하는 미국의 주요 은행 중 하나인 웰스파고는 서비스 전반에 LLM을 적극 활용하고 있습니다.

스마트폰 기반의 가상 비서 파르고는 고객에게 음성 또는 텍스트로 실시간 뱅킹 질문에 대한 답변을 제공합니다. 현재 세션당 평균 2.7회의 상호작용을 기록하며, 청구서 결제 및 거래 조회와 같은 작업을 수행할 수 있습니다. 구글 다이얼로그플로우와 구글의 PaLM 2 LLM을 기반으로 구축된 파르고는 “모든 작업에 동일한 대형 모델이 필요하지 않다”고 메hta는 주장하며 다양한 기능을 위해 여러 LLM을 통합하는 방향으로 발전하고 있습니다.

또 다른 애플리케이션인 라이브싱크는 고객의 목표 설정과 계획 수립을 도와줍니다. 최근 출시된 이후 첫 달에만 100만 명의 월간 활성 사용자를 빠르게 확보했습니다. 웰스파고는 또한 메타의 라마 2 모델을 포함한 오픈소스 LLM을 내부 애플리케이션에 도입했습니다. 2022년 말 OpenAI의 ChatGPT에 대한 관심이 급증한 이후 오픈소스 모델의 채택이 느리지만, 메hta에 따르면 이러한 모델은 특정 용례에 유용한 맞춤화와 제어를 제공할 수 있습니다.

웨스파고는 AI 이니셔티브를 지원하기 위해 타키온이라는 AI 플랫폼을 개발했습니다. 이 플랫폼은 단일 AI 모델이 지배하지 않을 것이며, 다양한 클라우드 서비스 제공자를 사용할 것과 서로 다른 데이터베이스 간의 데이터 전송 문제를 고려하여 설계되었습니다. 타키온은 새로운 대형 모델을 통합하면서도 성능과 회복력을 유지할 수 있도록 적응 가능하며, 모델 샤딩 및 텐서 샤딩과 같은 기술을 사용하여 훈련 효율성을 높이고 계산 요구 사항을 줄입니다.

앞으로 메hta는 이미지, 비디오, 텍스트를 통한 커뮤니케이션을 촉진하는 다중 모달 LLM이 중요할 것이라고 언급했습니다. 그는 사용자가 이미지를 업로드하고 가상 비서를 통해 이미지를 기반으로 서비스 예약을 원활하게 진행할 수 있는 상업 애플리케이션의 가상 시나리오를 제시했습니다. 현재의 다중 모달 모델은 맥락을 위한 상당한 텍스트 입력이 필요하지만, 그는 모델의 의도 이해 능력을 향상시켜 텍스트 입력을 줄이는 것이 핵심 관심사라고 말했습니다.

메hta는 자본을 고객의 요구에 맞추는 은행의 기본 가치가 안정적이며, 혁신은 사용자 경험 향상에 집중되고 있다고 강조했습니다. 그는 LLM이 사용자가 다중 모달 입력을 통해 과제를 매끄럽게 완료할 수 있도록 "행위적"으로 발전할 수 있는 잠재력을 설명했습니다.

AI 거버넌스와 관련하여 메hta는 각 애플리케이션의 목적을 명확히 정의하는 것이 중요하다고 강조했습니다. 거버넌스의 대부분이 해결되었지만, 사이버 보안 및 사기와 같은 애플리케이션 보안 문제는 여전히 남아 있습니다.

메hta는 생성 AI 발전과 분산 금융에 발맞춰 나가기 어려운 은행 규제의 lag에 대한 우려를 표명하며 “우리의 기대와 현재 규제 사이의 간극이 커지고 있다”고 말했습니다. 그는 규제 변화가 웰스파고의 운영 및 경제 전략에 큰 영향을 미칠 수 있다고 언급했습니다.

이러한 환경을 극복하기 위해 은행은 AI 모델 결론의 이유를 이해하는 데 초점을 맞춘 설명 가능한 AI 연구에 상당한 자원을 투자하고 있습니다.