Citi Executive: 생성형 AI가 은행업계를 혁신하며 고객 지원에 위험을 초래하는 방법

Generative AI는 씨티에서 데이터 기반 의사 결정을 향상시키며 큰 변화를 이끌고 있습니다. 그러나 이 은행은 내재된 위험으로 인해 외부 고객과의 상호작용을 위한 챗봇은 구현하지 않기로 결정했습니다. 씨티의 데이터 분석 기술 및 혁신 책임자인 프로미티 다타는 뉴욕에서 열린 AI 임팩트 투어에서 이러한 관점을 설명했습니다. 그녀는 "제가 씨티에 합류한지 4년 반이 되었을 때, 데이터 과학과 분석은 종종 부차적인 고려사항이었습니다. Generative AI의 출현은 패러다임 전환을 가져왔고, 데이터와 분석이 중심에 놓였습니다. 갑자기 모든 사람이 AI 솔루션을 탐구하고 싶어 했습니다."라고 말했습니다.

씨티의 Generative AI 우선사항

다타는 이러한 문화적 변화가 조직 전반에 걸쳐 AI 프로젝트에 대한 열정을 불러일으켰다고 전했습니다. 씨티는 의미 있는 결과를 측정 가능하게 전달하는 것에 중점을 둔 세 가지 주요 영역으로 Generative AI 이니셔티브를 분류했습니다.

1. 에이전트 지원: 대형 언어 모델(LLM)은 고객 정보 요약 및 상호작용 중 메모 작성을 돕는 방식으로 콜센터 에이전트를 지원합니다. 비록 직접적으로 고객과 연결되지는 않지만, 이 애플리케이션은 고객의 요구를 해결하는 에이전트의 능력을 향상시킵니다.

2. 작업 자동화: LLM은 방대한 컴플라이언스 문서 요약 및 직원들이 필요한 정보를 찾는 과정을 간소화합니다.

3. 내부 검색 기능: 씨티는 직원들이 손쉽게 데이터 기반 인사이트를 얻을 수 있도록 중앙 집중식 내부 검색 엔진을 개발하고 있습니다. 이 도구는 곧 직원들이 자연어를 통해 분석을 생성할 수 있게 하여 조직 전반의 효율성을 향상시킬 것입니다.

외부 참여에 대한 신중한 접근

씨티는 내부적으로 Generative AI를 활용하지만, 고객과의 상호작용에 LLM을 사용하는 것은 위험이 따른다고 다타는 경고했습니다. 그녀는 LLM의 "환각" 문제에 대해 우려를 나타내며, 이는 창의적인 맥락에서 유용할 수 있지만, 금융 서비스에서는 받아들일 수 없는 정확성 문제를 일으킬 수 있다고 강조했습니다. "신뢰가 가장 중요한 산업에서 고객과의 상호작용에 오류가 발생할 여유가 없습니다."라고 그녀는 강조했습니다. 현재 씨티는 2022년 Generative AI의 급증 이전에 확보된 사전 스크립트화된 자연어 처리(NLP) 방법을 고객 커뮤니케이션에 의존하고 있습니다.

LLM의 미래 전망

씨티는 LLM을 외부적으로 활용하는 데 열려 있지만, 모든 구현에 인적 감독이 포함되기를 원합니다. 다타는 고도로 규제된 은행 환경에서는 새로운 기술을 채택하기 전에 광범위한 테스트가 필요하다고 언급했습니다. 이 신중한 접근 방식은 고객 상호작용에 Generative AI를 적극적으로 사용하는 웰스 파고와 대조적입니다.

내부 프로세스 혁신

씨티의 내부 태스크 포스는 Generative AI 이니셔티브를 검토하며 고객 안전에 맞춰 책임 있게 배포되도록 합니다. 다타는 조직 내에서 Generative AI에 대한 열망이 있음을 공유하며, 이러한 흥분을 효과적으로 관리할 필요성을 강조했습니다. 마이크로소프트의 사라 벌드는 AI 시스템의 안정성의 중요성을 강조하며, 회사가 정보 검색 보강 생성(RAG) 기능을 사용하는 어플리케이션에서 LLM의 불일치를 해결하기 위해 적극적으로 노력하고 있다고 말했습니다. 이러한 모델의 신뢰성을 향상시키기 위한 지속적인 노력이 필수적입니다.

이 행사에 참석한 뉴욕-프레스비체리안의 드. 애슐리 비시는 Generative AI가 다중 양식 모델을 통해 의료 분야에서 환자 치료의 패러다임 전환을 이루고 있다고 강조했습니다.

결론

씨티는 Generative AI 환경을 전략적으로 탐색하며, 고객과의 상호작용에서의 위험을 경계하면서 내부 개선에 집중하고 있습니다. 이 접근 방식은 혁신과 책임을 결합하여 기술 발전에 따라 안전성과 고객 신뢰가 최우선으로 유지되도록 합니다.