AWS의 연례 개발자 회의에서 기대를 모은 혁신적인 AI 챗봇, Amazon Q가 소개되었습니다. 이 챗봇은 고객센터 상담원이 고객과 상호작용할 때 실시간으로 응답 및 행동에 대한 추천을 제공하여 고객 지원 경험을 향상시키도록 설계되었습니다. Q는 커뮤니케이션을 간소화하여 고객 문제를 보다 효율적으로 해결하고 관리자에게의 에스컬레이션 필요성을 최소화하는 것을 목표로 합니다.
Amazon Q는 AWS의 강력한 클라우드 기반 고객센터 솔루션인 Amazon Connect에 원활하게 통합되어 있습니다. 회사는 비전문가인 경영진도 몇 분 안에 클라우드 고객센터를 구축할 수 있도록 해, 모든 사람들이 고급 고객 지원에 접근할 수 있도록 하는 점을 강조합니다.
AWS는 또한 Amazon Contact Lens를 소개했습니다. 이 AI 기반 도구는 고객-상담원 간의 상호작용을 간결하게 요약합니다. 전통적으로 고객센터 감독자들은 상담원의 메모를 확인하거나 긴 통화를 듣고 방대한 기록을 분석해야 인사이트를 얻곤 했지만, Contact Lens를 통해 기업은 간략한 요약을 받아 서비스를 보다 빠르게 평가하고 개선할 수 있습니다.
또한 AWS는 자가 서비스 챗봇 및 대화형 음성 응답(IVR) 시스템을 쉽게 구축할 수 있는 플랫폼인 Amazon Lex를 발표했습니다. 이 혁신적인 기술은 관리자가 자연어 프롬프트를 사용하여 인터랙티브 시스템을 만들 수 있게 합니다. 예를 들어, "고객 이름, 여행 날짜 및 결제 정보와 같은 정보를 사용하여 호텔 예약을 처리하는 봇을 만드세요."라는 식으로 지정할 수 있습니다. 기존의 정적 응답 봇과 달리, 이 고급 시스템은 생성 AI를 활용하여 고객 문의에 더 동적으로 응답합니다. 고객이 토요일과 일요일에 호텔 방을 요청할 경우, 시스템은 이를 이틀 숙박으로 인식하여 고객 경험을 개선합니다.
AWS 애플리케이션의 Amazon Connect 부사장인 Pasquale DeMaio는 "고객센터 산업은 생성 AI를 통해 근본적인 변화를 맞이할 준비가 되어 있으며, 상담원, 감독자, 관리자에게 개인화된 고객 경험을 더 효과적으로 제공할 수 있는 혁신적인 도구를 제공할 것"이라고 밝혔습니다.
Amazon은 AI 처리에 맞춘 두 가지 업그레이드된 칩군, Graviton4 및 Trainium2를 출시하여 하드웨어 역량을 강화하고 있습니다. 이 차세대 칩은 기계 학습 및 생성 AI 작업의 성능을 향상시키도록 설계되었습니다. Graviton4는 이전 모델인 Graviton3에 비해 최대 30% 향상된 컴퓨팅 성능, 50% 증가한 코어 수, 75% 더 많은 메모리 대역폭을 제공합니다. AWS는 Graviton4가 최적의 가격 성능과 에너지 효율성을 제공한다고 보장하며, 비즈니스가 운영을 확장하는 데 매력적인 선택이 될 것을 강조합니다.
Trainium2는 AI 훈련 능능력의 발전을 의미하며, 첫 번째 세대 칩보다 훈련 성능이 네 배 빠릅니다. 이 향상된 칩은 EC2 UltraClusters 내에서 사용할 수 있으며, 최대 100,000개의 칩으로 구성된 시스템을 지원하여 기초 및 대규모 언어 모델의 훈련 시간을 크게 줄이고 에너지 효율성을 두 배로 증가시킵니다. Graviton4는 곧 메모리 최적화된 Amazon EC2 R8g 인스턴스에서 이용 가능해져, 고객이 더 큰 데이터 세트를 처리하고 작업 부하를 확장하며 운영 비용을 줄일 수 있도록 도와줍니다.
더불어, AWS는 선도적인 대규모 언어 모델에 대한 통합 API를 제공하는 완전 관리형 플랫폼인 Bedrock의 새로운 기능을 발표했습니다. Bedrock은 사용자가 생성 AI 응용 프로그램에 대한 안전 장치를 구현하여 책임 있는 AI 관행에 부합하도록 합니다. 향상된 지식 기반은 독점 데이터를 활용하여 맞춤형 생성 AI 응용 프로그램을 개발하는 데 도움을 줍니다. 또한 Bedrock은 회사의 내부 시스템과 데이터를 사용하여 복잡한 다단계 작업을 실행할 수 있는 봇 에이전트를 포함하게 됩니다.
다양한 기능의 통합은 AWS가 AI 기술의 한계를 확장하고, 기업이 경쟁이 치열한 환경에서 성공하는 데 필요한 도구를 제공하겠다는 의지를 강조합니다. 생성 AI의 능력이 확장됨에 따라, 기업은 더욱 개인화되고 효율적이며 영향력 있는 고객 서비스를 기대할 수 있습니다.