젠 AI: 신원 사기의 친구이자 적

생성 AI는 몇 초 만에 소네트를 작곡할 수 있지만, 신원 사기를 통한 수십억 달러의 피해를 야기하여 개인, 기업, 정부의 명성을 심각하게 훼손합니다. AU10TIX의 2023년 2분기 글로벌 신원 사기 보고서에 따르면, 미국 내 조직적인 신원 사기는 이전 분기와 비교해 44% 증가했습니다.

AU10TIX의 보고서 데이터는 AI 기반 사기 탐지 솔루션, 특히 Serial Fraud Monitor에서 출처를 찾습니다. 이 도구는 전문적인 조직 공격과 다양한 공격 방식의 글로벌 증가를 기록하였으며, 특히 암호화폐 거래와 결제와 같은 취약한 분야에 집중되고 있습니다. 이는 우리 사회가 점점 디지털화됨에 따라 신뢰를 구축하는 것이 어려워지는 현상을 나타내며, 생성 AI가 이러한 문제를 악화시키고 있습니다.

“대형 언어 모델과 생성 AI는 전문 사기범들이 유효한 신원을 설득력 있게 모방할 수 있도록 하여, 위조물과 진짜 신원 간의 구별을 복잡하게 만듭니다,”라고 AU10TIX의 CEO 다니엘 예루샬미는 말합니다.

“사기범들은 단순히 몇 개의 계정을 여는 것이 아닙니다. 그들은 수주에서 수개월에 걸쳐 광범위한 집단 공격을 수행하며, 이로 인해 막대한 피해를 입힙니다,”라고 AU10TIX의 사업 개발 책임자 오퍼 프리드먼이 덧붙였습니다. “조직들은 더욱 심각한 결과에 직면하고 있으며, 종종 압도당하는 느낌을 받습니다.”

소비자들은 안전성과 통제를 강화할 것을 요구하며, 편의성보다 안전성을 더욱 중시하고 있습니다. 이러한 보안 기대를 충족하지 못하는 조직은 고객의 신뢰를 잃을 위험이 있습니다.

생성 AI가 사기 및 그 영향

“생성 AI는 사기범들에게 방대한 양의 데이터를 제공하고 그들의 방법을 무한히 조정할 수 있도록 합니다,”라고 예루샬미는 설명합니다. “이 기술은 접근성이 뛰어나고 비용 효율적이어서, 새로운 참가자들이 이러한 사이버 공격 도구를 활용하여 상당한 영향을 미치고 있습니다.”

생성 AI는 여러 메커니즘을 통해 사기에 영향을 미치고 있습니다. 딥페이크는 현실감 넘치는 이미지, 음성 녹음, 및 비디오를 생성하여 고급 소셜 엔지니어링 및 피싱 기법을 실행합니다. 사기범들은 딥페이크를 사용하여 가짜 계정을 만들고 신원 확인을 우회하거나 생체 인식 시스템을 속입니다.

또한, 생성 AI는 사기범들이 전체 신원을 조작할 수 있도록 합니다. “사기범들은 다른 분야보다 AI 기술을 더 빠르게 채택하고 있습니다,”라고 프리드먼은 말합니다. “이 기술은 사기 탐지의 역학을 변화시킵니다. 이전에는 조작의 징후를 식별하는 것이 중요했지만, 이제는 완전히 조작된 신원을 감지하는 것이 중요해졌습니다.”

합성 ID—도용된 사회보장번호, 이름, 주소, 및 조작된 정보를 결합한 형태—는 신원 확인을 통과할 수 있습니다. 이러한 진화된 디지털 페르소나는 합법적인 인간 행동을 모방하여 탐지를 복잡하게 하고, 신용 사기, 계좌 탈취, 자금 세탁과 같은 조직적인 사기 계획을 가능하게 합니다.

AI 도구로 사기 방지

그렇다면 조직들은 거의 감지할 수 없는 사기에 어떻게 대응할까요? 프리드먼은 생성 AI 탐지 기능을 활용하여 기존 보안을 강화할 것을 제안합니다. “이러한 위협을 대처하기 위해 다층 탐지 전략을 구현하는 것이 필수적이며, 여러 관점에서 사기와 범죄자를 평가해야 합니다.”

AI 딥페이크 탐지는 조작된 콘텐츠를 식별하기 위해 알고리즘을 사용하여 얼굴 변형 및 조명 불일치와 같은 요소를 평가합니다. 생체 정보, 즉 얼굴 랜드마크 및 음성 패턴을 통합하면 추가적인 검토가 이루어집니다.

조직들은 자동화된 AI 및 기계 학습 기반 신원 확인 시스템을 배포하고, 네트워크 트래픽 수준에서 정교한 조직 공격을 탐지하는 견고한 계층을 추가해야 합니다. 고급 신경망은 실시간으로 미세한 사기 패턴을 분석하여 사전 개입이 가능하도록 합니다. AU10TIX의 Serial Fraud Monitor는 여러 대규모 기관에서 익명화한 데이터를 집계하여 복잡한 사기 패턴을 식별하는 데 도움을 줍니다.

예루샬미는 생성 AI가 사기 능력과 탐지 모두를 강화하지만, 전통적인 알고리즘도 간과해서는 안 된다고 강조합니다. “기계 학습, AI, 및 기본 기술을 결합한 균형 잡힌 접근 방식이 최적의 결과를 위해 중요합니다.”

오랜 고객 신뢰 유지가 중요하며, 고객들이 점점 사안을 중시하는 만큼 원활한 사용자 경험도 반드시 충족되어야 합니다. “사용자들은 불만족스러운 과정을 겪는 비즈니스를 쉽게 포기하고 즉시 대안을 선택합니다,”라고 예루샬미는 경고합니다. “그들은 인내심을 잃기 쉽기 때문에, 인증에 보호 기술을 통합하면서 사용자 경험을 저해하지 않아야 합니다.”

고객 신뢰 유지하기

고객을 사기에서 보호하는 것은 조직의 법적 및 윤리적 의무이며, 이는 비즈니스 생존의 핵심입니다. 이 책임은 고객을 금융 손실로부터 보호하고 신뢰와 충성도를 구축하는 것을 포함합니다. 전 세계적으로 복잡한 사기에 대응하기 위해서는 조직 간의 협력이 필요합니다.

“조직들은 글로벌 차원에서 사기에 맞서기 위해 힘을 합쳐야 하며, AU10TIX는 이 노력에 신뢰를 구축하기 위해 헌신하고 있습니다,”라고 예루샬미는 주장합니다. “새로운 기술과 생성 AI가 발전함에 따라, 우리는 디지털 환경에서 신뢰할 수 있는 파트너가 되기 위해 계속 노력할 것입니다.”