생성형 AI와 사이버 보안: SydeLabs의 혁신적인 솔루션
생성형 AI는 현대 비즈니스를 혁신하고 있지만, 동시에 조직과 그 명성을 위협할 수 있는 새로운 공격 벡터를 도입하고 있습니다. 캘리포니아에 본사를 둔 스타트업 SydeLabs는 실시간 의도 기반 방화벽을 통해 이 문제에 대응하고 있습니다. 최근, 이 회사는 RTP Global, Picus Capital 및 여러 엔젤 투자자들로부터 250만 달러의 초기 자금을 확보하였습니다.
AI 보안 분야의 다양한 기업들이 존재하지만, SydeLabs는 개발자들이 대형 언어 모델(LLMs)에서의 취약점을 피할 수 있도록 돕는 포괄적인 솔루션을 제공함으로써 차별화되고 있습니다. 이 솔루션은 개발부터 배포까지 프로젝트 라이프사이클 전반에 걸쳐 알려지지 않은 위험을 포함합니다.
혁신적인 제품 제공
SydeLabs는 세 가지 핵심 AI 중심 제품, 즉 SydeBox, SydeGuard, SydeComply를 개발하였습니다. 현재 베타 테스트 중인 SydeBox는 팀이 AI 애플리케이션과 모델의 잠재적 취약점을 평가할 수 있는 셀프 서비스 레드 팀 솔루션으로 기능합니다. 곧 출시될 SydeGuard는 실시간 의도 기반 보호 기능을 제공하며, SydeComply는 다양한 글로벌 지역의 준수 문제를 다룹니다.
“SydeBox의 베타 단계 동안, 우리는 훈련 데이터 유출, 프롬프트 삽입, 안전 정렬 우회와 같은 다양한 취약점을 발견했습니다.”라고 SydeLabs의 공동 창립자 앙키타 쿠마리가 밝혔습니다. “SydeGuard는 프롬프트 삽입, 지갑 공격 방지, 데이터 유출 시도를 탐지하고 방지할 수 있습니다.”
SydeLabs 작동 방식
SydeBox는 내부 연구와 공개 데이터를 기반으로 테스트 공격을 시작하는 AI 에이전트를 활용하며, LLM은 공격 성공 여부를 평가합니다. 반면, SydeGuard는 사용자 프롬프트를 분석하여 잠재적인 위협을 탐지하고, 프롬프트, 사용자 세션, 사용자에 대한 위험 점수를 부여하는 독점 모델을 사용합니다.
즉각적으로 사용자를 차단하는 대신, SydeGuard는 기업 보안 팀에 알려주고, 차단, 모니터링 또는 위협을 허니팟으로 리디렉션하는 옵션을 제공합니다. 이를 통해 팀은 잠재적인 공격에 대한 전략적 대응을 결정할 수 있습니다.
강력한 취약점 탐지
SydeLabs는 2024년 3월 1일 SydeBox의 베타를 출시한 이후 50개 이상의 애플리케이션과 모델에서 10,000개 이상의 취약점을 지적하였습니다. 회사는 SydeGuard와 SydeComply의 제공을 완료할 계획이며, 장기적으로는 취약점 탐지에 초점을 맞춘 기업에 무료로 레드팀 솔루션을 제공하고, SydeGuard는 소비 기반 모델로 수익화할 예정입니다.
쿠마리는 사이버 보안 제품의 정확성과 사이버 위협에 대한 선제적 대응 능력의 중요성을 강조했습니다. “우리는 새로운 공격 벡터와 방법론에 중점을 두고, 모델의 지속적인 업그레이드를 우선시하고 있습니다.”
산업 배경과 경쟁 우위
SydeLabs의 자금 조달은 생성형 AI 애플리케이션의 보안이 큰 주목을 받는 시점에 이루어졌으며, 이는 유명인사의 딥페이크를 초래하는 프롬프트 삽입 공격 사건으로 더욱 부각되었습니다. 이에 Microsoft는 환각을 탐지하고 공격을 방지하기 위한 새로운 Azure AI 도구를 출시했습니다. Lakera와 Prompt Security와 같은 경쟁자들도 레드 팀 및 실시간 예방 공간에서 활동하고 있지만, 쿠마리는 SydeLabs의 제품이 이러한 도구들에 비해 우수한 정확성과 성능을 보여준다고 주장합니다.
SydeLabs는 사이버 보안 분야에서 지속적으로 혁신하며, 생성형 AI 시스템이 진화하는 위협에 대해 안전을 유지하도록 보장합니다.
순위 목록
