엔크립트, 안전한 생성적 AI를 위한 '제어 층' 개발을 위한 시드 자금 확보

엔크립트 AI, 생성 AI 보안을 위한 235만 달러 시드 펀딩 확보

보스턴에 본사를 둔 스타트업 엔크립트 AI는 생성 AI의 안전한 사용을 위한 제어 레이어를 제공하는 전문 기업으로, Boldcap의 주도로 235만 달러의 시드 펀딩을 성공적으로 조달했습니다. 이 투자 금액은 일반적인 AI 자금 조달에 비해 modest하지만, 엔크립트의 혁신적인 솔루션은 생성 AI 모델의 사적이고 안전하며 규정을 준수하는 배포라는 중요한 필요를 해결합니다. Yale 박사 과정을 졸업한 Sahil Agarwal과 Prashanth Harshangi가 설립한 엔크립트는 이 기술이 기업의 생성 AI 채택을 크게 향상시킬 수 있으며, 배포 시간을 최대 10배 단축할 수 있다고 주장합니다.

하르상이는 "신뢰와 혁신이 융합되는 패러다임을 선도하고, AI 기술이 혁신적이면서도 안전하고 신뢰할 수 있도록 배포할 수 있도록 합니다"라고 말했습니다. Boldcap 외에도 Berkeley SkyDeck, Kubera VC, Arka VC, Veredas Partners, Builders Fund 등 여러 AI, 헬스케어 및 기업 분야의 엔젤 투자자들이 시드 라운드에 참여했습니다.

엔크립트 AI의 제공 기능

생성 AI에 대한 수요가 증가함에 따라 많은 기업들이 이 기술을 활용해 업무 흐름을 개선하고 효율성을 높이기 위해 열망하고 있습니다. 그러나 기본 모델을 배포하는 데는 데이터 프라이버시 유지, 보안 위협 방지 및 배포 전후 규제 준수 등 안전성 문제도 따릅니다. 현재 대부분의 조직은 이러한 문제를 내부 팀이나 외부 컨설턴트를 통해 수동으로 관리하고 있습니다. 이 전통적인 접근 방식은 시간 소모가 크고 AI 프로젝트를 최대 2년까지 지연시켜 비즈니스 기회를 놓치게 할 수 있습니다.

2023년에 설립된 엔크립트는 Sentry라는 올인원 솔루션을 통해 이러한 격차를 해소하고자 합니다. Sentry는 비즈니스 기능 전반에 걸친 대규모 언어 모델(LLM) 사용 및 성능에 대한 가시성을 제공하며, 민감한 정보를 안전하게 보호하고 보안 위협을 방지하며, 자동 모니터링과 강력한 접근 제어를 통해 규제 준수를 보장합니다. "Sentry는 모델 접근 제어와 데이터 프라이버시 및 모델 보안을 함께 제공하는 안전한 기업 게이트웨이 역할을 합니다"라고 CEO Sahil Agarwal이 설명했습니다. "모든 LLM 상호작용을 당사의 독자적인 가드레일을 통해 라우팅하여 데이터 유출을 방지하고 규제 준수를 유지합니다."

생성 AI의 보안 및 규제 준수 향상

Sentry의 가드레일은 엔크립트의 독자 기술을 통해 프롬프트 주입 공격과 데이터 취약성을 적극적으로 방지합니다. 이 솔루션은 모델 데이터를 정화하고 민감한 개인 정보를 익명화하며, AI가 생성한 콘텐츠의 독성 및 관련성을 지속적으로 모니터링합니다. CISO 및 제품 리더들은 모든 생성 AI 이니셔티브에 대한 완전한 가시성을 확보하게 되어, 엔크립트의 가드레일을 효과적으로 구현하고 규제, 재정 및 명성 리스크를 줄일 수 있습니다.

생성 AI 취약성에 대한 Sentry의 영향 테스트

엔크립트는 아직 수익이 발생하지 않으며 구체적인 성장 지표를 공유하지 않지만, Sentry 기술은 금융 및 생명 과학과 같은 규제 분야의 중대형 기업에 의해 평가되고 있습니다. 예를 들어, Meta의 Llama2-7B 모델을 사용 중인 한 Fortune 500 기업은 Sentry를 구현한 후 탈옥 취약성이 6%에서 0.6%로 감소했습니다. 이 발전으로 인해 기업은 부서 간 다양한 애플리케이션에서 LLM을 몇 년에서 몇 주로 더 빠르게 채택할 수 있게 되었습니다.

Agarwal은 기업들이 민감한 데이터 유출, 프롬프트 주입 공격 및 규제 관리 문제를 해결하기 위해 여러 포인트 제품이 아닌 포괄적인 솔루션을 찾고 있다고 강조하며, 그들의 원스톱 솔루션의 독특한 점을 부각했습니다. 앞으로 엔크립트는 다양한 모델과 환경에서의 역량을 입증하며 솔루션을 더 넓은 범위의 기업으로 확장할 계획입니다. 안전을 우선시하는 것이 생성 AI 솔루션을 개발하거나 배포하는 모든 조직에 필수사항이 되었습니다.

"Agarwal은 현재 제품 개선을 위해 디자인 파트너와 협력하고 있으며, 주요 경쟁자는 최근 Laiyer AI를 인수하여 보안 및 규제 준수 제공을 강화한 Protect AI"라고 언급했습니다. 또한, 미국 정부의 NIST 기준 기구는 200개 이상의 기업과 함께 AI 안전 측정을 위한 기본 기준을 정립하는 AI 안전 컨소시엄을 구성했습니다.