Protect AI, 오픈 소스 인수 이니셔티브를 통해 LLM 보안 강화

AI 및 ML 워크플로우 보안: AI의 혁신적 접근 방식을 보호하다

인공지능(AI) 및 기계 학습(ML) 워크플로우 보안은 여러 구성 요소가 얽힌 복잡한 과제입니다. 시애틀에 본사를 둔 스타트업 Protect AI는 LLM Guard 오픈소스 프로젝트의 선두 업체인 Laiyer AI를 인수하여 이 문제를 해결하고 있습니다. 거래의 재무 세부 사항은 공개되지 않았으나, 이번 인수는 Protect AI의 플랫폼을 강화하여 대형 언어 모델(LLM)과 관련된 잠재적 위험으로부터 조직을 더욱 효과적으로 보호할 수 있도록 할 것입니다.

레이더: 종합 AI 보안 솔루션

Protect AI의 핵심 상업 플랫폼인 레이더는 AI/ML 모델에 대한 가시성, 탐지 및 관리 기능을 제공합니다. 2023년 7월에는 3,500만 달러 규모의 시리즈 A 자금 조달 라운드를 성공적으로 마무리하며 AI 보안 이니셔티브를 확장할 계획입니다. Protect AI의 설립자이자 사장인 Daryan Dehghanpisheh는 "우리는 산업이 MLSecOps를 채택하도록 유도하여 조직이 AI 관련 위험과 보안 취약점을 이해하고 관리하는 데 도움을 주고자 합니다"라고 언급했습니다.

LLM Guard 및 Laiyer AI의 강화 기능

Laiyer AI가 관리하는 LLM Guard 프로젝트는 LLM 운영에 대한 거버넌스를 제공합니다. 이는 프롬프트 인젝션 공격으로부터 보호하는 입력 제어 기능을 특징으로 하며, 이는 AI 활용 시 증가하는 우려 사항입니다. 또한 LLM Guard는 개인 식별 정보(PII) 유출과 유해한 언어의 위험을 완화합니다. 출력 측면에서는 사용자를 악성 URL 등 다양한 위협으로부터 보호합니다. Dehghanpisheh는 Protect AI가 LLM Guard를 오픈소스 상태로 유지하면서도 강화된 성능과 기업 기능을 갖춘 상업적 제품인 Laiyer AI를 계획하고 있다고 강조했습니다. 더불어, Protect AI는 LLM Guard 기술을 포괄적인 플랫폼에 통합하여 AI 모델 개발 및 배포의 모든 단계에서 보호를 보장할 것입니다.

오픈소스 경험을 바탕으로

Protect AI는 오픈소스 이니셔티브에서 상업 제품으로의 변화를 보여주는 ModelScan 오픈소스 프로젝트를 이끌며 ML 모델의 보안 위험을 식별하고 있습니다. 이 기술은 최근 발표된 Guardian 기술의 기반이 되며, ML 모델의 취약성을 검사하는 것을 목표로 합니다. 검사는 전통적인 바이러스 스캔보다 복잡하며, ML 모델은 특정한 알려진 취약성을 가지지 않기 때문입니다. Dehghanpisheh는 "모델은 자체 실행되는 코드 조각입니다. 악성 실행 호출이 쉽게 삽입될 수 있어 큰 위험이 발생할 수 있습니다."라고 설명했습니다. Protect AI의 Guardian 기술은 이러한 위협을 탐지하도록 설계되었습니다.

종합 AI 보안 플랫폼으로 나아가기

Dehghanpisheh는 Protect AI가 개별 보안 제품을 넘어 발전할 것이라展望합니다. 현재 많은 조직이 다양한 공급업체의 여러 기술을 사용하고 있습니다. Protect AI는 레이더 플랫폼 내에서 도구를 통합하여 SIEM(보안 정보 및 이벤트 관리) 시스템 등 기존 보안 도구와 원활하게 결합할 계획입니다. 레이더는 AI 모델 내 구성 요소에 대한 종합적인 개요를 제공하며, 이는 거버넌스 및 보안에 필수적입니다. Guardian 기술을 통해 Protect AI는 배포 전 잠재적 위험을 식별할 수 있으며, LLM Guard는 사용 위험을 완화합니다. 궁극적으로 Protect AI는 조직이 통합된 플랫폼에서 모든 AI 보안 정책을 관리할 수 있도록 하는 포괄적인 기업 AI 보안 솔루션을 제공하는 것을 목표로 하고 있습니다.

“기업 전반에 걸친 AI 보안 정책이 하나로 통합될 것입니다.”라고 Dehghanpisheh는 결론지었습니다.