크레도 AI의 통합 허브를 통해 아마존, 마이크로소프트 및 기타 플랫폼에서 AI 프로젝트 거버넌스를 간소화하세요.

AI 거버넌스 기업 Credo AI가 책임 있는 AI 정책의 가시성과 준수를 강화하기 위해 제3자 AI 운영 및 비즈니스 도구와 통합된 새로운 플랫폼을 출시했습니다. 새롭게 선보인 Credo AI 통합 허브는 기업 고객이 Amazon SageMaker, MLFlow, Microsoft Dynamics 365와 같은 생성적 AI 개발 플랫폼을 중앙 집중식 거버넌스 플랫폼에 연결할 수 있게 해줍니다. 또한 Asana, ServiceNow, Jira 등 이러한 애플리케이션을 배포하는 데 일반적으로 사용되는 플랫폼도 허브와 통합될 수 있습니다.

통합 허브의 목적은 AI 애플리케이션과 Credo AI의 거버넌스 플랫폼 간의 연결을 간소화하는 것입니다. 기업들은 이제 안전 및 보안 기준을 검증하기 위해 문서를 업로드할 필요가 없으며, 대신 허브가 이러한 지표를 포함한 관련 메타데이터를 자동으로 수집합니다.

Credo AI의 창립자이자 CEO인 Navrina Singh는 통합 허브가 데이터 공개 규정 및 내부 AI 사용 정책을 초기 개발 과정에 통합하도록 세심하게 설계되었다고 전했습니다. Singh는 “글로벌 조직이 AI 도구의 급속한 채택에 적응함에 따라, 우리는 거버넌스를 단순화하여 복잡성에 대한 변명을 없애고 AI 투자를 극대화하는 것을 목표로 하고 있습니다”라고 말했습니다.

통합 허브는 Jira, ServiceNow, Amazon SageMaker 및 Bedrock, Salesforce, MLFlow, Asana, Databricks, Microsoft Dynamics 365, Azure Machine Learning, Weights & Biases, Hugging Face, Collibra와 같은 인기 플랫폼과 사전 설정된 연결을 제공합니다. 추가 요금을 지불하면 맞춤형 통합도 개발할 수 있습니다.

책임 있는 AI와 거버넌스는 규정 준수, 윤리적 고려사항, 개인정보 보호 등을 평가하면서 기업에 점점 더 중요해지고 있지만, 현재 효과적으로 이러한 위험을 평가하는 조직은 극히 드뭅니다.

기업들이 생성적 AI에서 책임 있는 관행을 탐색함에 따라 위험 평가 및 준수 단순화를 위한 도구가 점점 인기를 얻고 있습니다. Credo AI는 책임 있는 AI 관행을 보다 접근 가능하게 만들기 위해 노력하는 여러 기업 중 하나입니다.

IBM의 Watsonx 제품군은 정확성, 편향, 규정 준수를 평가하는 거버넌스 플랫폼을 포함하고 있으며, Collibra는 AI 프로그램 모니터링을 위한 워크플로를 생성하는 AI 거버넌스 도구를 제공합니다. Credo AI는 애플리케이션에서 브랜드 위험을 점검하지만, 주로 자동화 시스템에 대한 기존 및 향후 규정을 준수하는 데 집중합니다.

현재 생성적 AI에 대한 규정은 부족하지만, 기업들은 기계 학습 및 데이터 규정을 통해 설정된 데이터 개인정보 보호 및 보존 정책을 준수하고 있습니다. Singh는 일부 지역에서 AI 거버넌스에 대한 보고서를 요구하며, 뉴욕시 법률 144가 고용 결정에서 자동화 도구를 금지한다는 점을 강조했습니다.

“인구통계적 균형 비율과 같은 특정 지표가 준수를 위해 요구됩니다. Credo AI는 이 법률을 AI 운영을 위한 실행 가능한 통찰력으로 변환하여 법적 의무를 이행하는 데 필요한 메타데이터를 수집할 수 있도록 합니다”라고 Singh가 설명했습니다.