현재 많은 기업들은 생성 AI가 현대 운영에서 지속적인 존재임을 인식하고 있으며, 이를 책임감 있게 구현하는 것이 성공의 열쇠라는 사실을 깨닫고 있습니다. 조직들은 AI 배치와 데이터 사용을 모니터링하는 ‘AI 거버넌스’ 개념을 수용하고 있습니다. 뉴욕과 브뤼셀에 본사를 둔 데이터 거버넌스 선두 기업 Collibra는 이러한 필요를 충족할 새로운 솔루션을 출시합니다.
“AI는 거의 모든 조직의 중심 초점이 되고 있지만, 올바르게 구현하는 것이 필수적입니다,”라고 Collibra의 공동 창립자이자 CEO인 펠릭스 반 데 메일이 독점 영상 인터뷰에서 밝혔습니다. Collibra는 오늘 새로운 제품인 Collibra AI Governance를 발표하며, 이는 AI 채택 방식을 변화시켜 안전, 효율성 및 신뢰성을 보장합니다.
기술과 정책 사이의 간극을 메우다
Collibra AI Governance는 Collibra Data Intelligence Platform의 일환으로, 데이터, 인공지능 및 법적 규정 준수 간의 필수적인 간극을 연결합니다. 이 솔루션은 다양한 분야의 팀들이 협력할 수 있도록 하여 AI 이니셔티브가 법적 및 개인정보 보호 기준을 준수하도록 하고, 데이터를 리스크를 최소화하며 모델 성능과 투자 수익률(ROI)을 극대화합니다. 이는 아이디어 구상부터 배포 및 지속적인 모니터링에 이르기까지 AI 채택 여정 전반에 걸쳐 지원을 제공합니다. 반 데 메일은 “AI 생애 주기 전체를 지원하는 것”이라고 설명했습니다.
Collibra AI Governance는 조직 내 모든 AI 응용 프로그램에 적용 가능하며, 단일 솔루션이나 플랫폼에 국한되지 않습니다. 이 도구는 AI 프로젝트의 직관적인 관리 및 감독을 제공하여 민감한 데이터를 보호하고 AI 응용 프로그램의 투명성을 촉진합니다. 반 데 메일은 “조직 내 누가 무엇을 하고 있는지에 대한 진정한 가시성을 확보하는 것이 가장 큰 도전 과제”라고 언급하며, “이는 단순한 문서화가 아니라 모든 것이 제대로 실행되도록 워크플로우를 확립하는 것”이라고 강조했습니다.
이 솔루션은 Collibra Data Catalog, Collibra Data Quality & Observability, Collibra Data Privacy 및 Collibra Protect와 같은 Collibra의 기존 데이터 관리 도구와 원활하게 통합됩니다.
위험 관리에 대한 새로운 접근
효과적인 AI 거버넌스의 필요성은 최근 IDC 조사에서 강조되었으며, 조사에 따르면 71%의 기업이 AI를 활용하고 있지만, 구현 과정에서 많은 리스크에 직면하고 있습니다. 모델 편향, 부정확성 및 법적 딜레마와 같은 문제는 조직의 평판과 재정적 안정성에 중대한 영향을 미칠 수 있습니다. 예를 들어, Google은 인종적으로 모호한 이미지와 부자연스러운 반응을 생성했던 Gemini AI 모델로 비판을 받으면서 평판과 주가가 영향을 받았습니다.
Collibra의 AI Governance 솔루션은 간소화된 규정 준수 프로세스, 리스크 완화 전략 및 모델 성능과 ROI 개선 메커니즘을 포함하는 포괄적인 AI 거버넌스 프레임워크를 제공하여 이러한 리스크를 완화합니다. 이는 AI와 이를 지원하는 데이터 거버넌스를 위한 통합 플랫폼을 만들어 AI 채택에 대한 공통적인 우려를 해결합니다.
Collibra의 Data Intelligence Platform에 추가 모듈로서, 로라 셀러스 Collibra의 최고 제품 책임자는 이 솔루션이 예측 불가능성과 잠재적인 부정적 결과에 대한 우려 속에서 AI를 책임감 있게 활용하려는 조직의 요구를 충족하는 데 중요한 역할을 한다고 강조했습니다. “Collibra AI Governance를 통해 CIO, CDO, 데이터 리더 및 법무 팀은 AI와 이를 이끄는 데이터를 통합적으로 관리할 수 있는 플랫폼과 신뢰할 수 있는 AI를 보장하는 자동화된 워크플로우 및 정책을 제공합니다,”라고 셀러스는 언급했습니다.
업계 리더들의 지지
SAP SE의 데이터 및 분석 마케팅 및 솔루션 담당 수석 부사장인 댄 유는 Collibra AI Governance가 조직 내 AI의 윤리적이고 책임 있는 사용을 보장하는 잠재력을 갖추고 있다고 칭찬했습니다. Collibra AI Governance는 2024년 3월 11일부터 13일까지 플로리다주 올랜도에서 개최되는 가트너 데이터 및 분석 서밋에서 소개될 예정입니다.
AI 프로젝트와 관련된 복잡한 도전 과제를 해결하면서, Collibra는 단순한 제품을 제공하는 것이 아니라 책임감 있고 효과적인 AI에 대한 약속을 전달하고 있습니다.