Atualmente, muitas empresas reconhecem que a inteligência artificial generativa se tornou uma parte essencial das operações modernas, e sua implementação responsável é crucial para o sucesso. As organizações estão adotando o conceito de "governança de IA", que envolve o monitoramento da utilização de IA e de dados. A Collibra, uma empresa líder em governança de dados com sede em Nova Iorque e Bruxelas, está lançando uma nova solução para atender a essa demanda.
"O consenso é que a IA está se tornando um foco central para quase todas as organizações, mas é vital implementar a IA de forma correta", disse Felix Van de Maele, cofundador e CEO da Collibra, em uma entrevista em vídeo exclusiva. Hoje, a Collibra anunciou seu novo produto, Collibra AI Governance, que tem como objetivo transformar a adoção da IA pelas organizações, garantindo segurança, eficiência e confiabilidade em sua implementação.
Conectando Tecnologia e Políticas
Como parte da Collibra Data Intelligence Platform, o Collibra AI Governance preenche a lacuna essencial entre dados, inteligência artificial e conformidade legal. Esta solução capacita equipes de diferentes áreas a colaborarem, garantindo que as iniciativas de IA estejam em conformidade com normas jurídicas e de privacidade, ao mesmo tempo que minimizam riscos de dados e maximizam o desempenho dos modelos e o retorno sobre o investimento (ROI). O suporte é oferecido durante toda a jornada de adoção de IA — desde a ideação até a implementação e monitoramento contínuo. Van de Maele afirmou: “Trata-se de apoiar todo o ciclo de vida da IA.”
O Collibra AI Governance é aplicável a todas as aplicações de IA dentro de uma organização, não se limitando a uma única solução ou plataforma. Esta ferramenta se destaca ao oferecer gestão intuitiva e supervisão de projetos de IA, protegendo dados sensíveis e promovendo a transparência nas aplicações de IA. "O maior desafio está em alcançar verdadeira visibilidade na organização sobre quem está fazendo o quê e como", explicou Van de Maele. "É mais do que apenas documentação; trata-se de estabelecer fluxos de trabalho que garantam que tudo seja executado corretamente."
A solução se integra perfeitamente com as ferramentas de gerenciamento de dados já existentes da Collibra, incluindo Collibra Data Catalog, Collibra Data Quality & Observability, Collibra Data Privacy e Collibra Protect.
Uma Nova Abordagem ao Gerenciamento de Risco
A necessidade de uma governança eficaz de IA é ressaltada por uma pesquisa recente da IDC, que revelou que, embora 71% das empresas estejam utilizando IA, o processo de implementação está cheio de riscos. Desafios como viés dos modelos, imprecisões e dilemas legais podem impactar significativamente a reputação e a estabilidade financeira de uma organização. Por exemplo, o Google enfrentou críticas devido ao seu modelo de IA Gemini, que produziu imagens racialmente ambíguas e respostas inadequadas, afetando sua reputação e o valor de suas ações.
A solução de Governança de IA da Collibra mitiga esses riscos ao fornecer uma estrutura abrangente para a governança de IA que inclui processos de conformidade simplificados, estratégias de mitigação de risco e mecanismos para melhorar o desempenho do modelo e o ROI. Ela cria uma plataforma unificada para governar tanto a IA quanto os dados que a sustentam, abordando as preocupações comuns relacionadas à adoção de IA.
Como um módulo complementar da Collibra Data Intelligence Platform, Laura Sellers, Diretora de Produtos da Collibra, enfatizou o papel da solução em atender ao desejo prevalente nas organizações de aproveitar a IA de maneira responsável, em meio a preocupações sobre sua imprevisibilidade e potenciais resultados negativos. "Com o Collibra AI Governance, estamos ajudando CIOs, CDOs, líderes de dados e equipes jurídicas ao fornecer uma plataforma unificada para governar a IA e os dados que a alimentam, além de fluxos de trabalho e políticas automatizadas para garantir uma IA confiável em toda a organização", afirmou Sellers.
Endossos de Líderes da Indústria
Dan Yu, Vice-Presidente Sênior de Marketing e Soluções de Dados e Análises da SAP SE, elogiou o Collibra AI Governance por seu potencial em garantir o uso ético e responsável da IA nas organizações. O Collibra AI Governance será apresentado no Gartner Data & Analytics Summit em Orlando, Florida, de 11 a 13 de março de 2024. Ao abordar os complexos desafios associados a projetos de IA, a Collibra não está apenas oferecendo um produto; está comprometida com uma IA responsável e eficaz.
Classificação
