Citrusx: Simplificando a Conformidade em IA para Empresas
A startup Citrusx, com sede em Tel Aviv, saiu oficialmente do modo reservado, anunciando uma rodada de financiamento semente de $4,5 milhões liderada pelo fundo canadense Awz, com a participação de vários investidores anjo.
Fundada há dois anos, a Citrusx direciona suas operações ao setor de IA, com foco na explicabilidade. Sua plataforma de ponta a ponta capacita os stakeholders das empresas a entenderem os modelos de IA, garantindo que atendam às expectativas de desempenho.
Aprimorando a Conformidade e Compreensão em IA
Com nações avaliando as implicações da IA e buscando medidas regulatórias, a abordagem da Citrusx descentraliza a compreensão da IA, tornando-a acessível além das equipes técnicas. Isso assegura que os stakeholders possam gerenciar efetivamente a conformidade interna e regulatória.
Atualmente, a IA é parte integrante das operações comerciais modernas, otimizando processos, reduzindo custos e melhorando a experiência do cliente. Contudo, a implementação de modelos de IA envolve várias etapas, incluindo a obtenção de aprovações de stakeholders não técnicos, como as equipes de validação, risco e jurídico. Essa lacuna de conhecimento muitas vezes prolonga o processo de aprovação, resultando em atrasos de lançamento que podem variar de seis a nove meses, impactando os resultados empresariais.
Noa Srebrnik, ex-responsável pela gestão de risco no Banco de Israel, reconheceu esse desafio muito antes do recente crescimento da IA generativa. Em 2021, fundou a Citrusx para desenvolver uma plataforma que facilita a validação e a explicabilidade da IA, permitindo que todos os stakeholders compreendam os modelos com eficiência, garantindo a conformidade regulatória.
Uma Solução Abrangente para o Ciclo de Vida da IA
A plataforma da Citrusx fornece relatórios concisos detalhando a funcionalidade do modelo, seu desempenho e seu potencial para alcançar objetivos empresariais. Abrange todo o ciclo de vida da IA — desde o desenvolvimento até a produção. Na fase de desenvolvimento, oferece métricas de validação para estabilidade e precisão dos modelos, identificando vulnerabilidades que podem afetar a justiça e a conformidade.
Durante a fase de produção, a plataforma monitora continuamente os modelos para identificar desvios, explica cada nova previsão e relata periodicamente os riscos potenciais e as recomendações de mitigação.
“Oferecendo uma plataforma unificada para toda a organização, a Citrusx fecha a lacuna entre modelos complexos de ML e todos os stakeholders da empresa por meio de validação, monitoramento e relatórios”, afirmou Srebrnik. “Isso agiliza a implementação e a manutenção, atendendo aos requisitos regulatórios enquanto desmistifica as decisões dos modelos para os clientes finais.”
Enquanto estava em modo reservado, a Citrusx começou a colaborar com clientes selecionados, incluindo empresas de capital aberto em setores regulados, como finanças e segurança. Embora os detalhes permaneçam não divulgados, a empresa afirma que sua tecnologia com patente pendente garante total transparência e acelera o tempo para produção em até 82%, aumentando significativamente o retorno sobre os investimentos em IA.
“Facilitar a colaboração entre departamentos e gerenciar diversos modelos de implementação requer comunicação fluida, que a Citrusx fornece por meio de relatórios em tempo real. Esses insights fomentam a confiança e a transparência entre desenvolvedores de modelos e equipes de supervisão”, observou um representante de um banco canadense colaborador.
Uma Solução Oportuna em Meio à Regulação da IA
Globalmente, os governos reconhecem o potencial da IA, mas estão igualmente atentos aos seus riscos, resultando em regulação proativa. Recentemente, o presidente dos EUA, Biden, emitiu uma ordem executiva para estabelecer novos padrões de segurança em IA, enquanto a UE revelou um inovador Ato de IA para garantir o desenvolvimento confiável da tecnologia.
Nesse cenário em evolução, ferramentas como a Citrusx serão inestimáveis para equipes que navegam por estruturas regulatórias enquanto desenvolvem IA justa e robusta. Outros players notáveis nesse domínio incluem a startup londrina de análise de LLM, Context, apoiada pelo Google Ventures, e a Arize AI, da Califórnia, que oferece o Phoenix, uma biblioteca open-source para monitorar grandes modelos de linguagem (LLMs) em busca de alucinações potenciais.
Com o mercado preparado para crescimento, antecipamos um influxo de novos players abordando essas necessidades críticas em conformidade e transparência em IA.
Classificação
