Enkrypt AI Capta US$ 2,35 Milhões em Financiamento Semente para Segurança em IA Generativa
A startup Enkrypt AI, com sede em Boston e especializada em oferecer uma camada de controle para o uso seguro da IA generativa, levantou com sucesso US$ 2,35 milhões em uma rodada de financiamento semente liderada pela Boldcap.
Embora esse investimento seja modesto em comparação com os financiamentos típicos de IA, a solução inovadora da Enkrypt atende a uma necessidade crítica: a implementação privada, segura e em conformidade de modelos de IA generativa. Fundada por graduados de PhD da Yale, Sahil Agarwal e Prashanth Harshangi, a Enkrypt afirma que sua tecnologia pode aumentar significativamente a adoção da IA generativa nas empresas, potencialmente acelerando a implementação em até dez vezes.
Harshangi comentou: “Estamos defendendo um paradigma onde confiança e inovação se entrelaçam, permitindo a implementação de tecnologias de IA com a confiança de que são tão seguras e confiáveis quanto revolucionárias.”
Além da Boldcap, outros investidores notáveis na rodada de financiamento incluem Berkeley SkyDeck, Kubera VC, Arka VC, Veredas Partners, Builders Fund e vários investidores-anjo dos setores de IA, saúde e empresas.
O Que a Enkrypt AI Oferece?
Com o crescimento da demanda por IA generativa, muitas empresas estão ansiosas para aproveitar essa tecnologia para aprimorar fluxos de trabalho e aumentar a eficiência. No entanto, a implementação de modelos fundamentais traz desafios de segurança, como a necessidade de manter a privacidade dos dados, proteger contra ameaças de segurança e garantir conformidade com as regulamentações antes e depois da implementação.
Atualmente, a maioria das organizações gerencia esses problemas manualmente por meio de equipes internas ou consultores terceirizados. Essa abordagem tradicional, embora funcional, é demorada e pode atrasar os projetos de IA em até dois anos, resultando em oportunidades de negócios perdidas.
Fundada em 2023, a Enkrypt busca preencher essa lacuna com o Sentry, uma solução all-in-one que oferece visibilidade e supervisão do uso e desempenho de modelos de linguagem de grande porte (LLM) em várias funções empresariais. O Sentry protege informações sensíveis, defende contra ameaças de segurança e assegura a conformidade por meio de monitoramento automatizado e controles de acesso robustos.
“O Sentry atua como um gateway seguro para empresas, habilitando controles de acesso ao modelo, juntamente com privacidade de dados e segurança do modelo,” explicou o CEO Sahil Agarwal. “Ele roteia todas as interações com LLM através de nossos guardrails proprietários para previnir vazamentos de dados e manter a conformidade regulatória.”
Aprimorando a Segurança e Conformidade para IA Generativa
Os guardrails do Sentry, impulsionados pela tecnologia proprietária da Enkrypt, previnem proativamente ataques de injeção de solicitação e vulnerabilidades de dados. Essa solução pode higienizar dados do modelo e anonimizar informações pessoais sensíveis, enquanto modera continuamente o conteúdo gerado por IA quanto à toxicidade e relevância.
Os CISOs e líderes de produto têm plena visibilidade sobre todas as iniciativas de IA generativa, permitindo-lhes implementar efetivamente os guardrails da Enkrypt, reduzindo riscos regulatórios, financeiros e reputacionais.
Testando o Impacto do Sentry nas Vulnerabilidades da IA Generativa
Embora a Enkrypt ainda esteja pré-receita e não compartilhe métricas específicas de crescimento, sua tecnologia Sentry está sendo avaliada por empresas de médio a grande porte em setores regulados, como finanças e ciências da vida.
Por exemplo, uma empresa da Fortune 500 que utiliza o modelo Llama2-7B da Meta registrou uma redução nas vulnerabilidades de jailbreak de 6% para 0,6% após implementar o Sentry. Esse avanço permitiu que a empresa adotasse LLMs mais rapidamente — passando de anos para semanas em várias aplicações nos departamentos.
Agarwal destacou que as empresas buscam soluções abrangentes, em vez de múltiplos produtos pontuais, para lidar com vazamentos de dados sensíveis, ataques de injeção de solicitações e gestão de conformidade, ressaltando a natureza única e integrada de sua oferta.
Olhando para o futuro, a Enkrypt planeja expandir sua solução para um maior número de empresas, demonstrando suas capacidades em diversos modelos e ambientes. Esse passo é crucial, já que priorizar a segurança se tornou essencial para qualquer organização que desenvolve ou implementa soluções de IA generativa.
“Estamos atualmente colaborando com parceiros de design para refinar o produto. Nosso principal concorrente é a Protect AI, que recentemente adquiriu a Laiyer AI para aprimorar suas ofertas de segurança e conformidade,” observou Agarwal.
Além disso, o corpo normativo NIST do governo dos EUA formou um consórcio de segurança em IA com mais de 200 empresas para se concentrar no estabelecimento de padrões fundamentais para a medição da segurança da IA.
Classificação
