SydeLabs Garantiu $2,5 milhões em financiamento inicial para desenvolver uma solução de firewall inteligente baseada em IA.

IA Generativa e Cibersegurança: Soluções Inovadoras da SydeLabs

A IA generativa está revolucionando os negócios modernos, mas também introduz novos vetores de ataque que podem colocar em risco organizações e suas reputações. A startup californiana SydeLabs está enfrentando esse desafio com um firewall baseado em intenções e em tempo real. Recentemente, a empresa garantiu US$ 2,5 milhões em financiamento inicial da RTP Global, Picus Capital e diversos investidores-anjo.

Embora haja vários players no setor de segurança de IA, a SydeLabs se destaca com um conjunto abrangente de soluções destinadas a ajudar desenvolvedores a evitar vulnerabilidades em modelos de linguagem de grande escala (LLMs), incluindo riscos pouco conhecidos ao longo do ciclo de vida do projeto, desde o desenvolvimento até a implementação.

Ofertas de Produtos Inovadores

A SydeLabs desenvolveu três produtos principais focados em IA: SydeBox, SydeGuard e SydeComply. O SydeBox, atualmente em beta, funciona como uma solução de red-teaming autossuficiente, permitindo que equipes avaliem suas aplicações e modelos de IA em busca de vulnerabilidades. O SydeGuard, que será lançado em breve, oferece proteção em tempo real baseada em intenções, enquanto o SydeComply aborda questões de conformidade em diferentes regiões globais.

“Durante a fase beta do SydeBox, descobrimos várias vulnerabilidades, incluindo vazamentos de dados de treinamento, injeções de prompt e contornos de segurança”, disse Ankita Kumari, cofundadora da SydeLabs. “O SydeGuard pode detectar e prevenir injeções de prompt, ataques de negação de carteira e tentativas de vazamento de dados.”

Como Funciona a SydeLabs

O SydeBox utiliza um agente de IA que inicia ataques de teste com base em pesquisas internas e dados disponíveis publicamente, enquanto um LLM avalia o sucesso do ataque ao interagir com o sistema alvo. Em contrapartida, o SydeGuard emprega modelos proprietários que analisam prompts de usuários em busca de ameaças, atribuindo pontuações de risco a prompts, sessões de usuários e usuários.

Em vez de bloquear usuários imediatamente, o SydeGuard informa as equipes de segurança das empresas, oferecendo opções para bloquear, monitorar ou redirecionar a ameaça para um honeypot, permitindo que as equipes decidam como abordar ataques potenciais de maneira estratégica.

Detecção Robusta de Vulnerabilidades

Desde o lançamento da versão beta do SydeBox em 1º de março de 2024, a SydeLabs identificou mais de 10.000 vulnerabilidades em mais de 50 aplicações e modelos. À medida que a empresa continua a crescer, pretende finalizar as ofertas do SydeGuard e do SydeComply. A longo prazo, a SydeLabs planeja oferecer a solução de red teaming gratuitamente para empresas focadas na detecção de vulnerabilidades, enquanto monetiza o SydeGuard através de um modelo baseado em consumo.

Kumari destacou a importância da precisão de um produto de cibersegurança e sua capacidade de antecipar ameaças cibernéticas. “Priorizamos atualizações constantes em nosso modelo, com foco em novos vetores de ataque e metodologias.”

Contexto da Indústria e Vantagem Competitiva

O financiamento da SydeLabs ocorre em um momento em que a segurança das aplicações de IA generativa está sob intensa escrutínio, evidenciado por incidentes de ataques de injeção de prompt que resultaram em deepfakes de celebridades. Em resposta, a Microsoft lançou novas ferramentas de IA do Azure voltadas para detectar alucinações e prevenir ataques. Concorrentes como Lakera e Prompt Security atuam no espaço de red teaming e prevenção em tempo real, mas Kumari afirma que os produtos da SydeLabs demonstram precisão e desempenho superiores em comparação com essas ferramentas.

A SydeLabs continua a inovar no cenário de cibersegurança, garantindo que os sistemas de IA generativa permaneçam seguros contra ameaças em evolução.