SydeLabs obtient 2,5 millions de dollars de financement d'amorçage pour développer une solution de pare-feu basée sur l'intention et propulsée par l'IA.

IA Générative et Cybersécurité : Les Solutions Innovantes de SydeLabs

L'IA générative révolutionne les entreprises modernes, mais elle introduit également de nouveaux vecteurs d'attaque pouvant compromettre les organisations et leur réputation. La startup californienne SydeLabs répond à ce défi avec un pare-feu basé sur l'intention en temps réel. Récemment, l'entreprise a obtenu 2,5 millions de dollars en financement initial de la part de RTP Global, Picus Capital et plusieurs investisseurs privés.

Bien que de nombreux acteurs soient présents dans le secteur de la sécurité IA, SydeLabs se distingue par une suite complète de solutions visant à aider les développeurs à éviter les vulnérabilités dans les modèles de langage de grande taille (LLMs), y compris les risques moins connus tout au long du cycle de vie du projet, de la développement à la mise en œuvre.

Offres de Produits Innovants

SydeLabs a élaboré trois produits clés centrés sur l'IA : SydeBox, SydeGuard et SydeComply. SydeBox, actuellement en phase bêta, est une solution de red teaming en libre-service permettant aux équipes d'évaluer leurs applications et modèles IA pour détecter d'éventuelles vulnérabilités. SydeGuard, dont le lancement est imminent, offre une protection en temps réel basée sur l'intention, tandis que SydeComply aborde les questions de conformité à travers différentes régions du monde.

« Lors de la phase bêta de SydeBox, nous avons mis en évidence diverses vulnérabilités, telles que des fuites de données d'entraînement, des injections de prompt et des contournements de sécurité », a déclaré Ankita Kumari, co-fondatrice de SydeLabs. « SydeGuard peut détecter et prévenir les injections de prompt, les attaques de déni de portefeuille et les tentatives de fuite de données. »

Fonctionnement de SydeLabs

SydeBox exploite un agent IA qui lance des attaques tests, basées sur des recherches internes et des données publiques, tandis qu'un LLM évalue le succès de l'attaque en interagissant avec le système cible. En revanche, SydeGuard utilise des modèles propriétaires pour analyser les prompts des utilisateurs afin de détecter d’éventuelles menaces, attribuant des scores de risque aux prompts, aux sessions utilisateurs et aux utilisateurs.

Plutôt que de bloquer immédiatement les utilisateurs, SydeGuard informe les équipes de sécurité des entreprises, offrant la possibilité de bloquer, surveiller ou rediriger la menace vers un honeypot, permettant ainsi aux équipes de décider de la meilleure approche stratégique contre les attaques potentielles.

Détection Robuste des Vulnérabilités

Depuis le lancement de la bêta de SydeBox le 1er mars 2024, SydeLabs a signalé plus de 10 000 vulnérabilités dans plus de 50 applications et modèles. Avec la croissance de l'entreprise, elle prévoit de finaliser ses offres de SydeGuard et SydeComply. À long terme, SydeLabs envisage de proposer la solution de red teaming gratuitement aux entreprises axées sur la détection des vulnérabilités tout en monétisant SydeGuard via un modèle basé sur la consommation.

Kumari a souligné l’importance de l’exactitude d'un produit de cybersécurité et de sa capacité à rester en avance sur les menaces informatiques. « Nous donnons la priorité à des mises à jour constantes de notre modèle, en nous concentrant sur de nouveaux vecteurs et méthodologies d'attaque. »

Contexte de l'Industrie et Avantage Concurrentiel

Le financement de SydeLabs intervient à un moment où la sécurité des applications d'IA générative est particulièrement scrutée, comme en témoignent les attaques par injection de prompt ayant entraîné des deepfakes de célébrités. En réponse, Microsoft a lancé de nouveaux outils Azure IA pour détecter les hallucinations et prévenir les attaques. Des concurrents tels que Lakera et Prompt Security opèrent dans l’espace du red teaming et de la prévention en temps réel, mais Kumari affirme que les produits de SydeLabs offrent une précision et des performances supérieures par rapport à ces outils.

SydeLabs continue d'innover dans le paysage de la cybersécurité, garantissant que les systèmes d'IA générative restent sécurisés face aux menaces évolutives.