SydeLabs sichert sich 2,5 Millionen Dollar Seed-Finanzierung zur Entwicklung einer KI-gestützten, intent-basierten Firewall-Lösung.

Generative KI und Cybersicherheit: Innovative Lösungen von SydeLabs

Generative KI revolutioniert moderne Unternehmen, bringt jedoch auch neue Angriffsvektoren mit sich, die sowohl Organisationen als auch deren Ruf gefährden können. Das kalifornische Start-up SydeLabs begegnet dieser Herausforderung mit einer Echtzeit- und intentionsbasierten Firewall. Kürzlich sicherte sich das Unternehmen 2,5 Millionen Dollar Seed-Finanzierung von RTP Global, Picus Capital und verschiedenen Angel-Investoren.

Obwohl es viele Akteure im Bereich der KI-Sicherheit gibt, hebt sich SydeLabs durch eine umfassende Lösungssuite ab, die Entwicklern hilft, Schwachstellen in großen Sprachmodellen (LLMs) zu vermeiden. Dabei werden auch weniger bekannte Risiken über den gesamten Projektlebenszyklus hinweg – von der Entwicklung bis zur Bereitstellung – berücksichtigt.

Innovative Produktangebote

SydeLabs hat drei zentrale KI-fokussierte Produkte entwickelt: SydeBox, SydeGuard und SydeComply. SydeBox, derzeit in der Beta-Phase, fungiert als Self-Service-Red-Teaming-Lösung, die es Teams ermöglicht, ihre KI-Anwendungen und Modelle auf potenzielle Schwachstellen zu überprüfen. SydeGuard, das bald auf den Markt kommt, bietet Echtzeitschutz auf Basis der Absicht, während SydeComply Compliance-Anforderungen in verschiedenen globalen Regionen adressiert.

„Während der Beta-Phase von SydeBox haben wir verschiedene Schwachstellen aufgedeckt, darunter Datenlecks aus Trainingsdaten, Eingabeinjektionen und Umgehungen der Sicherheitsausrichtung“, sagte Ankita Kumari, Mitgründerin von SydeLabs. „SydeGuard kann Eingabeinjektionen, Wallet-Angriffe und Datenleckversuche erkennen und verhindern.“

Wie SydeLabs funktioniert

SydeBox nutzt einen KI-Agenten, der Testangriffe basierend auf interner Forschung und öffentlich verfügbaren Daten initiiert, während ein LLM den Erfolg des Angriffs bei der Interaktion mit dem Zielsystem bewertet. Im Gegensatz dazu verwendet SydeGuard proprietäre Modelle, die Benutzeraufforderungen auf potenzielle Bedrohungen analysieren und Risikobewertungen für Aufforderungen, Benutzersitzungen und Benutzer vergeben.

Anstatt Benutzer sofort zu blockieren, informiert SydeGuard die Sicherheitsteams der Unternehmen und bietet Optionen, um die Bedrohung zu blockieren, zu überwachen oder an ein Honeypot umzuleiten, damit die Teams strategisch entscheiden können, wie sie potenzielle Angriffe angehen.

Robuste Schwachstellenerkennung

Seit dem Start der Beta-Version von SydeBox am 1. März 2024 hat SydeLabs über 10.000 Schwachstellen in mehr als 50 Anwendungen und Modellen identifiziert. Das Unternehmen plant, seine Angebote von SydeGuard und SydeComply abzuschließen, während es langfristig vorhat, die Red-Teaming-Lösung kostenfrei für Unternehmen anzubieten, die sich auf die Schwachstellenerkennung konzentrieren und SydeGuard über ein verbrauchsabhängiges Modell zu monetarisieren.

Kumari betonte die Bedeutung der Genauigkeit eines Cybersicherheitsprodukts und dessen Fähigkeit, Cyberbedrohungen stets einen Schritt voraus zu sein. „Wir prioritär unsere kontinuierlichen Modell-Upgrades und konzentrieren uns auf neue Angriffsvektoren und -methoden.“

Branchenkontext und Wettbewerbsvorteil

Die Finanzierung von SydeLabs erfolgt in einer Zeit, in der die Sicherheit generativer KI-Anwendungen intensiv unter die Lupe genommen wird, verstärkt durch Vorfälle von Eingabeinjektionsangriffen, die zu Deepfakes von Prominenten führten. Als Reaktion darauf hat Microsoft neue Azure AI-Tools lanciert, die darauf abzielen, Halluzinationen zu erkennen und Angriffe zu verhindern. Wettbewerber wie Lakera und Prompt Security sind im Bereich Red-Teaming und Echtzeitprävention tätig, doch Kumari behauptet, dass die Produkte von SydeLabs eine überlegene Genauigkeit und Leistung im Vergleich zu diesen Werkzeugen aufweisen.

SydeLabs setzt weiterhin auf Innovationen im Bereich der Cybersicherheit und sorgt dafür, dass generative KI-Systeme gegen sich entwickelnde Bedrohungen geschützt bleiben.