Citrusx: KI-Compliance für Unternehmen vereinfachen
Das in Tel Aviv ansässige Startup Citrusx ist offiziell aus dem Stealth-Modus hervorgetreten und hat eine Seed-Finanzierungsrunde von 4,5 Millionen Dollar unter der Leitung des kanadischen VC Awz abgeschlossen, unterstützt von mehreren Business Angels.
Vor zwei Jahren gegründet, richtet sich Citrusx an den KI-Sektor mit einem besonderen Schwerpunkt auf Erklärbarkeit. Die End-to-End-Plattform befähigt Unternehmensbeteiligte, KI-Modelle zu verstehen und deren Leistungsanforderungen einzuhalten.
Erhöhung der KI-Compliance und des Verständnisses
Während Länder die Auswirkungen von KI bewerten und regulatorische Maßnahmen ergreifen, dezentralisiert Citrusx das Verständnis für KI, sodass es über technische Teams hinaus zugänglich wird. So können Stakeholder sowohl interne als auch regulatorische Compliance effektiv managen.
Heutzutage ist KI ein integraler Bestandteil moderner Unternehmensabläufe, da sie Prozesse optimiert, Kosten senkt und das Kundenerlebnis verbessert. Der Einsatz von KI-Modellen umfasst jedoch mehrere Schritte, darunter die Einholung von Rückmeldungen und Genehmigungen von nicht-technischen Stakeholdern wie Validierungs-, Risiko- und Rechtsteams. Diese Wissenslücke verlängert oft den Genehmigungsprozess, was zu Verzögerungen von sechs bis neun Monaten beim Markteintritt führen kann, was sich negativ auf die Geschäftsergebnisse auswirkt.
Noa Srebrnik, die zuvor das Risikomanagement der Bank von Israel leitete, erkannte diese Herausforderung bereits vor dem jüngsten Aufschwung der generativen KI. Im Jahr 2021 gründete sie Citrusx, um eine Plattform zu entwickeln, die die KI-Validierung und -Erklärbarkeit erleichtert, sodass alle Stakeholder die Modelle effizient verstehen und gleichzeitig die Compliance sicherstellen können.
Eine umfassende Lösung für den KI-Lifecycle
Die Plattform von Citrusx bietet prägnante Berichte über die Funktionsweise und Leistung von Modellen sowie deren Potenzial, Unternehmensziele zu erreichen. Sie umfasst den gesamten KI-Lifecycle – von der Entwicklung bis zur Produktion. In der Entwicklungsphase bietet sie Validierungsmetriken für Stabilität und Genauigkeit des Modells und identifiziert Schwachstellen, die Fairness und Compliance beeinträchtigen könnten.
In der Produktionsphase überwacht die Plattform kontinuierlich Models auf Drift, erklärt jede neue Vorhersage und erstellt regelmäßig Berichte über potenzielle Risiken und empfohlene Maßnahmen.
„Durch die Bereitstellung einer einheitlichen Plattform für die gesamte Organisation schließt Citrusx die Lücke zwischen komplexen ML-Modellen und allen Unternehmensbeteiligten durch Validierung, Überwachung und Reporting“, sagte Srebrnik. „Dies vereinfacht den Einsatz und die Wartung, erfüllt regulatorische Anforderungen und entmystifiziert Modellentscheidungen für Endkunden.“
Im Stealth-Modus begann Citrusx mit ausgewählten Kunden, darunter börsennotierte Unternehmen in regulierten Sektoren wie Finanzen und Sicherheit, zusammenzuarbeiten. Obwohl die Einzelheiten vertraulich bleiben, behauptet das Unternehmen, dass seine patentierte Technologie vollständige Transparenz garantiert und die Produktionszeit um bis zu 82 % beschleunigt. Diese Fähigkeit steigert erheblich die Rendite von KI-Investitionen.
„Die Förderung der bereichsübergreifenden Zusammenarbeit und die Verwaltung verschiedener Implementierungsmodelle erfordern nahtlose Kommunikation, die Citrusx durch Echtzeitberichte bereitstellt. Diese Einblicke fördern Vertrauen und Transparenz zwischen Modell Entwicklern und Aufsichtsteams“, bemerkte ein Vertreter einer kooperierenden kanadischen Bank.
Eine zeitgemäße Lösung im Rahmen der KI-Regulierung
Weltweit erkennen Regierungen das Potenzial der KI, sind sich jedoch auch der Risiken bewusst, was zu proaktiven Regulierungen führt. Kürzlich erließ US-Präsident Biden eine Exekutivverordnung zur Schaffung neuer Standards für die KI-Sicherheit, während die EU ein bahnbrechendes KI-Gesetz vorlegte, um eine vertrauenswürdige KI-Entwicklung sicherzustellen.
In diesem sich entwickelnden Umfeld werden Tools wie Citrusx für Teams, die sich durch regulatorische Rahmenbedingungen navigieren und gerechte sowie robuste KI entwickeln, von unschätzbarem Wert sein. Weitere bemerkenswerte Akteure in diesem Bereich sind das in London ansässige LLM-Analyse-Startup Context, unterstützt von Google Ventures, und das kalifornische Unternehmen Arize AI, das mit Phoenix eine Open-Source-Bibliothek für die Überwachung großer Sprachmodelle (LLMs) zur Aufdeckung potenzieller Halluzinationen bietet.
Mit dem Marktwachstum erwarten wir einen Zustrom neuer Akteure, die diese kritischen Bedürfnisse in Bezug auf KI-Compliance und Transparenz ansprechen.
Rangliste
