Databricks und Credo AI arbeiten zusammen, um skalierbare und verantwortungsvolle KI-Lösungen gemäß den Compliance-Standards anzubieten.

Das in Palo Alto ansässige Startup Credo AI hat angekündigt, dass seine Plattform zur KI-Governance jetzt auf der Databricks Data Intelligence Plattform verfügbar ist. Durch diese Integration können Databricks-Kunden KI-Risiken und Compliance effizient überwachen und verwalten, wobei sie auf bereits im Databricks-Umfeld gespeicherte Daten zugreifen. Dies sorgt für mehr Transparenz während des gesamten Lebenszyklus der KI-Entwicklung.

Credo AI, gegründet im Jahr 2020 und mit 12,8 Millionen US-Dollar in einer Series A-Finanzierungsrunde im Mai 2022, wird sich mit MLFlow von Databricks integrieren, das den Entwicklungslebenszyklus des maschinellen Lernens überwacht. Diese Integration wandelt automatisch Modellmetriken und Metadaten in wichtige Governance-Dokumente wie Model Cards und KI-Wirkungsanalysen um.

Mit dem Inkrafttreten neuer Vorschriften, wie dem EU KI-Gesetz, müssen Anbieter und Entwickler von Modellen Risikobewertungen durchführen, Konformitätsprüfungen vornehmen, überprüfbare Register führen und die Leistung überwachen – alles im Einklang mit den Transparenzanforderungen basierend auf der Risikokategorie.

„Ich bin überzeugt, dass die Partnerschaft mit Databricks von großer Bedeutung sein wird und den Ton für 2024 setzen kann“, sagte Navrina Singh, Gründerin und CEO von Credo AI. „Diese Zusammenarbeit signalisiert Unternehmen, dass effektive Governance den Kontext und die Geschäftsprioritäten berücksichtigen muss, um Risiken zu managen und gleichzeitig sichere, verantwortungsvolle Produkte auf den Markt zu bringen.“

Roger Murff, VP of Technology Partners bei Databricks, äußerte Begeisterung für die Partnerschaft und erklärte, dass sie darauf abziele, KI-Richtlinieninhalte in die Databricks-Plattform zu integrieren. Er betonte die entscheidende Rolle der Governance, um die sichere und regelkonforme Einführung von KI in großem Maßstab zu gewährleisten, während Unternehmen ihre KI-Strategien verfeinern.