Databricks hebt die Entwicklerwerkzeuge für generative KI in Unternehmen mit bedeutenden Erweiterungen seiner Mosaic AI-Plattform auf ein neues Niveau. Diese Verbesserungen wurden auf der jährlichen Daten- und KI-Konferenz unter der Leitung von CEO Ali Ghodsi präsentiert. Ziel ist es, Unternehmen die effektive Bereitstellung von Anwendungen zu ermöglichen, die auf großen Sprachmodellen (LLMs) basieren.
Die Mosaic AI-Plattform, ein Ergebnis der 1,3 Milliarden Dollar schweren Übernahme von MosaicML durch Databricks, erweitert die Fähigkeiten des Unternehmens im Bereich generative KI und vereinfacht die Entwicklung von KI-Anwendungen. Die neuesten Funktionen konzentrieren sich auf drei Hauptbereiche: 1. den Aufbau komplexer KI-Systeme, 2. die Evaluierung dieser Systeme anhand verschiedener Kennzahlen und 3. die Gewährleistung der Governance über den gesamten KI-Workflow.
Dieses umfassende End-to-End-Ökosystem ermöglicht es Organisationen, zuverlässige generative KI-Anwendungen zu entwickeln, die ihre Daten nutzen. Zudem positioniert sich Databricks wettbewerbsfähig gegenüber Snowflake, das seine eigenen generativen KI-Angebote ausweitet, einschließlich des kürzlichen Starts seines unternehmensgerechten offenen LLM "Arctic", das eine Herausforderung für Databricks' DBRX darstellt.
Neuigkeiten in Databricks Mosaic AI
Unternehmen, die an generativer KI interessiert sind, möchten diese innovative Technologie nutzen, um Anwendungen mit ihren internen Daten zu entwickeln. Viele Teams haben jedoch Schwierigkeiten, den erwarteten Return on Investment aus großen Modellen zu erzielen, da sie oft vor Herausforderungen stehen, hochwertige Outputs innerhalb von Budget- und Datenschutzvorgaben zu liefern.
Um diese Herausforderungen zu bewältigen, setzen Unternehmen zunehmend auf retrieval augmented generation (RAG)-basierte komplexe KI-Systeme, die verschiedene kleine Modelle, Retriever, Vektor-Datenbanken sowie Werkzeuge zur Bewertung, Überwachung, Sicherheit und Governance integrieren. Databricks hat Mosaic AI verbessert, um die Erstellung dieser fortschrittlichen Systeme zu unterstützen.
Kürzlich hat Databricks die Vector AI-Suche als serverlose Vektor-Datenbank in seine Plattform integriert. Zu den neuesten Funktionen gehören das Model Training und das Agent Framework. Mit der Model Training-Funktion können Benutzer kleine, Open-Source-Grundlagenmodelle über eine benutzerfreundliche API oder Schnittstelle anpassen und auf spezifische Aufgaben optimieren, während sie kosteneffektiv bleiben. Das Agent Framework hingegen ermöglicht in Kombination mit Mosaic AI Vector Search und Model Serving die Entwicklung hochwertiger RAG-Anwendungen mithilfe dieser optimierten Modelle.
„Zunächst vereinfacht das Agent Framework die Messung und Bewertung der Anwendungsqualität durch die Agentenbewertung“, erklärt Joel Minnick, VP of Product Marketing bei Databricks. „Es umfasst proprietäre KI-unterstützte Bewertungswerkzeuge, die automatisch die Ausgabequalität bewerten, sowie eine intuitive Trace-UI für Stakeholder-Feedback. So können Entwickler Hypothesen testen, schnell iterieren und Anwendungen effizient innerhalb eines End-to-End-LLMOps-Workflows erneut bereitstellen.“
Die Plattform bietet zudem einen KI-Tools-Katalog, der es Organisationen ermöglicht, Werkzeuge über das Databricks Unity Katalog zu verwalten, freizugeben und zu registrieren, der kürzlich Open Source geworden ist. Dieser Katalog verbessert komplexe KI-Systeme, indem er ihnen Fähigkeiten wie intelligente Code-Generierung, Websuche und API-Aufrufe verleiht. Jede im Unity-Katalog registrierte Python- oder SQL-Funktion ist mit dem Mosaic AI Tools Catalog kompatibel und verbessert somit die Ausgabequalität.
Verbesserte Governance mit Mosaic AI Gateway
Um eine robuste Governance und Vertrauen in KI-Anwendungen zu gewährleisten, führt Databricks das „Mosaic AI Gateway“ ein. Dieses Tool bietet eine einheitliche Schnittstelle zum Abfragen, Verwalten und Bereitstellen von sowohl Open-Source- als auch proprietären Modellen und ermöglicht es Teams, LLMs ohne umfangreiche Änderungen am Anwendungscode auszutauschen.
Wesentlich ist, dass das AI Gateway mit integrierten Governance- und Überwachungsfunktionen ausgestattet ist. Es ermöglicht die Nutzungstracking und Sicherheitsvorkehrungen, damit Organisationen die Modellnutzung überwachen und Ratenlimits setzen können, um Kosten zu kontrollieren und gleichzeitig persönliche Identifizierungsdaten herauszufiltern.
Alle neuen Angebote für Mosaic AI, mit Ausnahme des KI-Tools-Katalogs, befinden sich derzeit in der öffentlichen Vorschau und werden in den kommenden Monaten allgemein verfügbar sein. Der KI-Tools-Katalog ist in privater Vorschau, mit keinem angekündigten Zeitplan für eine breitere Veröffentlichung. Zudem stellte Databricks bei der Veranstaltung mehrere weitere bemerkenswerte Produkte vor, darunter Databricks AI/BI für generative KI-gesteuerte Analysen, Databricks LakeFlow für Datenengineering und ein spezialisiertes Bildgenerierungsmodell, das in Partnerschaft mit Shutterstock entwickelt wurde.
Der Databricks Data and AI Summit findet vom 10. bis 13. Juni 2024 statt.
Rangliste
