DataStax möchte Unternehmen mit Unterstützung von Nvidia aus der "AI-Entwicklungs-Hölle" retten.

DataStax erweitert seine Datenplattform, um den wachsenden Anforderungen von Enterprise-AI-Entwicklern gerecht zu werden. Heute stellt das Unternehmen die DataStax AI Platform vor, die in Zusammenarbeit mit Nvidia AI entwickelt wurde. Diese neue Plattform integriert die bestehenden Datenbanktechnologien von DataStax, darunter DataStax Astra für cloud-native Anwendungen und die DataStax Hyper-Converged Database (HCD) für selbstverwaltete Bereitstellungen. Zudem verfügt sie über die Langflow-Technologie, die die Erstellung agentischer AI-Workflows erleichtert. Die Enterprise-AI-Komponenten von Nvidia verbessern dieses Angebot und ermöglichen es Organisationen, Modelle effizienter und schneller zu entwickeln und bereitzustellen. Die Integration umfasst NeMo Retriever, NeMo Guardrails und NIM Agent Blueprints.

Laut DataStax kann diese Plattform die Entwicklungszeit für AI um 60 % verkürzen und AI-Workloads 19-mal schneller verwalten als bestehende Lösungen. "Die Produktionszeit ist entscheidend, da der Aufbau dieser Systeme zeitaufwändig sein kann", erklärt Ed Anuff, Chief Product Officer von DataStax. "Viele Organisationen stecken in einer Entwicklungsfalle fest."

Wie Langflow agentische AI unterstützt

Langflow, das visuelle Orchestrierungstool von DataStax, spielt eine zentrale Rolle in der neuen AI-Plattform. Es ermöglicht Entwicklern, AI-Workflows visuell zu erstellen, indem sie Komponenten per Drag & Drop auf eine Leinwand ziehen. Diese Komponenten umfassen verschiedene Funktionen von DataStax und Nvidia, wie Datenquellen, AI-Modelle und Verarbeitungsschritte, wodurch die Erstellung komplexer AI-Anwendungen vereinfacht wird. "Langflow stellt alle Funktionen und APIs von DataStax sowie die Komponenten und Mikrodienste von Nvidia als visuelle Elemente bereit, die miteinander verbunden und interaktiv genutzt werden können", so Anuff.

Langflow ermöglicht auch agentische AI auf der DataStax-Plattform. Anuff erklärt, dass die Plattform drei zentrale Agententypen unterstützt:

- Aufgabenorientierte Agenten: Diese Agenten übernehmen spezifische Aufgaben für Nutzer, wie das Zusammenstellen von Urlaubsangeboten in einer Reiseanwendung basierend auf den Vorlieben.

- Automatisierungsagenten: Hinter den Kulissen tätig, verwalten diese Agenten Aufgaben über API-Kommunikation und ermöglichen automatisierte Workflows ohne direkte Nutzerinteraktion.

- Multi-Agenten-Systeme: Diese Methode zerlegt komplexe Aufgaben in Teilaufgaben, die spezialisierten Agenten zugewiesen werden.

Vorteile der Integration von Nvidia und DataStax für Enterprise AI

Die Zusammenarbeit zwischen den Technologien von Nvidia und DataStax, unterstützt durch Langflow, bietet erhebliche Vorteile für Nutzer im Bereich Enterprise AI. Anuff betont, dass die Nvidia-Integration die einfache Nutzung von benutzerdefinierten Sprachmodellen und Embeddings über eine standardisierte NIM-Mikrodienste-Architektur ermöglicht, was den Nutzern zugutekommt, indem sie die Hardware und Software von Nvidia für die effiziente Ausführung von Modellen nutzen können.

Zudem sorgt die Einführung von Guardrails dafür, dass Nutzer vor unsicheren Inhalten und Ausgaben geschützt werden. "Guardrails sind ein Sidecar-Modell, das unsichere Inhalte von Nutzern oder Datenbanken abfängt", sagt Anuff und hebt deren Einfluss auf Entwickler und Endnutzer hervor. Die Integration unterstützt außerdem die kontinuierliche Modellverbesserung. Anuff erwähnt, dass NeMo Curator Enterprise-AI-Nutzern hilft, zusätzliches Material zur Feinabstimmung zu identifizieren.

Insgesamt beschleunigt diese Integration die Einführung von AI in Unternehmen und bietet eine kosteneffiziente Lösung. Anuff betont, dass die Plattform nicht ausschließlich auf GPUs angewiesen ist: "Der Nvidia-Einsatz kann Workloads sowohl auf CPUs als auch auf GPUs ausführen. Während GPUs in der Regel schneller sind, kann die Auslagerung von Aufgaben auf CPUs in weniger kritischen Bereichen zu Kosteneinsparungen führen."

Most people like

Find AI tools in YBX