In einer ruhigeren Phase für OpenAI sorgt der Konkurrent Anthropic mit der Einführung seiner Claude 3-Familie großer Sprachmodelle (LLMs) für Aufsehen. Ein weiterer Anbieter, den man im Bereich der generativen KI im Auge behalten sollte, ist das israelische Start-up Deci, das kürzlich bedeutende Updates seiner Produkte angekündigt hat.
Im Herbst 2023 wurde bereits über die Einführung der Open-Source-Modelle DeciDiffusion und DeciLM 6B berichtet – speziell angepasste Versionen von Stabilitys Stable Diffusion 1.5 und Metas LLaMA 2 7B. Seitdem hat Deci den DeciCoder, ein LLM zur Codevervollständigung, sowie das verbesserte DeciDiffusion 2.0 vorgestellt. Jetzt hat das Unternehmen Deci-Nano enthüllt, ein kleineres, effizienteres Closed-Source-LLM, das aktuell ausschließlich über die Deci Generative AI Development Platform für Unternehmen und Entwickler verfügbar ist.
Wendet sich Deci von Open Source ab?
Es scheint, dass Deci zu einer stärker kommerziellen Strategie übergeht, ähnlich wie Mistrals Partnerschaft mit Microsoft. Dies wirft Fragen zur Zukunft der Open-Source-KI auf. Rachel Salkin, VP Marketing von Deci, äußerte in einer E-Mail: „Wir engagieren uns weiterhin für die Unterstützung der Open-Source-Community, erkennen jedoch auch den Wert geschlossener Modelle, die Genauigkeit und Geschwindigkeit verbessern und unseren Kunden einen größeren Mehrwert bieten.“
Salkin hob mehrere kürzlich veröffentlichte Open-Source-Modelle hervor – darunter DeciLM-6B, DeciLM-7B und DeciCoder – die trotz vorübergehend pausierter Demobereiche weiterhin bedeutende Downloads verzeichnen.
Leistung zu einem wettbewerbsfähigen Preis
Wenn Deci tatsächlich einen kommerziellen Weg einschlägt, ist Deci-Nano ein vielversprechender erster Schritt. Dieses Modell überzeugt durch Sprachverständnis und logisches Denken und erreicht beeindruckende 256 Tokens in nur 4,56 Sekunden auf NVIDIA A100 GPUs.
Der Blog von Deci betont, dass Deci-Nano Modelle wie Mistrals 7B-Instruct und Googles Gemma 7B übertrifft und dabei mit nur 0,10 USD pro Million Eingabetokens außergewöhnlich günstig ist, im Vergleich zu OpenAIs GPT-3.5 Turbo, das 0,50 USD und Claude 3 Haiku, das 0,25 USD kostet.
„Deci-Nano verkörpert unseren produktorientierten Ansatz, der sowohl Qualität als auch Kosten-Effizienz in den Vordergrund stellt“, sagte Yonatan Geifman, Mitgründer und CEO von Deci. Das Modell mit einem Kontextfenster von 8K wurde mit Decis AutoNAC-Technologie entwickelt, die darauf abzielt, die Effizienz von Modellen zu optimieren, indem kleinere Modelle erstellt werden, die die Funktionalität größerer Modelle eng nachbilden.
Von Finanzanalysen bis zur Inhaltserstellung zielt Deci-Nano darauf ab, Unternehmen zu innovativen Lösungen bei gleichzeitiger Kostenkontrolle zu verhelfen.
Deci bietet zudem flexible Bereitstellungsoptionen, darunter serverlose Instanzen für Skalierbarkeit oder dedizierte Instanzen für erhöhte Privatsphäre und Anpassungsmöglichkeiten. Diese Vielseitigkeit ermöglicht es Unternehmen, ihre KI-Lösungen an die sich wandelnden Bedürfnisse anzupassen, ohne Kompromisse bei der Leistung einzugehen.
Einführung einer umfassenden Plattform
Während sich die meisten aktuellen Nachrichten auf Deci-Nano konzentrieren, stellt die Einführung einer vollständigen Generative AI Platform einen bedeutenden Fortschritt dar. Diese Plattform wird als „umfassende Lösung“ beschrieben, die auf die Effizienz- und Datenschutzbedürfnisse von Unternehmen zugeschnitten ist.
Was beinhaltet sie? Laut Deci erhalten Nutzer Zugang zu feinabstimmbaren LLMs, einer Inferenzengine und einer Lösung für das Management von KI-Inferenzclustern. Deci-Nano ist das erste proprietäre Modell, das über diese Plattform bereitgestellt wird, mit Plänen für weitere Modelle – einige Open Source, einige Closed Source – in naher Zukunft.
Die Inferenzengine ermöglicht es den Nutzern, Deci-Nano je nach Bedarf zu implementieren, sei es über Decis API, in ihrer virtuellen privaten Cloud oder lokal. Für Kunden, die ihre eigenen virtuellen privaten Clouds verwalten, wird Deci ein containerisiertes Modell sowie verwaltete Inferenzdienste in ihrem Kubernetes-Cluster bereitstellen.
Zusätzlich bietet die Generative AI Platform On-Premises-Bereitstellungsoptionen für Unternehmen, die ihre Daten intern halten möchten. Kunden erhalten einen virtuellen Container, der Deci-Nano und Decis Infery-Softwareentwicklungskit enthält, um eine Integration in ihre Anwendungen zu ermöglichen.
Preisinformationen zur Deci Generative AI Platform und ihren verschiedenen Angeboten wurden noch nicht veröffentlicht, aber Updates werden bereitgestellt, sobald Informationen verfügbar sind.
Rangliste
