Entdecken Sie die Macht über Q&A hinaus: Vectara präsentiert das innovative RAG-gestützte Chat-Modul.

In der Ära der generativen KI haben Chatbots an Bedeutung gewonnen. Doch sind sie wirklich hilfreicher und präziser? Heute hat Vectara, eine Plattformentwicklerin für generative KI, ein neues Modul vorgestellt, das Unternehmen ermöglicht, hochpräzise Chatbots zu erstellen und einzusetzen. Durch die Nutzung einer Retrieval Augmented Generation (RAG) Methode in Kombination mit Boomerang-Vektor-Einbettungen gewährleistet Vectara die Bereitstellung von Echtzeitinformationen und minimiert das Risiko von Falschinformationen. Seit dem offiziellen Start im Oktober 2022 hat Vectara seine Plattform kontinuierlich weiterentwickelt, um den Nutzerbedürfnissen gerecht zu werden. Die Einführung dieses Chatmoduls stellt einen bedeutenden Schritt in der Erweiterung seiner Funktionen dar.

„Unser Chat-Feature nutzt RAG zur Generierung Ihrer Antworten“, erklärte Tallat Shafaat, Mitgründer und Chief Architect von Vectara. „Die Antworten stammen aus Ihren eigenen Dokumenten, was die Genauigkeit erhöht.“

Moderne Chatbots: Von Q&A zu Conversational AI

Was unterscheidet das neue Chatmodul von Vectara von den vorherigen Angeboten? Laut Amr Awadallah, Mitgründer und CEO von Vectara, liegt der Schlüssel in der Skalierbarkeit und der Gesprächserhaltung.

Früher konzentrierte sich die API von Vectara hauptsächlich auf Q&A-Interaktionen, bei denen Benutzer eine Frage stellten und eine Antwort erhielten. Bei Folgefragen mussten die Benutzer ihre ursprüngliche Anfrage erneut formulieren, da Vectara keinen Gesprächsverlauf speicherte. Diese Einschränkung erforderte oft, dass Kunden eigene Persistenzschichten für zustandsbehaftete Gespräche entwickelten. Das neue Vectara Chatmodul ändert dies, indem es eine persistente Speicherung integriert, die es der Plattform ermöglicht, den Gesprächsverlauf nahtlos zu verfolgen. „Diese neue Erweiterung ermöglicht es unserer API, den Gesprächsverlauf zu speichern, sodass es nicht notwendig ist, frühere Anfragen umzuformulieren“, erklärte Awadallah.

Für die Integration bietet Vectara sowohl eine API als auch einfache Widgets, die es Organisationen ermöglichen, das Chatmodul mühelos in ihre Websites oder Anwendungen mit nur wenigen Zeilen JavaScript und HTML einzufügen.

In der Zukunft plant Shafaat, Vectara Chat mit zusätzlichen Funktionen für das Enterprise-Management zu erweitern. Kontoinhaber werden in der Lage sein, Kundengespräche semantisch zu analysieren und Einblicke in Nutzerstimmungen und Abfragetendenzen zu gewinnen. Die RAG-basierte Abfragefunktion wird auch Anfragen zu Nutzerchats erleichtern.

Umgang mit Falschinformationen und Vorurteilen in generativer KI

Eine wesentliche Herausforderung bei der Nutzung generativer KI in Unternehmen ist das Risiko von Falschinformationen. Der RAG-Ansatz von Vectara ist eine von mehreren Strategien zur Minderung der Wahrscheinlichkeit ungenauer Antworten im Chatmodul.

Awadallah betonte, dass das System von Vectara erklärbare Antworten mit Zitaten bietet, was die Genauigkeit erhöht. Die Plattform integriert auch Vorurteilsminderung durch einen innovativen Ansatz namens maximale marginale Relevanz. „Maximale marginale Relevanz erhöht die Vielfalt der Ergebnisse, die wir liefern“, erklärte er.

Awadallah fügte hinzu, dass bei strittigen Themen mit unterschiedlichen Meinungen ein robustes Algorithmus entscheidend ist, um verschiedene Perspektiven darzustellen. „Wir stellen sicher, dass wir die Hauptansichten sowie sekundäre Meinungen erfassen, auch wenn diese weniger relevant sind“, sagte er.

Durch den Fokus auf Genauigkeit, Vielfalt und Nutzerengagement strebt Vectara an, die Rolle von Chatbots in der Unternehmenskommunikation zu verbessern.