Erstellen Sie KI-Chat-Anwendungen mit dem Vectara-Portal: Ein Leitfaden für Nicht-Entwickler zur Interaktion mit Daten.

Vectara Vereinfacht die Entwicklung von Generativer KI mit dem Vectara Portal

Vectara, ein Vorreiter im Bereich der retrieval-augmented generation (RAG), hat das Vectara Portal ins Leben gerufen. Diese Open-Source-Umgebung ermöglicht es jedem, KI-Anwendungen zu erstellen, die mit ihren Daten interagieren.

Im Gegensatz zu vielen kommerziellen Lösungen, die sofortige Dokumenteneinblicke bieten, sticht das Vectara Portal durch seinen benutzerfreundlichen Ansatz hervor. Mit nur wenigen einfachen Schritten können Nutzer—unabhängig von ihrem technischen Know-how—Such-, Zusammenfassungs- oder Chat-Anwendungen mithilfe ihrer Datensätze erstellen, ohne einen Code schreiben zu müssen.

Potenzial für Nicht-Entwickler Freisetzen

Dieses Tool hat das Potenzial, Nicht-Entwicklern bei einer Vielzahl von organisatorischen Aufgaben zu helfen, von der Richtlinienverwaltung bis zur Rechnungsabfrage. Allerdings wird die Leistung noch bewertet, da sich die Plattform in der Beta-Testphase mit einer begrenzten Anzahl von Kunden befindet.

Ofer Mendelevitch, Leiter der Entwicklerbeziehungen bei Vectara, gibt Einblicke in die erwarteten Auswirkungen des Portals und erläutert, dass die Integration mit Vectaras proprietärer RAG-as-a-Service-Plattform voraussichtlich zu einer breiten Akzeptanz bei Nicht-Entwicklern führen wird. Mendelevitch äußerte seine Vorfreude darauf, die innovativen Anwendungen zu beobachten, die Nutzer erstellen werden, und hofft, dass diese die Fähigkeiten von Vectaras Unternehmens-RAG-Systemen hervorheben.

So funktioniert das Vectara Portal

Das Vectara Portal fungiert sowohl als gehostete Anwendung als auch als Open-Source-Angebot unter der Apache 2.0-Lizenz. Nutzer können benutzerdefinierte Portale erstellen und diese mit gezielten Zielgruppen teilen.

Um zu beginnen, müssen Nutzer ein Portal-Konto mit ihren Vectara-Anmeldeinformationen erstellen und ihr Profil mit einer Vectara-ID, einem API-Schlüssel und einer OAuth-Client-ID einrichten. Nach der Profil-Erstellung können Nutzer auf die Schaltfläche „Portal erstellen“ klicken und grundlegende Angaben wie den Namen, die Beschreibung und die Funktionalität der App eingeben—ob es sich um ein semantisches Suchwerkzeug, eine Zusammenfassungs-App oder einen Konversationsassistenten handelt.

Der benutzerfreundliche Verwaltungsbildschirm des Portals ermöglicht Nutzern den Zugriff auf ihre erstellten Portale, die Anpassung von Einstellungen und das Hochladen von Dokumenten, um die App an ihre spezifischen Datenbedürfnisse anzupassen. Diese Dokumente werden von Vectaras RAG-Plattform indiziert, was die Generierung von genauen und hallucinationsfreien Antworten gewährleistet.

„Diese Plattform bietet eine leistungsstarke Abruf-Engine und unser fortschrittliches Boomerang-Einbettungsmodell, was die Antwortqualität verbessert“, bemerkte Mendelevitch. Dank der No-Code-Natur können Ersteller generative KI-Anwendungen in nur wenigen Klicks schnell entwickeln.

Nachdem ein Portal eingerichtet wurde, erstellt das Backend ein „Korpus“, das sich auf die hochgeladenen Dokumente im Vectara-Konto des Nutzers bezieht. Dieses Korpus ermöglicht es Vectaras RAG-API, Anfragen effizient zu verarbeiten und die relevantesten Antworten zu liefern.

Während des Abfrageprozesses identifiziert Vectara zunächst die wichtigen Abschnitte der Dokumente, die für die Anfrage des Nutzers relevant sind (der Abruf-Schritt), bevor diese Informationen an ein großes Sprachmodell (LLM) weitergeleitet werden. Nutzer können aus mehreren LLM-Optionen wählen, darunter Vectaras eigenes Mockingbird und Modelle von OpenAI.

„Für Kunden von Vectara Scale integriert das Portal die besten Funktionen unserer Plattform, einschließlich der effizientesten LLMs“, fügte Mendelevitch hinzu. Standardmäßig sind Apps öffentlich und über Links teilbar, jedoch können Nutzer den Zugriff auf bestimmte Personen beschränken.

Ziel: Unternehmen zur Nutzung anregen

Mit seiner No-Code-Plattform, die sowohl in gehosteten als auch in Open-Source-Formaten verfügbar ist, möchte Vectara mehr Unternehmensbenutzern ermöglichen, leistungsstarke generative KI-Anwendungen für vielfältige Anwendungsfälle zu erstellen. Das Unternehmen erwartet, dass dies zu mehr Anmeldungen führt und das Interesse an seinen Hauptangeboten im Bereich RAG-as-a-Service steigert, was höhere Konversionsraten fördert.

„Unternehmen werden RAG als überzeugenden Anwendungsfall entdecken, und wir wollen, dass sie das volle Potenzial von Vectaras End-to-End-Plattform erleben. Das Portal ist der Schlüssel zum Verständnis dieses Potenzials und wird ein wertvolles Werkzeug für Produktmanager, Geschäftsführer und C-Level-Executives darstellen“, erklärte Mendelevitch.

Vectara hat erfolgreich über 50 Millionen US-Dollar an Finanzierung gesammelt und betreut derzeit etwa 50 Produktionskunden, darunter Obeikan Group, Juniper Networks, Sonosim und Qumulo.