Jaxon AI kooperiert mit IBM watsonx, um Herausforderungen im Zusammenhang mit KI-Halluzinationen zu bekämpfen.

Wenn ein KI-System ungenaue Inhalte generiert – oft als "Halluzination" bezeichnet – sind die Folgen nicht immer gravierend. Doch bei einem KI-System, das in militärischer Technologie eingesetzt wird, könnten die Auswirkungen erheblich schwerwiegender sein.

Jaxon AI begann mit der Entwicklung von KI-Systemen für die U.S. Air Force, wobei der Fokus auf Zuverlässigkeit und Genauigkeit lag. Jetzt erweitert das Unternehmen seinen Fokus auf den Unternehmensmarkt mit der Domain-Specific AI Language (DSAIL), die darauf abzielt, kritische Probleme von Halluzinationen und Ungenauigkeiten in großen Sprachmodellen (LLMs) zu adressieren. Diese Technologie integriert die Grundmodelle von IBM watsonx und stellt einen neuartigen Ansatz zur Schaffung verlässlicherer KI-Lösungen dar.

Wie DSAIL die Risiken von KI-Halluzinationen minimiert

Halluzinationen entstehen, wenn eine KI ungenaue Antworten produziert, oft aufgrund unvollständiger Trainingsdaten oder fehlender Verifizierung. Das DSAIL-Framework verringert dieses Risiko, indem es natürliche Spracheingaben in ein binäres Format umwandelt. Dieses Format durchläuft eine Reihe von Überprüfungen – ähnlich einem booleschen Zufriedenheitsprüfer – um sicherzustellen, dass die Antwort der KI alle Anforderungen erfüllt, bevor sie ausgegeben wird, wodurch die Zuverlässigkeit für praktische Anwendungen erhöht wird.

Eine gängige Strategie zur Reduzierung von Halluzinationen ist die Retrieval Augmented Generation (RAG). In diesem Modell greift das LLM auf eine Wissensdatenbank zu, um präzise Antworten zu liefern. Cohen wies darauf hin, dass RAG Teil der DSAIL-Methodologie ist, aber die Ergebnisse noch zusätzlichen Verifizierungsprüfungen unterzogen werden müssen, bevor sie finalisiert werden, was die Wahrscheinlichkeit von Halluzinationen weiter verringert.

Die Rolle von IBM watsonx in Jaxons KI-Systemen

Jaxon nutzt Modelle aus der IBM watsonx-Bibliothek als zentrale Komponenten seiner KI-Systeme. Insbesondere das IBM StarCoder-Modell erleichtert die Codegenerierung, indem es automatisch ersten Code für KI-Projekte basierend auf den während des Prozesses gesammelten Entwurfsspezifikationen erstellt.

StarCoder, eine Open-Source-Initiative, die im Mai mit Unterstützung von ServiceNow und Hugging Face ins Leben gerufen wurde, ist eines von mehreren Code-Generierungstools innerhalb der IBM watsonx-Bibliothek. Savio Rodrigues, VP für Ecosystem Engineering und Developer Advocacy bei IBM, bestätigte, dass IBM ein Gründungspartner des StarCoder-Projekts war und hob die Zusammenarbeit mit Hugging Face hervor, um den Zugang zu offenen Modellen für Unternehmen zu verbessern.

Während StarCoder umfassende Fähigkeiten demonstriert, bietet IBM auch spezialisierte Code-Generierungsmodelle an, die auf spezifische Anwendungen wie COBOL-Migration und Quantencomputing-Entwicklung abgestimmt sind.

IBMs strategische Position im Markt für generative KI

Der Markt für generative KI und LLMs ist wettbewerbsintensiv, mit großen Akteuren wie OpenAI, Microsoft, Google und AWS. IBM strebt danach, seinen Anteil an diesem Markt zu gewinnen, indem es Entwickler und unabhängige Softwareanbieter (ISVs) wie Jaxon AI durch sein IBM Build-Programm unterstützt.

IBM Build bietet Partnern Zugang zu watsonx, technischem Support und Marktunterstützung. Ziel ist es, vertrauenswürdige KI-Grundmodelle mit konstantem Preis, Leistung und Zuverlässigkeit zu liefern. "Unsere Kunden vertrauen IBMs Ansatz zur KI, insbesondere in der Modellausbildung und den rechtlichen Überprüfungen, die wir implementieren", betonte Rodrigues.