Goodfire sichert 7 Millionen Dollar zur Verbesserung der Interpretierbarkeit von KI-Modellen
Goodfire, ein Start-up, das sich auf die Erhöhung der Beobachtbarkeit generativer KI-Modelle konzentriert, hat erfolgreich 7 Millionen Dollar in einer Seed-Runde unter der Leitung von Lightspeed Venture Partners gesammelt. Weitere Unterstützer sind Menlo Ventures, South Park Commons, Work-Bench, Juniper Ventures, Mythos Ventures, Bluebirds Capital und mehrere namhafte Business Angels.
Bewältigung des 'Black Box'-Dilemmas
Mit der zunehmenden Komplexität generativer KI-Modelle, wie etwa großen Sprachmodellen (LLMs), die jetzt Hunderte von Milliarden von Parametern umfassen, wird auch ihre Funktionsweise intransparent. Diese "Black Box"-Eigenschaft stellt eine erhebliche Hürde für Entwickler und Unternehmen dar, die KI zuverlässig und sicher einsetzen möchten. Eine aktuelle Umfrage von McKinsey zeigte, dass 44 % der Führungskräfte negative Folgen durch unvorhergesehene Verhaltensweisen ihrer Modelle berichteten.
Goodfire möchte diese Herausforderungen durch einen innovativen Ansatz namens "mechanistische Interpretierbarkeit" angehen, der untersucht, wie KI-Modelle auf granularer Ebene reasoning und Entscheidungen treffen.
Verfeinerung des Modellverhaltens
Die innovativen Tools von Goodfire erleichtern das Verständnis und die Anpassung des Verhaltens von KI-Modellen. Eric Ho, CEO und Mitgründer von Goodfire, erklärt die Vision:
„Unsere Tools machen die Black Box generativer KI-Modelle transparent und bieten eine benutzerfreundliche Oberfläche, die den Entscheidungsprozess hinter den Ausgaben des Modells erklärt. Entwickler können auf die inneren Abläufe des Modells zugreifen und die Bedeutung verschiedener Konzepte anpassen, um dessen Entscheidungen zu beeinflussen.“
Ho vergleicht diesen Prozess mit einer Neurochirurgie an KI-Modellen und skizziert drei wesentliche Schritte:
1. Gehirn kartieren: „Ähnlich wie Neurowissenschaftler Bilder verwenden, um das menschliche Gehirn zu untersuchen, wenden wir Interpretationsmethoden an, um zu identifizieren, welche Komponenten spezifischen Aufgaben, Konzepten und Ergebnissen entsprechen.“
2. Verhalten visualisieren: „Sobald das Gehirn kartiert ist, bieten wir Tools an, die helfen, problematische Bereiche zu identifizieren, indem Entwickler leicht Probleme in ihren Modellen erkennen können.“
3. Chirurgie durchführen: „Mit diesem Verständnis ausgestattet, können Benutzer präzise Änderungen vornehmen, um die Leistung zu verbessern—vergleichbar mit einem Neurochirurgen, der eine spezifische Gehirnregion sorgfältig anpasst. Dadurch können sie die Fähigkeiten des Modells verbessern, Probleme beseitigen und Bugs beheben.“
Dieser Einblick könnte den Bedarf an kostspieligem Retraining oder trial-and-error Prompt Engineering erheblich reduzieren und die KI-Entwicklung letztlich optimieren.
Zusammenstellung eines Top-Teams
Das Team von Goodfire besteht aus Experten für KI-Interpretierbarkeit und Start-up-Skalierung:
- Eric Ho, CEO: Zuvor Gründer von RippleMatch, einem B2B-Start-up für KI-Rekrutierung, das von Goldman Sachs unterstützt wird.
- Tom McGrath, Chief Scientist: Ehemaliger Senior Research Scientist bei DeepMind, wo er das Team für mechanistische Interpretierbarkeit ins Leben rief.
- Dan Balsam, CTO: Mitgründer von RippleMatch, verantwortlich für die Plattform und die maschinellen Lernanstrengungen.
Nick Cammarata, ein Interpretierbarkeitsexperte, der zuvor bei OpenAI tätig war, hebt die Bedeutung der Mission von Goodfire hervor: „Es gibt eine entscheidende Lücke zwischen hochmoderner Forschung und den praktischen Anwendungen von Interpretierbarkeitsmethoden. Das Team von Goodfire ist ideal positioniert, um diese Lücke zu schließen.“
Nnamdi Iregbulem, Partner bei Lightspeed Venture Partners, äußert sich optimistisch über die Zukunft von Goodfire: „Interpretierbarkeit wird in der KI-Entwicklung immer wichtiger. Die Tools von Goodfire werden grundlegende Ressourcen sein und revolutionieren, wie Entwickler mit LLMs interagieren. Wir sind begeistert, Goodfire in diesem wichtigen Bereich der KI-Landschaft zu unterstützen.“
Zukünftige Bestrebungen
Goodfire plant, die Mittel zu nutzen, um seine Ingenieur- und Forschungsteams zu erweitern und die Kerntechnologie weiterzuentwickeln. Das Unternehmen verfolgt das Ziel, moderne Open-Weight-Modelle zu unterstützen, die Bearbeitungsmöglichkeiten für Modelle zu verbessern und intuitive Benutzeroberflächen für die Interaktion mit den Modellen zu schaffen.
Als gemeinnützige Gesellschaft engagiert sich Goodfire dafür, das Verständnis fortschrittlicher KI-Systeme zu fördern. Durch die Verbesserung der Interpretierbarkeit und Editierbarkeit von KI-Modellen strebt das Unternehmen an, sicherere, zuverlässigere und vorteilhaftere KI-Technologien zu entwickeln.
Goodfire sucht derzeit nach „mission-driven, thoughtful individuals“, die Teil des Teams werden und zur Weiterentwicklung der KI-Interpretierbarkeit beitragen möchten.
Rangliste
