Microsoft startet serverloses Fine-Tuning für sein Phi-3 Sprachmodell: Verbesserung von Anpassungsfähigkeit und Effizienz.

Microsoft, ein wichtiger Partner von OpenAI, unternimmt Schritte, um im Bereich der generativen KI wettbewerbsfähig zu bleiben. Heute stellte das Unternehmen eine neue Methode zur Feinabstimmung seines Phi-3 kleinen Sprachmodells vor, die es Entwicklern ermöglicht, ohne eigene Server zu arbeiten – zunächst kostenlos verfügbar.

Feinabstimmung ist der Prozess, bei dem ein KI-Modell angepasst wird, um sein Verhalten und seine Fähigkeiten für spezifische Anwendungen zu optimieren. Phi-3, das im April vorgestellt wurde, ist ein Modell mit 3 Milliarden Parametern und somit eine kostengünstige Wahl für Drittentwickler, die Anwendungen entwickeln möchten. Obwohl es kleiner ist als viele führende Modelle – wie Meta’s Llama 3.1 mit 405 Milliarden Parametern – bietet Phi-3 laut Sébastien Bubeck, Vizepräsident für generative KI bei Microsoft, eine Leistung, die mit OpenAIs GPT-3.5 vergleichbar ist.

Die Phi-3-Modellreihe umfasst sechs Varianten mit unterschiedlichen Parameterzahlen und Kontextlängen, die Eingaben von 4.000 bis 128.000 Tokens unterstützen. Die Preisgestaltung beginnt bei 0,0003 bis 0,0005 USD pro 1.000 Eingabe-Tokens oder 0,3 bis 0,9 USD pro Million Tokens, was es im Vergleich zu OpenAIs neuem GPT-4o mini wettbewerbsfähig macht.

Mit einem Fokus auf den Unternehmenseinsatz wurde Phi-3 mit Schutzmaßnahmen ausgestattet, um Vorurteile und toxisches Verhalten zu mindern. Bubeck betonte zuvor, dass das Modell an spezifische Geschäftsbedürfnisse angepasst werden kann, und sagte: „Sie können Ihre Daten einbringen und dieses allgemeine Modell anpassen, um hervorragende Leistungen in spezialisierten Anwendungen zu erreichen.“

Früher mussten Entwickler ihre eigenen Server über Microsoft Azure einrichten oder das Modell lokal betreiben, um eine Feinabstimmung vorzunehmen. Microsoft hat nun eine öffentliche "Models-as-a-Service"-Serverless-Option innerhalb seiner Azure AI-Entwicklungsplattform eingeführt. Entwickler können über diesen serverlosen Endpunkt auf Phi-3-small zugreifen, was den KI-Entwicklungsprozess vereinfacht.

Das Phi-3-vision-Modell, das Bild-Eingaben verarbeiten kann, wird ebenfalls bald über einen serverlosen Endpunkt verfügbar sein. Während diese Modelle über die Azure-Plattform von Microsoft zugänglich sind, sollten Entwickler, die ihre Modelle anpassen möchten, Phi-3-mini und Phi-3-medium in Betracht ziehen, die die Feinabstimmung mit Drittanbieter-Daten für maßgeschneiderte KI-Erlebnisse unterstützen.

Microsoft hebt hervor, dass Bildungsplattformen wie Khan Academy bereits ein feinabgestimmtes Phi-3-Modell nutzen, um die Leistung ihres Khanmigo für Lehrer, unterstützt durch den Azure OpenAI Service, zu verbessern.

Die Neuerungen in der serverlosen Feinabstimmung bringen eine Preisstruktur für Phi-3-mini-4k-instruct mit sich, die bei 0,004 USD pro 1.000 Tokens (4 USD pro Million Tokens) beginnt, während die Preise für das Medium-Modell noch nicht bekannt gegeben wurden.

Dieser Schritt positioniert Microsoft als starken Wettbewerber im Kampf um Unternehmens-KI-Entwickler, insbesondere im Hinblick auf OpenAIs jüngste Ankündigung der kostenlosen Feinabstimmung für GPT-4o mini, die für bestimmte API-Nutzer bis zu 2 Millionen Tokens pro Tag verfügbar ist.

Mit Meta, das die Open-Source-Familie Llama 3.1 veröffentlicht, und Mistral, das das Modell Mistral Large 2 vorstellt – beide fähig zur Feinabstimmung – wird deutlich, dass der Wettbewerb um überzeugende KI-Lösungen für die Unternehmensentwicklung zunimmt. KI-Anbieter versuchen, Entwickler mit einer Vielzahl von Modelloptionen, von klein bis groß, anzuziehen.