Anthropic kündigt die Einführung vollständiger Systemanweisungen für Artefakte an; Kürzlich entdeckte Anweisungen der Claude-Familie als unvollständig erkannt.

In der vergangenen Woche hat Anthropic die Systemprompts für die Claude-Modellreihe veröffentlicht, jedoch war diese Veröffentlichung unvollständig. In Reaktion auf die Hinweise von Forschern hat das Unternehmen nun zugesichert, die Systemprompts für das neueste Feature „Artifacts“ in den kommenden Wochen bereitzustellen.

Ein Sprecher von Anthropic bestätigte, dass bald weitere Informationen zu den Systemprompts, einschließlich der für Artifacts, verfügbar sein werden. Artifacts wurde zusammen mit der Claude-Chat-Oberfläche eingeführt, um die Ausführung von Code-Snippets zu erleichtern, doch die zugehörigen Systemprompts waren beim ersten Rollout nicht enthalten.

Die Veröffentlichung der Claude-Systemprompts erhielt positive Aufmerksamkeit in den Medien für ihre Transparenz und sticht in einer Branche hervor, in der viele große KI-Unternehmen über die Konfiguration ihrer Modelle eher zurückhaltend sind. Forscher wie Mohammed Sahli wiesen jedoch darauf hin, dass die Aussagen von Anthropic unvollständig sind, da die Systemprompts für Artifacts fehlten.

Anthropic stellte klar, dass Artifacts bis letzte Woche nicht für alle Claude-Nutzer zugänglich war, was mit der Ankündigung der Systemprompts zusammenfiel. Dieser Zeitrahmen erklärt das Fehlen der Prompts zu Artifacts in der vorherigen Veröffentlichung.

Warum sind Systemprompts wichtig?

Obwohl KI-Entwickler nicht verpflichtet sind, Systemprompts für große Sprachmodelle (LLMs) offenzulegen, ist die Suche nach diesen Betriebsanweisungen zu einer beliebten Beschäftigung unter KI-Enthusiasten geworden. Die öffentliche Bereitstellung von Systemprompts erhöht die Transparenz und verdeutlicht, wie Entwickler das Verhalten ihrer Modelle intendieren, während sie erklärt, warum bestimmte Nutzeranfragen abgelehnt werden können.

Laut der Dokumentation von Anthropic priorisiert Claude 3.5 Sonnet, die fortschrittlichste Variante des Modells, Genauigkeit und Prägnanz in den Antworten und verzichtet darauf, Informationen als sensibel zu kennzeichnen oder Füllphrasen zu verwenden. Claude 3 Opus, ein größeres Modell, verfügt über eine Wissensdatenbank, die im August 2023 aktualisiert wurde, wodurch es sich mit kontroversen Themen auseinandersetzen kann, während Stereotypisierung vermieden und ausgewogene Perspektiven gewährleistet werden. Das kleinste Modell, Claude 3 Haiku, legt Wert auf Geschwindigkeit und unterliegt anderen Verhaltensrichtlinien im Vergleich zu Claude 3.5 Sonnet.

Obwohl die Einzelheiten der Systemprompts für Artifacts noch nicht bekannt gegeben wurden, deutet ein Medium-Beitrag von Sahli darauf hin, dass das Feature entwickelt wurde, um komplexe Probleme systematisch anzugehen und dabei prägnante Antworten auf Nutzeranfragen zu liefern.