Grundlagenmodelle haben die Bereiche Computer Vision und natürliche Sprachverarbeitung revolutioniert. Forscher schlagen nun vor, diese Prinzipien zu nutzen, um Grundlagenagenten zu entwickeln. Diese KI-Systeme sind für offene Entscheidungsfindungsaufgaben in physischen Umgebungen konzipiert. In einem aktuellen Positionspapier definieren Wissenschaftler der Chinesischen Akademie der Wissenschaften Grundlagenagenten als „allgemein fähige Agenten in physischen und virtuellen Welten.“ Sie glauben, dass diese Agenten zu einem Paradigmenwechsel in der Entscheidungsfindung führen könnten, ähnlich wie große Sprachmodelle (LLMs) linguistische und wissensorientierte Aufgaben revolutioniert haben.
Grundlagenagenten könnten die Erstellung vielseitiger KI-Systeme vereinfachen, die einen bedeutenden Einfluss auf Bereiche haben, die derzeit auf starre, aufgabenorientierte KI-Lösungen angewiesen sind.
Herausforderungen der KI-Entscheidungsfindung
Traditionelle Ansätze der KI-Entscheidungsfindung weisen erhebliche Einschränkungen auf. Expertensysteme basieren auf formalem menschlichem Wissen und manuell erstellten Regeln. Reinforcement-Learning-Systeme (RL) benötigen umfangreiche Schulung von Grund auf für jede neue Aufgabe, was ihre Generalisierungsfähigkeiten einschränkt. Imitationslernen (IL) erfordert beträchtlichen menschlichen Aufwand zur Erstellung von Trainingsbeispielen. Im Gegensatz dazu können LLMs und vision-sprachliche Modelle (VLMs) sich schnell an verschiedene Aufgaben mit minimalem Feintuning anpassen. Die Forscher sind überzeugt, dass diese Methoden mit den nötigen Modifikationen angepasst werden können, um Grundlagenagenten zu entwickeln, die in der Lage sind, offene Entscheidungsaufgaben in physischen und virtuellen Bereichen zu bewältigen.
Wesentliche Merkmale von Grundlagenagenten
Die Forscher heben drei wesentliche Merkmale von Grundlagenagenten hervor:
1. Vereinheitlichte Darstellung: Eine kombinierte Darstellung von Umweltzuständen, Agentenaktionen und Feedbacksignalen.
2. Einheitliche Schnittstelle für Richtlinien: Anwendbar auf ein breites Spektrum von Aufgaben und Bereichen, einschließlich Robotik, Gaming, Gesundheitswesen und mehr.
3. Durchdachter Entscheidungsprozess: Entscheidungen basieren auf einem Verständnis von Weltwissen, Umweltfaktoren und Interaktionen mit anderen Agenten.
Laut den Forschern „verleihen diese Merkmale den Grundlagenagenten multimodale Wahrnehmung, Anpassungsfähigkeit an Aufgaben und Bereiche sowie die Fähigkeit zur Generalisierung mit wenigen oder keinen Beispielen.“
Fahrplan für Grundlagenagenten
Der vorgeschlagene Fahrplan zur Entwicklung von Grundlagenagenten umfasst drei entscheidende Komponenten:
1. Datensammlung: Es müssen großangelegte interaktive Daten aus Internet- und realen Umgebungen gesammelt werden. In Szenarien, in denen die Datenerhebung schwierig ist, können Simulatoren und generative Modelle wie Sora eingesetzt werden.
2. Vortraining mit unbeschrifteten Daten: Grundlagenagenten sollten mit unbeschrifteten Daten vortrainiert werden, um nützliches Entscheidungswissen zu entwickeln. Dies bereitet die Modelle auf das Feintuning mit kleineren, spezifischen Datensätzen vor, was eine schnellere Anpassung an neue Aufgaben ermöglicht.
3. Ausrichtung an LLMs: Grundlagenagenten sollten mit großen Sprachmodellen integriert werden, um Weltwissen und menschliche Werte in ihre Entscheidungsprozesse einzubeziehen.
Herausforderungen und Chancen für Grundlagenagenten
Die Entwicklung von Grundlagenagenten bringt einzigartige Herausforderungen mit sich, die bei Sprach- und Bildmodellen nicht auftreten. Die Details der physischen Welt beinhalten niedrigstufige Informationen anstelle hochgradiger Abstraktionen, was die Erstellung vereinheitlichter Darstellungen für Entscheidungsvariablen erschwert. Zudem erschweren die erheblichen Variationen zwischen Entscheidungsfindungsszenarien die Entwicklung einer kohärenten Richtlinenschnittstelle. Während ein einheitliches Grundlagenmodell alle Modalitäten und Umgebungen umfassen könnte, könnte dies auch die Komplexität erhöhen und die Interpretierbarkeit beeinträchtigen. Grundlagenagenten müssen aktiv an dynamischen Entscheidungsprozessen teilnehmen, was einen Abgang von den hauptsächlich inhaltsfokussierten Rollen der Sprach- und Bildmodelle darstellt. Forscher schlagen verschiedene Ansätze vor, um die Kluft zwischen bestehenden Grundlagenmodellen und Agenten, die in wechselnden Aufgaben und Umgebungen agieren können, zu überbrücken.
Bedeutende Fortschritte sind im Bereich Robotik zu verzeichnen, in dem Kontrollsysteme und Grundlagenmodelle zusammenkommen, um anpassungsfähige Systeme zu schaffen, die über unbekannte Aufgaben hinweg generalisieren können. Diese Systeme nutzen das umfangreiche Allgemeinwissen aus LLMs und VLMs, um informierte Entscheidungen in unbekannten Situationen zu treffen. Ein weiterer wichtiger Forschungsbereich ist das autonome Fahren, wo Forscher untersuchen, wie große Sprachmodelle Fahrzeugsysteme durch die Einbeziehung von Allgemeinwissen und menschlichen kognitiven Fähigkeiten verbessern können. Auch andere Bereiche, einschließlich Gesundheitswesen und wissenschaftlicher Forschung, könnten von der Zusammenarbeit von Grundlagenagenten mit menschlichen Experten profitieren.
„Grundlagenagenten haben das Potenzial, Entscheidungsprozesse zu transformieren, ähnlich wie Grundlagenmodelle die Bereiche Sprache und Vision beeinflusst haben“, behaupten die Forscher. „Ihre avancierte Wahrnehmung, Anpassungsfähigkeit und Denkfähigkeit beseitigen nicht nur die Einschränkungen herkömmlichen RL, sondern erschließen auch die vollen Möglichkeiten von Grundlagenagenten in realen Anwendungen.“
Rangliste
