Lernen im Kontext
Wenn ein Modell eine neue Fertigkeit aus den in der Eingabeaufforderung platzierten Beispielen aufnimmt, ohne dass am Modell selbst Änderungen vorgenommen werden.
Es gibt zwei Möglichkeiten, einem Modell etwas Neues beizubringen. Sie können es neu trainieren, was die internen Zahlen des Modells ändert und Zeit und Geld kostet. Oder Sie können direkt ein paar Beispiele in die Eingabeaufforderung einfügen und das Modell das Muster selbst ausarbeiten lassen. Die zweite Möglichkeit ist das Lernen im Kontext, und das ist der Grund dafür, dass „Hier sind drei Beispiele für das Format, das ich möchte“ so gut als Anregungsgewohnheit funktioniert.
Im dauerhaften Sinne wird eigentlich nichts gelernt: Schließen Sie das Gespräch und die Fähigkeit ist verloren, da sie immer nur im Kontextfenster gelebt hat. Das ist eine Einschränkung und ein Feature zugleich. Es kostet nichts, ist sofort verfügbar und verbreitet sich jetzt über den Text hinaus. GEN-1.5 von Generalist AI macht den gleichen Trick mit Robotern und lädt eine kurze Videodemonstration in das Kontextfenster, anstatt auf stundenlangem Filmmaterial erneut zu trainieren.