Modelle verstehen

Was Modelle unterscheidet.

Die Begriffe, Zahlen und Werte, die dir im Katalog begegnen, einmal einfach erklärt.

Die Grundlagen

Fünf Ideen erklären das meiste von dem, was ein Textmodell vom anderen unterscheidet.

Tokens

Modelle lesen und schreiben in Tokens, also Wortstücken. Im Englischen ist ein Token etwa drei Viertel eines Wortes; Französisch braucht pro Wort etwas mehr. Textpreise werden pro Million Tokens berechnet.

Dieser Katalog macht das greifbar: Credits pro geschriebener Seite, wobei eine Seite etwa 500 Wörter hat.

Kontextfenster

Alles, was ein Modell gleichzeitig im Kopf behalten kann: deine Frage, die bisherige Unterhaltung, die Notizen oder Dateien, die Sub Rosa ihm übergibt, und seine eigene Antwort. Jenseits der Grenze fällt der älteste Teil heraus.

128.000 Tokens sind etwa 180 Seiten, eine Million etwa 1.400. Ein größeres Fenster hilft bei langen Dokumenten, macht ein Modell aber nicht klüger.

Wie viel in ein Fenster passtIn Tokens, auf derselben Skala
  1. Eine lange Notiz (10 Seiten)7.000
  2. Ein Roman (etwa 300 Seiten)210.000
  3. 128K-Fenster128.000
  4. 1M-Fenster1.000.000

Denken

Manche Modelle denken nach, bevor sie antworten: Sie schreiben einen verborgenen Entwurf, prüfen ihn und antworten dann. Das kostet Zeit und Tokens und lohnt sich bei Mathe, Planung, Code und allem, was mehrere Schritte hat.

Bei vielen lässt sich der Aufwand einstellen. Für eine schnelle Umformulierung reicht wenig Aufwand; bei einem schweren Problem lohnt sich bei hohem Aufwand das Warten.

Tool-Aufrufe

Die Fähigkeit, Sub Rosa etwas tun zu lassen, statt nur Text zu schreiben: deine Notizen durchsuchen, eine Datei lesen, im Web suchen, ein Bild erstellen. Der Agent von Sub Rosa baut darauf auf.

Ein Modell ohne Tool-Aufrufe kann chatten, aber der Agent kann nicht mit ihm arbeiten. Jede Familienseite sagt dir, welche Versionen sie haben.

Multimodale Modelle

Ein Modell, das mehr als Text liest: Fotos, Screenshots, gescannte Seiten, manchmal Audio oder Video. Sub Rosa wechselt zu einem solchen Modell, wenn du ein Bild anhängst.

Unter der Haube

Was die Datentabellen bedeuten und warum sich zwei gleich große Modelle sehr unterschiedlich verhalten können.

Parameter

Die Zahlen, die ein Modell im Training gelernt hat, gezählt in Milliarden (Mrd.) oder Billionen (Bio.). Mehr Parameter können mehr Wissen fassen, aber die Qualität des Trainings zählt so viel wie die Größe.

Mixture of Experts und aktive Parameter

Viele neuere Modelle sind in Experten aufgeteilt, und nur wenige Experten arbeiten an jedem Token. Ein Modell mit 1 Bio. Parametern insgesamt und 32 Mrd. aktiven hat das Wissen eines sehr großen Modells und ungefähr die Geschwindigkeit und die Kosten eines Modells mit 32 Mrd.

Alle Experten tragen Wissen in sich; nur die wenigen, die für jedes Token ausgewählt werden, erledigen die Arbeit.

Offene Gewichte

Der Hersteller veröffentlicht das Modell selbst, also kann es jeder auf eigenen Rechnern betreiben. Deshalb können offene Modelle im privaten Modus von einem Anbieter bereitgestellt werden, der nichts speichert; geschlossene Modelle laufen nur beim Hersteller.

Die Lizenz sagt, was du mit den Gewichten tun darfst. MIT und Apache 2.0 erlauben fast alles, auch die kommerzielle Nutzung.

Privat, anonymisiert, E2EE

Privat: Der Anbieter, der das Modell betreibt, behält nichts von deiner Anfrage, sobald er geantwortet hat. Anonymisiert: Deine Anfrage erreicht die Server des Modellherstellers ohne etwas, das verrät, wer du bist, und für ihren Inhalt gelten die eigenen Aufbewahrungsregeln des Herstellers.

E2EE-Versionen werden von ihrem Anbieter als Ende-zu-Ende-verschlüsselt geführt. Das ist die erklärte Richtlinie des Anbieters, nichts, was Sub Rosa überprüft, und diese Versionen können meist keine Tools aufrufen.

Credits und Preise

Ein Credit ist ein US-Cent. Text wird pro Token berechnet, Bilder pro Bild, Video pro Sekunde, Stimme pro Zeichen, Transkription pro Audiominute. Die App zeigt den genauen Preis, bevor etwas abgebucht wird.

Einen Benchmark lesen

Werte helfen beim Vergleichen, solange du weißt, was sie messen und wer sie gemessen hat.

Was ein Benchmark aussagt und was nicht

Ein Benchmark schickt jedes Modell durch denselben Test. Das ist der fairste Vergleich, aber er misst eine Sache an einem Tag: Ein Modell, das beim Code vorn liegt, kann beim Schreiben zurückliegen, und deine eigene Aufgabe ist der echte Test.

Jeder Wert in diesem Katalog zeigt, wer ihn wann gemessen hat. Kleine Unterschiede spielen in der Praxis selten eine Rolle.

Intelligence Index

Artificial Analysis lässt jedes Textmodell auf dieselbe Weise etwa zehn Tests zu Schlussfolgern, Wissen, Mathematik, Code und Agentenarbeit durchlaufen und mittelt sie zu einem einzigen Wert von maximal 100.

Zwei oder drei Punkte Abstand sind knapp. Zehn Punkte Abstand sind eine andere Modellklasse.

Arenen und Elo-Wertungen

Bei Bildern, Video und Stimmen gibt es keine richtige Antwort zum Prüfen, also fragen Arenen Menschen. Zwei Ergebnisse derselben Anfrage werden ohne Modellnamen nebeneinander gezeigt, und die abstimmende Person wählt eines. Tausende Duelle geben jedem Modell eine Elo-Wertung, wie im Schach.

Nur der Abstand zählt: Bei 100 Punkten Unterschied gewinnt das höher bewertete Modell etwa 64 % der Duelle. Deshalb zeigt der Katalog Elo als Punkte auf einer Achse statt als Balken ab null.

Was ein Elo-Abstand bedeutetAnteil der Duelle, die das höher bewertete Modell gewinnt
  1. 25 Punkte Abstand54 %
  2. 50 Punkte Abstand57 %
  3. 100 Punkte Abstand64 %
  4. 200 Punkte Abstand76 %
  5. 300 Punkte Abstand85 %

50 % wäre ein Münzwurf.

Wortfehlerrate

Bei Transkription: der Anteil der Wörter, die das Modell auslässt, hinzufügt oder falsch erkennt. Niedriger ist besser. Bei 5 % muss jedes zwanzigste Wort korrigiert werden; unter 3 % liest sich ein Transkript fast fehlerfrei. Akzente, Lärm und Durcheinandersprechen erhöhen den Wert bei jedem Modell.

Unabhängig oder vom Hersteller angegeben

Unabhängige Werte stammen von einem Dritten, der jedes Modell auf die gleiche Weise testet. Hersteller veröffentlichen zum Start auch eigene Zahlen, mit eigenen Einstellungen. Der Katalog hält beides getrennt und kennzeichnet die zweite Art.

Bilder, Video und Ton

Die Begriffe, die beim Erstellen von Bildern, Clips, Stimmen und Musik auftauchen.

Text im Bild

Lesbare Buchstaben zu zeichnen ist für Bildmodelle schwer: Viele schreiben Schilder und Etiketten noch falsch. Familien, die es gut können, sagen es, und das zählt für Poster, Speisekarten, Verpackungen und Folien.

Bearbeitung und Retusche

Eine Bearbeitung verändert ein Bild nach einer Anweisung: Das Modell kann einen großen Teil davon neu zeichnen. Eine Retusche verändert nur den Bereich, den du übermalst, und behält jedes andere Pixel bei. Sub Rosa bietet beides, in getrennten Tabs.

Text, Bild oder Referenzen zu Video

Text zu Video geht von einer Beschreibung aus. Bild zu Video animiert ein Bild, das du lieferst, und behält seinen Look. Referenzen zu Video nimmt mehrere Bilder einer Figur oder eines Produkts und hält sie über alle Clips hinweg einheitlich.

Nativer Ton und Lippensynchronität

Neuere Videomodelle erzeugen die Tonspur mit dem Bild: Stimmen, Effekte, Atmosphäre. Lippensynchronität heißt, dass die Münder zu den Worten passen, manchmal in mehreren Sprachen. Ohne nativen Ton ist ein Clip stumm, und du fügst den Ton danach hinzu.

Multi-Shot und Bewegungssteuerung

Multi-Shot-Modelle schneiden innerhalb eines Clips zwischen mehreren Shots, wenn der Prompt sie beschreibt. Bewegungssteuerung überträgt die Bewegung aus einem Clip, den du lieferst, auf deine Figur.

Stimmen, Songtexte und Lizenzen

Ausdrucksstarke Stimmmodelle folgen Tags wie [whispers] oder [laughs], die im Text stehen. Musikmodelle unterscheiden sich beim Songtext: Manche verlangen ihn, manche lehnen ihn ab. Mit lizenzierten Katalogen trainierte Modelle sind die sicherere Wahl für alles, was du veröffentlichst.