Modelle verstehen
Was Modelle unterscheidet.
Die Begriffe, Zahlen und Werte, die dir im Katalog begegnen, einmal einfach erklärt.
Die Grundlagen
Fünf Ideen erklären das meiste von dem, was ein Textmodell vom anderen unterscheidet.
Tokens
Modelle lesen und schreiben in Tokens, also Wortstücken. Im Englischen ist ein Token etwa drei Viertel eines Wortes; Französisch braucht pro Wort etwas mehr. Textpreise werden pro Million Tokens berechnet.
Dieser Katalog macht das greifbar: Credits pro geschriebener Seite, wobei eine Seite etwa 500 Wörter hat.
Kontextfenster
Alles, was ein Modell gleichzeitig im Kopf behalten kann: deine Frage, die bisherige Unterhaltung, die Notizen oder Dateien, die Sub Rosa ihm übergibt, und seine eigene Antwort. Jenseits der Grenze fällt der älteste Teil heraus.
128.000 Tokens sind etwa 180 Seiten, eine Million etwa 1.400. Ein größeres Fenster hilft bei langen Dokumenten, macht ein Modell aber nicht klüger.
Denken
Manche Modelle denken nach, bevor sie antworten: Sie schreiben einen verborgenen Entwurf, prüfen ihn und antworten dann. Das kostet Zeit und Tokens und lohnt sich bei Mathe, Planung, Code und allem, was mehrere Schritte hat.
Bei vielen lässt sich der Aufwand einstellen. Für eine schnelle Umformulierung reicht wenig Aufwand; bei einem schweren Problem lohnt sich bei hohem Aufwand das Warten.
Tool-Aufrufe
Die Fähigkeit, Sub Rosa etwas tun zu lassen, statt nur Text zu schreiben: deine Notizen durchsuchen, eine Datei lesen, im Web suchen, ein Bild erstellen. Der Agent von Sub Rosa baut darauf auf.
Ein Modell ohne Tool-Aufrufe kann chatten, aber der Agent kann nicht mit ihm arbeiten. Jede Familienseite sagt dir, welche Versionen sie haben.
Multimodale Modelle
Ein Modell, das mehr als Text liest: Fotos, Screenshots, gescannte Seiten, manchmal Audio oder Video. Sub Rosa wechselt zu einem solchen Modell, wenn du ein Bild anhängst.
Unter der Haube
Was die Datentabellen bedeuten und warum sich zwei gleich große Modelle sehr unterschiedlich verhalten können.
Parameter
Die Zahlen, die ein Modell im Training gelernt hat, gezählt in Milliarden (Mrd.) oder Billionen (Bio.). Mehr Parameter können mehr Wissen fassen, aber die Qualität des Trainings zählt so viel wie die Größe.
Mixture of Experts und aktive Parameter
Viele neuere Modelle sind in Experten aufgeteilt, und nur wenige Experten arbeiten an jedem Token. Ein Modell mit 1 Bio. Parametern insgesamt und 32 Mrd. aktiven hat das Wissen eines sehr großen Modells und ungefähr die Geschwindigkeit und die Kosten eines Modells mit 32 Mrd.
Offene Gewichte
Der Hersteller veröffentlicht das Modell selbst, also kann es jeder auf eigenen Rechnern betreiben. Deshalb können offene Modelle im privaten Modus von einem Anbieter bereitgestellt werden, der nichts speichert; geschlossene Modelle laufen nur beim Hersteller.
Die Lizenz sagt, was du mit den Gewichten tun darfst. MIT und Apache 2.0 erlauben fast alles, auch die kommerzielle Nutzung.
Privat, anonymisiert, E2EE
Privat: Der Anbieter, der das Modell betreibt, behält nichts von deiner Anfrage, sobald er geantwortet hat. Anonymisiert: Deine Anfrage erreicht die Server des Modellherstellers ohne etwas, das verrät, wer du bist, und für ihren Inhalt gelten die eigenen Aufbewahrungsregeln des Herstellers.
E2EE-Versionen werden von ihrem Anbieter als Ende-zu-Ende-verschlüsselt geführt. Das ist die erklärte Richtlinie des Anbieters, nichts, was Sub Rosa überprüft, und diese Versionen können meist keine Tools aufrufen.
Credits und Preise
Ein Credit ist ein US-Cent. Text wird pro Token berechnet, Bilder pro Bild, Video pro Sekunde, Stimme pro Zeichen, Transkription pro Audiominute. Die App zeigt den genauen Preis, bevor etwas abgebucht wird.
Einen Benchmark lesen
Werte helfen beim Vergleichen, solange du weißt, was sie messen und wer sie gemessen hat.
Was ein Benchmark aussagt und was nicht
Ein Benchmark schickt jedes Modell durch denselben Test. Das ist der fairste Vergleich, aber er misst eine Sache an einem Tag: Ein Modell, das beim Code vorn liegt, kann beim Schreiben zurückliegen, und deine eigene Aufgabe ist der echte Test.
Jeder Wert in diesem Katalog zeigt, wer ihn wann gemessen hat. Kleine Unterschiede spielen in der Praxis selten eine Rolle.
Intelligence Index
Artificial Analysis lässt jedes Textmodell auf dieselbe Weise etwa zehn Tests zu Schlussfolgern, Wissen, Mathematik, Code und Agentenarbeit durchlaufen und mittelt sie zu einem einzigen Wert von maximal 100.
Zwei oder drei Punkte Abstand sind knapp. Zehn Punkte Abstand sind eine andere Modellklasse.
Arenen und Elo-Wertungen
Bei Bildern, Video und Stimmen gibt es keine richtige Antwort zum Prüfen, also fragen Arenen Menschen. Zwei Ergebnisse derselben Anfrage werden ohne Modellnamen nebeneinander gezeigt, und die abstimmende Person wählt eines. Tausende Duelle geben jedem Modell eine Elo-Wertung, wie im Schach.
Nur der Abstand zählt: Bei 100 Punkten Unterschied gewinnt das höher bewertete Modell etwa 64 % der Duelle. Deshalb zeigt der Katalog Elo als Punkte auf einer Achse statt als Balken ab null.
50 % wäre ein Münzwurf.
Wortfehlerrate
Bei Transkription: der Anteil der Wörter, die das Modell auslässt, hinzufügt oder falsch erkennt. Niedriger ist besser. Bei 5 % muss jedes zwanzigste Wort korrigiert werden; unter 3 % liest sich ein Transkript fast fehlerfrei. Akzente, Lärm und Durcheinandersprechen erhöhen den Wert bei jedem Modell.
Unabhängig oder vom Hersteller angegeben
Unabhängige Werte stammen von einem Dritten, der jedes Modell auf die gleiche Weise testet. Hersteller veröffentlichen zum Start auch eigene Zahlen, mit eigenen Einstellungen. Der Katalog hält beides getrennt und kennzeichnet die zweite Art.
Bilder, Video und Ton
Die Begriffe, die beim Erstellen von Bildern, Clips, Stimmen und Musik auftauchen.
Text im Bild
Lesbare Buchstaben zu zeichnen ist für Bildmodelle schwer: Viele schreiben Schilder und Etiketten noch falsch. Familien, die es gut können, sagen es, und das zählt für Poster, Speisekarten, Verpackungen und Folien.
Bearbeitung und Retusche
Eine Bearbeitung verändert ein Bild nach einer Anweisung: Das Modell kann einen großen Teil davon neu zeichnen. Eine Retusche verändert nur den Bereich, den du übermalst, und behält jedes andere Pixel bei. Sub Rosa bietet beides, in getrennten Tabs.
Text, Bild oder Referenzen zu Video
Text zu Video geht von einer Beschreibung aus. Bild zu Video animiert ein Bild, das du lieferst, und behält seinen Look. Referenzen zu Video nimmt mehrere Bilder einer Figur oder eines Produkts und hält sie über alle Clips hinweg einheitlich.
Nativer Ton und Lippensynchronität
Neuere Videomodelle erzeugen die Tonspur mit dem Bild: Stimmen, Effekte, Atmosphäre. Lippensynchronität heißt, dass die Münder zu den Worten passen, manchmal in mehreren Sprachen. Ohne nativen Ton ist ein Clip stumm, und du fügst den Ton danach hinzu.
Multi-Shot und Bewegungssteuerung
Multi-Shot-Modelle schneiden innerhalb eines Clips zwischen mehreren Shots, wenn der Prompt sie beschreibt. Bewegungssteuerung überträgt die Bewegung aus einem Clip, den du lieferst, auf deine Figur.
Stimmen, Songtexte und Lizenzen
Ausdrucksstarke Stimmmodelle folgen Tags wie [whispers] oder [laughs], die im Text stehen. Musikmodelle unterscheiden sich beim Songtext: Manche verlangen ihn, manche lehnen ihn ab. Mit lizenzierten Katalogen trainierte Modelle sind die sicherere Wahl für alles, was du veröffentlichst.