WERKSTATT / TESTBERICHT

Was die Tests zeigen.

Lokale Modelle auf einem MacBook mit 48 GB RAM. Mit erfundenen Beispielen prüfen wir, wie gut sie Alltagsaufgaben lösen.

Neu vom 7. Oktober 2026: Kolibri, Kev und Gemma im grösseren lokalen Folio-Test →

24.09.2026 · 14 ERFUNDENE BEISPIELE

Was ist wirklich eine Aufgabe?

Drei Modelle ordnen dieselben Nachrichten ein: Aufgabe, unklar oder keine Aufgabe. Standardanweisung (v1).

Richtige Einordnungen / 14Antwortzeit · Median
Gemma 4 26B A4B
14/141.3 s
Qwen 3.6 35B A3B
13/1422.5 s
Qwen 3 30B A3B Thinking
12/148.2 s

Hilft eine genauere Anweisung?

Dieselben vierzehn Nachrichten haben wir zusätzlich mit einer präziseren Anweisung geprüft. Gemma lag bei beiden Varianten vorn.

ModellAnweisungRichtigZeit · Median
Gemma 4 26B A4BStandard (v1)14/141.3 s
Gemma 4 26B A4BPräzisiert (v1-strict)14/141.3 s
Qwen 3.6 35B A3BStandard (v1)13/1422.5 s
Qwen 3.6 35B A3BPräzisiert (v1-strict)12/1423.2 s
Qwen 3 30B A3B ThinkingStandard (v1)12/148.2 s
Qwen 3 30B A3B ThinkingPräzisiert (v1-strict)13/149.2 s

Von der Frage zur Rechnung.

In Ledger versteht Qwen 3.8 die Frage. Code sucht die Buchungen heraus und berechnet die Antwort.

28/30

Fragen verstanden

Das Modell wählte die passende Abfrage.

18/18

Abläufe bestanden

Der Weg von der Frage zur Antwort; neun Fälle nutzten das Modell.

28/28

Rechnungen bestanden

Abfragen und Summen direkt im Code geprüft.

ENTWICKLUNG

Wie die Werkstatt gewachsen ist.

  1. August–September 2026

    Am Anfang standen die Mails.

    Zuerst haben wir lokale Modelle an Mails verglichen. Manche lieferten leere oder unlesbare Antworten. Für die Auswahl zählten Antwortqualität, Tempo und die Gegenprüfung von Hand.

  2. 22. September

    Dann kamen die Finanzfragen.

    Bei Ledger lernten wir, das Verstehen einer Frage und das Rechnen getrennt zu prüfen. Nach Verbesserungen erreichte der Ablauf die oben gezeigten Ergebnisse.

  3. 24. September

    Kurze Nachrichten, genauer hingesehen.

    Drei Modelle probierten zwei Anweisungen. Dabei fiel auf: Unsere erwartete Antwort zu einer Besprechungsnotiz war falsch. Wir bewerteten die gespeicherten Antworten neu; diese Ergebnisse zeigen die Balken.

  4. Heute

    Jedes Modell bekommt seine Rolle.

    Antwortqualität, Tempo und menschliche Gegenprüfung bestimmen die Auswahl für die Mailverarbeitung. Der Katalog vereint zwölf Kandidaten aus verschiedenen Versuchen; die beiden Qwen-Versionen gehören zur selben Modellfamilie.

Der nächste sinnvolle Versuch: Gemma 4 26B an weiteren Mail-Grenzfällen und Werkzeugaufrufen prüfen.

← Zur Werkstatt