Aufgabe klassifizieren
Was ist zu tun, welche Datenklasse, welche Qualität ist nötig?
Modelle nach Aufgabe zuordnen und vor dem Einsatz prüfen.
Modellgrösse, Betriebsort, Kosten und Antwortzeit unterscheiden sich. Model Routing bedeutet, Aufgaben nach festgelegten Kriterien einem Modell zuzuordnen.
Kurz gesagt: Model Routing ist die Regel, nach der Swiss AI Factory Aufgaben auf Modelle verteilt. Die Anwendung stellt eine Aufgabe, Factory wählt das Modell – nach Fähigkeit, Datenschutz, Geschwindigkeit, Kosten und Verfügbarkeit.
Prinzip
Vier Schritte je Aufgabe.
Modelle bestimmen
Welche Modelle erfüllen die fachlichen und datenschutzbezogenen Vorgaben?
Auswählen
Nach Geschwindigkeit, Kosten und Verfügbarkeit – mit geregeltem Ersatzmodell.
Bewerten
Ergebnis, Kosten und Antwortzeit fliessen in die Qualitätsprüfung zurück.
Beispiele
Aufgabe und Modell zusammenbringen.
Konkrete Modelle und Versionen nennen wir im Projekt.
| Aufgabe | Anforderung | Typische Zuordnung |
|---|---|---|
| E-Mail klassifizieren | schnell, günstig, viele | kleines lokales Modell |
| Vertrag prüfen | präzise, sensibel | grösseres lokales Modell |
| Besprechung transkribieren | Schweizerdeutsch, intern | spezialisiertes Modell, Private Cloud |
| Marktrecherche | öffentliche Daten, breit | externes Modell |
| Bericht formulieren | Qualität, unkritische Daten | externes oder grosses lokales Modell |
Modellanpassung
Wenn Wissenszugriff und klare Anweisungen nicht ausreichen.
RAG bedeutet Antworten aus eigenen Dokumenten mit Quellenangabe. Reicht das nicht, kann ein Modell gezielt angepasst werden. Beim Fine-Tuning wird ein Modell mit Beispielen auf eine Aufgabe abgestimmt. Bei der Distillation übernimmt ein kleineres Modell ausgewählte Fähigkeiten eines grösseren. Aufwand und Nutzen werden separat geprüft.
Weiterführend
Verwandte Themen.
Häufige Fragen
Häufige Fragen zu Model Routing
Bindet uns die Modellzuordnung an Swiss AI?
Abhängigkeiten von Plattform, Schnittstellen und Verträgen müssen separat geprüft werden. Die Trennung der Anwendung kann einen Modellwechsel erleichtern.
Was braucht ein Modellwechsel?
Der Wechsel wird in Studio konfiguriert. Vor der Umstellung sind Qualitätsprüfung, Tests und mögliche Anpassungen nötig.
Zeigen Sie interne Details?
Öffentlich zeigen wir Prinzip, Layer und Datenfluss auf hoher Ebene. Interne Topologie, Routing-Regeln, Security-Rules und Versionsstände bleiben intern.
Ist das schon produktiv?
Den Reifegrad je Baustein weisen wir offen aus. Formulierungen wie «ist darauf ausgelegt» beschreiben die Architektur, nicht einen Kundeneinsatz. Studio, Agents und Teile der Factory laufen in unserer eigenen Entwicklungs- und Betriebsumgebung und werden laufend erweitert; weitere Betriebsformen, Mehrfach-Nodes sowie private und lokale Installationen kommen schrittweise dazu.
Nächster Schritt
Modellbedarf Ihrer Aufgaben klären.
Wir schlagen eine Modellstrategie mit Datenklassen und Ausfallregeln vor.