Modellzuordnung
Zuordnung der Aufgabe zum Modell nach Fähigkeit, Datenschutz, Geschwindigkeit, Kosten und Verfügbarkeit.
Swiss AI Factory: Modelle nach Aufgabe und Datenklasse zuordnen.
Factory soll Aufgaben nach Fähigkeit, Datenschutz, Geschwindigkeit, Kosten und Verfügbarkeit einem lokalen oder externen Modell zuordnen. Rechenlast kann auf mehrere Rechenknoten verteilt werden.
Kurz gesagt: Factory ist die Schicht zwischen Anwendung und Modellen. Sie soll Aufgaben einem Modell zuordnen, Last verteilen, geregelte Ersatzmodelle nutzen und Qualität messen. Die Anwendung greift über eine einheitliche Schnittstelle darauf zu.
Funktionen
Sechs Bausteine der Modellschicht.
Einheitlicher Modellzugang
Lokale und externe Modelle werden über eine gemeinsame Schnittstelle angesprochen.
Fähigkeitsprüfung
Modellfähigkeiten werden vor der Zuordnung anhand der Aufgabe geprüft.
Lastverteilung
Mehrere Rechenknoten und Modelle können Last aufnehmen. Zusätzliche Komponenten und Tests können nötig sein.
Ersatzmodell
Bei einem Ausfall kann gemäss vereinbarter Regel ein anderes Modell übernehmen. Das ist keine Verfügbarkeitsgarantie.
Qualitätsprüfung
Qualität, Kosten und Antwortzeit sollen je Modell und Aufgabe gemessen und in Studio angezeigt werden.
Routing-Kriterien
Wonach Factory konzeptionell auswählt.
Interne Regeln, Gewichtungen und Algorithmen legen wir nicht offen.
| Kriterium | Frage | Beispiel |
|---|---|---|
| Aufgabe | Klassifizieren, extrahieren, zusammenfassen, antworten, recherchieren? | Klassifikation braucht kein grosses Modell |
| Fähigkeit | Kann das Modell diese Aufgabe in dieser Sprache und Qualität? | Schweizerdeutsche Transkription |
| Datenschutz | Welche Daten dürfen an welchen Betriebsort? | Verträge gemäss geprüfter Datenklasse lokal verarbeiten |
| Geschwindigkeit | Wie schnell muss die Antwort da sein? | Telefon: Sekunden; Bericht: Minuten |
| Kosten | Was darf die Aufgabe kosten? | Massenklassifikation günstig, Einzelfall präzise |
| Verfügbarkeit | Ist das Modell gerade erreichbar und nicht ausgelastet? | Fallback auf zweites Modell |
Skalierung
Rechenleistung über Rechenknoten erweitern.
Die Architektur ist für zusätzliche Rechenknoten ausgelegt. Weitere Rechenleistung oder Fähigkeiten können zusätzliche Komponenten, Tests und Anpassungen erfordern.
Der Aufbau der Rechenknoten wird unter KI-Infrastruktur erklärt.
Häufige Fragen
Häufige Fragen zu Swiss AI Factory
Welche Modelle unterstützt Factory?
Lokale, spezialisierte und externe Modelle. Konkrete Modelle und Versionen nennen wir im Projekt, nicht öffentlich.
Garantiert Factory Verfügbarkeit?
Nein – wir versprechen keine absoluten Werte. Fallback und Load Balancing sind darauf ausgelegt, Ausfälle abzufangen; den Rahmen definieren wir je Projekt.
Kann ich ein Modell erzwingen?
Ja, über die Datenschutz- oder Aufgabenvorgabe in Studio: zum Beispiel «nur lokal» für bestimmte Datenklassen.
Zeigen Sie interne Details?
Öffentlich zeigen wir Prinzip, Layer und Datenfluss auf hoher Ebene. Interne Topologie, Routing-Regeln, Security-Rules und Versionsstände bleiben intern.
Ist das schon produktiv?
Den Reifegrad je Baustein weisen wir offen aus. Formulierungen wie «ist darauf ausgelegt» beschreiben die Architektur, nicht einen Kundeneinsatz. Studio, Agents und Teile der Factory laufen in unserer eigenen Entwicklungs- und Betriebsumgebung und werden laufend erweitert; weitere Betriebsformen, Mehrfach-Nodes sowie private und lokale Installationen kommen schrittweise dazu.
Nächster Schritt
Die Modelle, die zu Ihren Aufgaben passen.
Wir prüfen Aufgaben, Datenschutz-Vorgaben und Kosten und schlagen eine Modellstrategie vor.