AI-Hub — Kontrolliertes KI-Modell-Routing
Der AI-Hub ist die zentrale Schaltstelle für kontrollierte KI-Nutzung
in der intelego-Infrastruktur. Er steuert, welches Modell für welche
Aufgabe genutzt wird — lokal, hybrid oder Cloud.
Prinzip: lokale und spezialisierte Modelle zuerst, Cloud nur bei
echtem Bedarf und mit minimalem Kontext (fail-closed by default).
Enthält:
- LiteLLM-basiertes Routing und Proxy
- Policies: Datenschutz, Kostenschwellen, Provider-Locking
- Guardrails: Secret-Filter, personenbezogene Daten, Kontextbegrenzung
- Integration mit Operator/AaaS und IBP-Services
Quelle: https://gitlab.intelego.solutions/intelego/ibp/base/app/ai-hub
Der AI-Hub ist die zentrale Schaltstelle für kontrollierte KI-Nutzung in der intelego-Infrastruktur. Er steuert, welches Modell für welche Aufgabe genutzt wird — lokal, hybrid oder Cloud.
Prinzip: lokale und spezialisierte Modelle zuerst, Cloud nur bei echtem Bedarf und mit minimalem Kontext (fail-closed by default).
Enthält: - LiteLLM-basiertes Routing und Proxy - Policies: Datenschutz, Kostenschwellen, Provider-Locking - Guardrails: Secret-Filter, personenbezogene Daten, Kontextbegrenzung - Integration mit Operator/AaaS und IBP-Services
Quelle: https://gitlab.intelego.solutions/intelego/ibp/base/app/ai-hub