Modell-Serving-Infrastruktur
Die technische Umgebung und die Prozesse, die für die Bereitstellung von trainierten Machine-Learning-Modellen als skalierbare und zuverlässige Dienste für Anwendungen zuständig sind. Sie ermöglicht die Inferenz (Vorhersage) der Modelle in Echtzeit oder im Batch-Modus.
Kategorie: Technologien & Infrastruktur
Nachdem ein KI-Modell trainiert und validiert wurde, muss es in eine Produktionsumgebung überführt werden, damit es Vorhersagen treffen kann. Die Modell-Serving-Infrastruktur umfasst alle Komponenten, die dafür notwendig sind.
Synonyme / Tags
- Model Deployment Infrastructure
- Inferenz-Infrastruktur
- ML Serving
Die ganze Definition im Member Hub braucht ein kostenloses Konto.