Serving Models at Scale with Red Hat AI Enterprise
AI510
KI-Modelle für den produktiven Einsatz bereitstellen, skalieren und überwachen
Serving Models at Scale with Red Hat AI Enterprise
Kursbeschreibung
Ein KI-Modell zu entwickeln ist nur der erste Schritt. Für den Einsatz in Unternehmen müssen Modelle zuverlässig bereitgestellt werden, auch bei steigender Nachfrage. Dabei spielen die passende Infrastruktur, die Inferenzleistung und eine zuverlässige Überwachung eine wichtige Rolle.
Der Kurs Serving Models at Scale with Red Hat AI Enterprise (AI510) vermittelt, wie sich KI-Modelle mit Red Hat OpenShift AI für den produktiven Einsatz bereitstellen und verwalten lassen. Dabei geht es sowohl um generative als auch um prädiktive KI-Modelle.
Sie lernen verschiedene Ansätze für die Modellbereitstellung kennen und setzen diese praktisch mit vLLM, KServe und NVIDIA NIM um. Weitere Themen sind die verteilte Inferenz mit llm-d und die Planung von KI-Workloads mit Kueue.
Ein weiterer Schwerpunkt liegt auf dem Betrieb der Modelle. Sie lernen, wie sich bereitgestellte Modelle überwachen und ihre Leistung im laufenden Betrieb beurteilen lässt.
Hinweise
- Dieser Kurs basiert auf Red Hat OpenShift AI 3.4.
- Dieser Kurs wird als 2-tägige Präsenzschulung, sowie als 2-tägiger virtueller Kurs im Bundle mit der Red Hat Learning Subscription Course angeboten.
KURSINHALT
- Bereitstellung von KI-Modellen mit Red Hat OpenShift AI
- Auswahl geeigneter Bereitstellungs-Runtimes
- Optimierung von Modellen für den produktiven Einsatz
- Modellbereitstellung mit vLLM und KServe
- Einsatz von NVIDIA NIM Microservices
- Verteilte Inferenz mit llm-d
- Planung von KI-Workloads mit Kueue
- Bereitstellung generativer und prädiktiver KI-Modelle
- Überwachung von Modellen im Produktionsbetrieb
ZIELGRUPPE UND VORAUSSETZUNGEN
Zielgruppe
- Der Kurs richtet sich an KI-Platform Engineers, ML-Operations-Teams und Infrastrukturadministratoren, die für die Bereitstellung und den Betrieb von KI-Modellen mit Red Hat OpenShift AI verantwortlich sind.
Voraussetzungen
- Sie sollten mit den grundlegenden Konzepten von Red Hat OpenShift vertraut sein.
Alternativ empfiehlt Red Hat den vorherigen Abschluss des Kurses Red Hat OpenShift Developer II: Building and Deploying Cloud-native Applications (DO288). - Darüber hinaus benötigen Sie grundlegende Kenntnisse über Large Language Models, KI- und Machine-Learning-Konzepte sowie die Bereitstellung von Modellen.
- Wer noch wenig Erfahrung mit Red Hat OpenShift AI hat, sollte zuvor den Kurs Developing and Deploying AI/ML Applications on Red Hat OpenShift AI (AI267) besuchen. Dieser wird von Red Hat als Vorbereitung empfohlen.
PREISE UND SCHULUNGSFORMATE
Schulungsformate
Dauer: 2 Tage
Preis: € 2.660,00 (Private Training auf Anfrage)
Alle Preisangaben verstehen sich ohne gesetzliche Mehrwertsteuer.
Änderungen von Kurspreisen, -inhalten und -dauer vorbehalten.
WEITERFÜHRENDE KURSE UND EXAMEN
Kommende Termine für den Kurs AI510
Aktuell liegen zu diesem Kurs keine Termine vor. Wenn Sie sich für diesen Kurs interessieren, sprechen Sie uns gerne an. Wir beraten Sie persönlich und helfen Ihnen dabei, einen passenden Termin zu finden.
KURS ANFRAGEN >
KURS ANFRAGEN >
KOSTENLOSER WISSENSTEST
Testen Sie Ihr Red Hat Know-how und finden Sie direkt den passenden Kurs für Ihre Ziele.
UNVERBINDLICHE ANFRAGE
Gemeinsam zum Ziel: Lassen Sie sich individuell beraten und finden Sie Ihr ideales Red Hat Angebot.
UNSER KURSFINDER
Kursfinder nutzen: Entdecken Sie schnell und gezielt genau die Red Hat Themen, die Sie voranbringen.
Nicht sicher, welches Red Hat Training zu Ihnen passt?
Starten Sie kostenlos mit den Red Hat Technical Overview Courses!
Sie möchten herausfinden, welche Red Hat-Technologie zu Ihren Aufgaben und Zielen passt? Die kostenlosen Technical Overview Courses bieten einen kompakten Einstieg in Red Hat Enterprise Linux, Ansible, OpenShift, AI und weitere Technologien. Verschaffen Sie sich einen Überblick, entdecken Sie neue Möglichkeiten und finden Sie den passenden nächsten Schritt für Ihre Weiterbildung.
