Technical Overview
Red Hat AI Inference Server
AI010
Maximale Effizienz, null Kosten: Lernen Sie in diesem kostenfreien Einführungskurs on-demand, wie Sie Ihre KI-Workloads mit dem Red Hat AI Inference Server flexibel optimieren.
Kursbeschreibung
Der Red Hat Technical Overview Course Red Hat AI Inference (AI010) bietet einen ersten Einblick in die Bereitstellung und Ausführung von KI-Modellen in Produktionsumgebungen. Der kostenlose technische Überblick richtet sich an KI- und ML-Fachkräfte, DevOps Engineers, Cloud Architects und technische Entscheider, die verstehen möchten, wie sich KI-Inferenz effizient und flexibel betreiben lässt.
Im Mittelpunkt steht der Red Hat AI Inference Server und die Frage, wie sich die Performance und Wirtschaftlichkeit von KI-Workloads verbessern lassen. Der Kurs vermittelt grundlegende Kenntnisse über Inferenz und typische Herausforderungen beim produktiven Betrieb von KI-Modellen. Dabei werden unter anderem flexible Deployment-Optionen und die Integration in das Red Hat AI Portfolio vorgestellt.
Darüber hinaus erhalten die Teilnehmer einen Überblick über Techniken zur Optimierung der Inferenzleistung. Dazu gehören Quantisierung, KV-Cache, spekulative Dekodierung und Tensor-Parallel-Inferenz. Auch Modellbereitstellung und -verwaltung, Storage-Anbindungen, Metriken und Monitoring sowie die Integration mit Hugging Face werden behandelt.
Der AI010 ist ein kostenloser Technical Overview ohne Voraussetzungen und eignet sich damit als kompakter Einstieg in das Thema KI-Inferenz und die entsprechenden Red-Hat-Technologien.
Die Kursinhalte werden in englischer Sprache vermittelt. Untertitel stehen in mehreren Sprachen, darunter Deutsch, zur Verfügung.
KURSINHALT
- Was ist Inferenz?
- Herausforderungen durch Inferenz
- Red Hat AI Inference Server Lösung
- Integration des Red Hat AI Portfolios
- Flexibles Deployment
- LLM-Komprimierungstool (Quantisierung)
- Techniken zur Optimierung der Performance (kV-Cache, spekulative Dekodierung, Tensor Parallel-Inferenz)
- Case Studies
- Modellbereitstellung und -verwaltung
- Storage-Verbindungen für Modelle
- Metriken und Überwachung
- Hugging Face-Integration
ZIELGRUPPE UND VORAUSSETZUNGEN
- Engineers und Fachkräfte aus dem Bereich KI/ML
- DevOps Engineers
- Cloud Architects und Cloud Engineers
- Technische Entscheidungstragende
PREISE UND SCHULUNGSFORMATE
Dieser Kurs besteht aus Videos und Lern-Folien, die Sie in Ihrem eigenen Tempo und beliebig oft ansehen können. Dieser Kurs enthält keine praktischen Übungen und keinen Teilnahmenachweis.
Gemeinsam mit unserem Partner Red Hat stellen wir diesen Kurs für Interessierte über unsere Partnerseite kostenlos zur Verfügung.
WEITERFÜHRENDE KURSE UND EXAMEN
KOSTENLOSER WISSENSTEST
Testen Sie Ihr Red Hat Know-how und finden Sie direkt den passenden Kurs für Ihre Ziele.
UNVERBINDLICHE ANFRAGE
Gemeinsam zum Ziel: Lassen Sie sich individuell beraten und finden Sie Ihr ideales Red Hat Angebot.
UNSER KURSFINDER
Kursfinder nutzen: Entdecken Sie schnell und gezielt genau die Red Hat Themen, die Sie voranbringen.
