AI010 | TECHNICAL OVERVIEW
Red Hat AI Inference Server Technical Overview
Optimieren Sie Ihre KI-Workloads und senken Sie die Kosten mit Red Hat AI Inference Server.
Dieser technische Überblick über Red Hat AI Inference Server bietet Ihnen grundlegende Einblicke in die KI-Bereitstellung. Lernen Sie, wie Sie die Komplexität und Kosten der Ausführung von KI-Modellen in der Produktion bewältigen können. Erfahren Sie, wie die vLLM-basierte Lösung von Red Hat die Performance optimiert und erhebliche Kosteneinsparungen in Cloud-, On-Premise-, virtualisierten und Edge-Umgebungen ermöglicht.
Vertiefen Sie Ihre Wissen über fortschrittliche Techniken wie Quantisierung und spekulative Dekodierung, um Ihre KI-Inferenzfunktionen zu verbessern. Diese On-Demand-Videoinhalte demonstrieren die nahtlose Modellbereitstellung und -verwaltung in OpenShift AI und veranschaulichen, wie Sie beispiellose Effizienz und Flexibilität für Ihre KI-Workloads erreichen können.
Als Teil der Red Hat Technical Overview Courses ermöglicht diese Schulung einen unverbindlichen Einstieg in die Welt der Red Hat-Technologien. Die Inhalte werden in englischer Sprache präsentiert, wobei Untertitel in verschiedenen Sprachen, einschließlich Deutsch, verfügbar sind.
Kursinhalt
- Was ist Inferenz?
- Herausforderungen durch Inferenz
- Red Hat AI Inference Server Lösung
- Integration des Red Hat AI Portfolios
- Flexibles Deployment
- LLM-Komprimierungstool (Quantisierung)
- Techniken zur Optimierung der Performance (kV-Cache, spekulative Dekodierung, Tensor Parallel-Inferenz)
- Case Studies
- Modellbereitstellung und -verwaltung
- Storage-Verbindungen für Modelle
- Metriken und Überwachung
- Hugging Face-Integration
ZIELGRUPPE UND VORAUSSETZUNGEN
- Engineers und Fachkräfte aus dem Bereich KI/ML
- DevOps Engineers
- Cloud Architects und Cloud Engineers
- Technische Entscheidungstragende
PREISE UND SCHULUNGSFORMATE
Dieser Kurs besteht aus Videos und Lern-Folien, die Sie in Ihrem eigenen Tempo und beliebig oft ansehen können. Dieser Kurs enthält keine praktischen Übungen und keinen Teilnahmenachweis.
Gemeinsam mit unserem Partner Red Hat stellen wir diesen Kurs für Interessierte über unsere Partnerseite kostenlos zur Verfügung.
WEITERFÜHRENDE KURSE UND EXAMEN
Jetzt kostenlose Schulung buchen!
Nutzen Sie die Chance, Ihre KI-Workloads effizienter zu gestalten und dabei Kosten zu sparen!
Der Red Hat AI Inference Server bietet Ihnen flexible und leistungsstarke Möglichkeiten, KI-Modelle in unterschiedlichsten Umgebungen wie Cloud, On-Premises oder Edge zu deployen und zu verwalten. Sichern Sie sich jetzt Ihren Zugang zu diesem praxisorientierten, kostenlosen Kurs Red Hat OpenShift AI Technical Overview (AI010) und bringen Sie Ihre KI-Projekte auf Erfolgskurs!